범인 음성 찾는 AI 개발했지만…가짜 목소리 범죄 예방 '산 넘어 산'

[MT리포트-신종범죄의 습격 1부: 딥보이스, AI 범죄 잡는 AI]③

대검찰청은 지난해 한국어에 특화된 '자동 화자(話者) 확인 시스템'을 개발했다. 증거녹취록의 음성을 입력하면 어떤 용의자의 목소리와 일치하는지를 자동으로 비교·대조해 동일인을 찾아주는 프로그램이다. 'CSI' 같은 과학수사물에서 범인의 지문을 입력하면 범죄자 데이터베이스를 뒤져 동일한 지문을 자동으로 검색해주던 지문확인 시스템의 음성판이다.

대검 관계자는 "2016년부터 범죄 용의자의 음성을 식별하는 기술을 꾸준히 연구한 결과"라며 "보이스피싱 등 음성 관련 범죄가 늘면서 이런 기술이 수사에서도 중요해졌다"고 말했다.

하지만 검찰이 어렵사리 개발한 이 기술도 최근 국내외에서 고개를 들기 시작한 '딥보이스(인공지능을 이용해 만들어낸 가짜 목소리) 범죄' 앞에서는 속수무책이다. 현재 시스템은 인공지능이 만들어내는 가짜 목소리를 가짜로 인식하지 못하기 때문이다. 대검이 첨단 신종범죄 대응방안의 우선대책으로 2027년까지 딥보이스 탐지 기술 개발에 나서기로 한 이유다.

대검 과학수사부는 큰 틀의 계획을 세운 상태다. '합성 유형 조사→합성음 탐지 기술 개발→음성 변조 탐지 기술 개발→결과물 보완·통합 솔루션 개발' 순으로 연구를 진행할 계획이다.

기술 개발에는 긴 시간이 걸릴 수밖에 없다. 민간에서도 카이스트를 비롯해 여러 연구소가 탐지 기술을 개발하고 있지만 수천 수만가지의 딥보이스 유형에 맞춰 각각의 탐지 기술을 개발해야 하는 만큼 속도가 더디다. 특정 컴퓨터바이러스를 탐지·제거하려면 특정 백신을 개발해야 하듯 AI 프로그램으로 만드는 딥페이크와 이를 잡는 AI 탐지기술은 '창과 방패의 싸움'이다.

최근의 딥보이스 기술은 수십년 동안 음성 분야에 몸을 담아온 전문가들도 진위를 가리지 못할 정도로 발전했다. 지난해 9월 열린 세계 최대 음성신호처리학회 '인터스피치'에 참석했던 김경화 대검 음성분석실장은 "사람이 말하는 것처럼 감정을 표현하고 말하는 사람의 얼굴 모양과 음성을 나이에 맞춰 조작할 수도 있는 수준"이라고 전했다.

전문가들 사이에서 딥보이스 기술이 딥페이크 영상과 합쳐져 악용될 경우 피해 규모를 상상하기 어렵다는 얘기가 나오는 게 이 때문이다. 딥페이크 영상을 잡아내는 기술 개발도 꾸준히 이어지고 있다. 삼성SDS 사내벤처 팀나인과 최종원 중앙대 첨단영상대학원 교수 연구팀이 신분증 등 인물 이미지의 위변조 여부를 99.9%까지 판단하는 탐지 기술을 개발했다. 마이크로소프트는 2021년 1월 세계 최대 가전 전시회 CES에서 영상의 퇴색 정도를 분석하는 방식으로 딥페이크 영상물을 가려내는 가짜뉴스 유포 방지용 기술을 선보였다.


유하진 서울시립대 컴퓨터과학부 교수는 "탐지기술 연구가 시작된 게 길게 봐야 3~4년 전이라 상용화된 탐지 기술은 거의 없는 상황"이라며 "인공지능 기술 발전에 따라 딥보이스 기술도 빠른 속도로 발전하고 있어 지금부터라도 대비하지 않으면 앞으로 새로운 유형의 딥보이스 범죄에 전혀 대응할 수 없는 상황이 발생할 수도 있을 것"이라고 말했다.

삼성SDS 사내벤처 '팀나인'이 만든 딥페이크 탐지 솔루션 시연 예시. /사진제공=삼성SDS

마이크로소프트가 2021년 1월 세계 최대 IT·가전 전시회 CES에서 선보인 딥페이크 영상 탐지 솔루션. 좌우가 비슷해 보이지만 해당 이미지가 딥페이크로 추정되는 순간 빨간색으로 이미지가 딥페이크일 확률이 나타난다. /사진=마이크로소프트 블로그