2021년 아랍에미리트(UAE)의 한 은행에서 대기업 임원의 전화를 받고 3500만달러(당시 환율 약 420억원)를 송금했다. 하지만 전화를 건 사람은 기업 임원이 아니라 '인공지능(AI) 딥보이스'로 임원의 목소리를 흉내낸 전화사기단이었다. 평소 이 임원의 목소리를 잘 알았던 은행 관계자는 한치의 의심도 없이 거액을 이체했다. 전화 한통으로 순식간에 수백억원이 털린 것이다. 미국 IT 전문조사업체 가트너는 올해 금융사기범죄 20%에 이런 딥페이크 기술이 악용될 것이라고 전망했다.
우리 경찰청도 지난해 10월 딥보이스를 이용한 보이스피싱을 주의하라는 공익 영상을 냈다. 영상 속 어머니는 딸의 음성으로 '휴대폰 수리비 80만원을 보내달라'는 부탁을 받지만 목소리의 주인은 딸로 둔갑한 사기단이었다. 영상의 제목은 '소름주의 내 딸인 줄 알았는데'. 댓글에는 "공포영화급"이라는 반응이 이어졌다.
인공지능을 악용한 딥보이스 신종범죄 피해가 급증하고 있다. UAE의 사례처럼 해외에서는 한건에 수백억원의 피해가 발생하는 딥보이스 범죄도 속속 보고된다. 검찰청은 이런 AI 신종범죄에 대한 대응책의 일환으로 2027년까지 딥보이스 가짜음성 탐지기술 개발(음성·텍스트 딥러닝 기술 기반 보이스피싱 예방기술 개발)에 나서기로 했다. AI를 타고 첨단기술화하는 범죄와의 전쟁에서 AI 기술로 대응하겠다는 것이다.
━
"눈눈이이, AI 막는데는 AI"…딥페이크 탐지 개발 속도━
11일 검찰에 따르면 대검 과학수사부(부장 정진우 검사장)는 2024~2027년 딥보이스 기술 개발에 착수하기로 했다. 4개년 국책사업으로 진행한 '형사사법 증거 검증체계 고도화 및 프런티어 기술 개발 연구사업'이 올해 말 종료되면 딥보이스 범죄 예방 기술을 후속 국책과제로 추진할 방침이다. 검찰이 신종범죄로 떠오른 딥보이스 탐지에 초점을 맞춰 기술 개발에 나서는 것은 처음이다.
음성 복제·합성·변조 기술인 딥보이스는 '목소리 딥페이크'다. 인공지능의 딥러닝(심화학습) 기술로 '진짜 같은 가짜(fake)' 목소리를 만드는 목소리 바꿔치기 기술이 딥보이스다. 누군가의 음성 파일을 따 다른 사람의 입모양에 덧씌우는 음성합성 기술이나 게임 등에서 이용자의 목소리를 캐릭터의 소리로 바꿔주는 음성변조 기술이 범죄에 악용된다.
딥보이스 범죄가 무서운 것은 경찰청이 공개한 공익 영상에서처럼 지인의 목소리로 피해자를 속일 수 있다는 점이다. '조선족 말투'로 이상한 낌새를 알아차릴 수 있었던 과거 보이스피싱과 달리 익숙한 지인의 목소리로 접근하는 딥보이스 범죄에서는 전문가들도 가짜 여부를 구별하기 쉽지 않다.
홍기훈 숭실대 전자정보공학부 교수는 "국내에서도 피해자들이 종종 '자녀의 목소리인 줄 알았다'고 하는데 딥보이스를 활용한 범죄"라고 말했다.
전창배 국제인공지능윤리협회 이사장은 "2~3분짜리 목소리 녹음 파일이 있으면 전문가가 아니라도 앱을 이용해 딥보이스를 만들 수 있다"며 "이런 기술이 진짜와 가짜를 구별할 수 없을 정도로 발전했다"고 말했다.
━
쉬워진 제작기술에 피해 일파만파…정부·국회·수사당국 삼각 선제대응 절실━
딥보이스 범죄는 유튜브에서 유명인의 목소리를 따 악용하는 범죄에도 활용될 수 있다. 지난해 볼로디미르 젤렌스키 우크라이나 대통령의 '항복 선언' 가짜 영상이 유튜브에 퍼졌던 게 대표적이다.
기술적으로는 일반 음성과 합성 음성의 주파수나 코드 차이를 구분하는 방식 등으로 딥보이스 여부를 판별해 범죄를 예방할 수 있지만 실제로 이런 기술을 개발하는 데는 상당한 시간이 걸린다. 합성·변조 기술의 발전 속도가 워낙 빨라 다양한 형태로 만들어지는 합성·변조음을 일일이 판별할 수 있는 기술을 제때 상용화하기는 쉽지 않다는 얘기다.
범죄 적발과 처벌 영역에서는 딥보이스 탐지 기술로 적발한 범죄 증거물을 법원에서 인정받는 것도 넘어야 할 산이다. 대검 관계자는 "결과물이 법원에서 증거로 인정받으려면 그만큼 탐지 기술의 안정성이 높아야 한다"며 "기술에 올라탄 범죄에 맞서기 위해 더 치밀한 대응기술이 필요해진 상황"이라고 말했다.
전문가들은 딥보이스 범죄 확산을 막기 위해선 정부와 국회도 적극적으로 나서야 한다고 주문한다. 탐지 기술은 수요자가 수사기관 등으로 한정돼 개발 유인이 적기 때문에 정부가 예산을 들이지 않으면 기업이 먼저 나서기 어렵다는 얘기다.
전창배 이사장은 "정치권에서 아직 딥보이스나 인공지능에 대한 관심이 크지 않은데 골든타임을 놓치면 안 된다"고 말했다.
[저작권자 @머니투데이, 무단전재 및 재배포 금지]