"인스타그램 알려주세요" 연예인·친구 가리지 않는 '딥페이크'

[MT리포트] AI 시대의 '그늘' 딥페이크 ①

“무료로 지인 얼굴 합성·얼싸(얼굴에 사정) 딥페(딥페이크의 줄임말) 해드려요. 지인 인스타그램 필요해요. 비밀보장 당연. 연예인, 스트리머, 틱토커(동영상 앱 틱톡에 영상을 올리는 이용자)도 가능.”

기자가 트위터에서 ‘#딥페’라는 해시태그로 검색하자 불과 몇 시간 전 올라온 이같은 내용의 글들이 이어졌다. ‘#지인’ ‘#능욕’ 등의 해시태그가 같이 붙어 있었다. 이중에는 지인의 얼굴을 성행위로 흥분된 표정을 나타내는 은어 ‘아헤가오’(‘아, 헤’ 등의 소리를 내고 있는 얼굴이라는 뜻의 일본어)로 합성해 준다는 게시물도 수십건 검색됐다. DM(다이렉트메시지)을 보내면 지인 사진을 나체 사진이나 음란 영상에 합성해 주거나 이같은 불법 합성물을 공유하는 이른바 ‘합성방’으로 안내하는 식이다. 합성방은 텔레그램이나 디스코드 등 메신저로 연결됐다. 일부 계정에서는 “취미로 하는 작업”이라며 “돈은 받지 않는다”고도 안내했다. 트위터뿐 아니라 디스코드에서도 직접 관련 채팅방을 검색하자 1000원, 2000원 등 소액을 받고 딥페이크로 합성을 해준다는 합성 신청방이 검색됐다.

유명 연예인들을 노리던 딥페이크 범죄가 이제 일반인으로 확대되고 있다. 아는 지인의 얼굴을 활용해 불법 음란물과 합성해달라는 청탁 사례가 늘고 있다는 것. 당사자들의 의사와는 전혀 무관한 명예훼손이자 모욕죄에 해당한다. 이 영상이 공유될 경우 더욱 심각한 범죄행위가 될 수 있다.

더욱 우려되는 건 딥페이크 기반 영상물 제작이 자동화되면서 마음만 먹으면 누구나 쉽게 영상 합성물을 만들 수 있다는 점이다. 최근에는 딥페이크 합성 영상을 손쉽게 만들 수 있는 스마트폰 앱도 있다. 지난해 12월 딥페이크를 이용한 지인 능욕 성 영상물을 제작해 SNS(사회관계망서비스)에 유포한 혐의로 전북 전주에서 30대 남성이 경찰에 붙잡혔는데, 이 용의자도 딥페이크 기능이 탑재된 스마트폰 앱을 사용한 혐의를 받고 있다. 일반인 누구나 딥페이크 피해에 노출돼 있고, 또 언제든 가해자가 될 수도 있다. 네이버 지식IN 등 공개 게시판에서도 자신이 청소년이라며 “딥페이크를 제작한 적 있는데 처벌 대상이냐”는 문의 글을 심심찮게 찾아볼 수 있다.

딥페이크 영상물 피해가 많아지면서 최근 이를 기술적으로 탐지, 추적하는 보안 기술도 개발되고 있다. 하지만 범람하고 있는 딥페이크 영상물 범죄를 막기엔 기술적 대책만으로는 한계가 있다는 지적이다. 우사이먼성일 성균관대 데이터사이언스융합학과 교수는 “딥페이크 탐지기술 개발도 중요하지만 사회·제도적인 해결책이 우선 필요하다”고 지적했다.