합성 포르노 '딥페이크'…피해자 25%는 '한국 女연예인'

네덜란드 사이버 보안 연구 회사 '딥트레이스' 9월 보고서에서 분석

할리우드 배우 케이트 맥키넌이 미국 대선후보였던 힐러리 클린턴을 따라한 영상을 활용한 딥페이크. 힐러리 클린턴의 표정이나 얼굴이 매우 자연스럽다./사진=유튜브 'WatchMojo.com' 캡처

인공지능 기술을 이용해 포르노 영상에 연예인 얼굴을 합성하는 포르노 '딥페이크'가 급증한 가운데, 얼굴 도용 피해자의 25%가 한국 여자 연예인인 것으로 나타났다.

네덜란드의 사이버 보안 연구 회사 '딥트레이스'의 지난 9월 딥페이크 연구 보고서에 따르면 딥페이크 영상이 올해 현재 1만4798개로 지난해 12월 7964개에 비해 약 두 배 가까이 늘어난 것으로 분석됐다. 또한 딥페이크 영상 중 96%가 포르노로 소비되고 있으며, 얼굴 합성 피해자 중에는 미국·영국 여배우(46%) 다음으로 뮤지션 K(케이)팝 가수 등 한국 여성 연예인(25%)이 많은 것으로 나타났다. 딥트레이스의 연구진들은 2차 피해를 막기 위해 피해자들의 이름은 공개하지 않겠다고 밝혔다.

롤링스톤은 한국 여자 연예인들이 딥페이크 영상 주인공의 25%를 차지하는 것에 대해 "케이팝이 50억달러(약 5조9740억) 규모의 세계적인 산업으로 성장하면서 케이팝 스타들이 딥페이크 영상의 피해자가 되고 있다"며 한류 열풍을 이유로 꼽았다. 이어 한국 여자 연예인들을 합성한 딥페이크 영상은 대부분 한국이 아닌 중국에서 제작됐으며, 이는 중국이 케이팝 주 소비국 중 하나인 만큼 관심도 많기 때문이라고 설명했다.

할리우드 스타 킴 카다시안의 딥페이크 영상. 카다시안의 기존 인터뷰를 이용해 그가 하지 않은 발언을 지어냈다. 딥페이크 영상 속 카다시안은 "나는 악플러들을 신경쓰지 않는다" 등의 발언을 이어갔다./사진=빌 포스터 인스타그램 캡처

딥페이크는 인공지능 기술을 활용해 특정 인물의 얼굴을 원하는 영상에 붙이는 합성 영상이다. 딥페이크 기술을 사용하면 어떤 영상에든 원하는 인물에 얼굴을 붙일 수 있고, 가짜 동영상도 만들 수 있다. 표정이나 이목구비의 움직임뿐만 아니라 제스처와 목소리까지 구현한다.

헨리 아이더 연구 분석 책임자는 BBC와의 인터뷰에서 "딥페이크에 대한 기존 논의가 많이 빗나갔다"며 "처음 딥페이크 기술 등장 당시 사람들은 정치적 문제나 사기 범죄가 증가할 것이라고 우려해, 정작 여성을 다치게 하는 딥페이크 포르노가 문제가 될 것을 간과했다"고 지적했다.

이어 딥트레이스는 다양한 각도에서 얼굴을 담은 사진 250장만 있으면 이틀 안에 딥페이크 포르노를 맞춤 제작할 수 있다고 밝혔다. 이런 영상을 판매하는 업체도 생겨났으며 앱, 온라인 등으로 쉽게 접근 가능해졌다. 심지어 영상의 제작 최소 가격은 2.99달러(약 3572원)에 불과한 것으로 나타났다.

하지만 딥페이크 규제 속도는 이러한 기술 발전 속도를 따라잡지 못하고 있다. 한국에서는 과학기술정보통신부가 올해 약 20억원의 예산을 들여 불법 음란 동영상을 인공지능으로 걸러내는 기술 개방에 나섰지만 기술 발전 속도를 따라잡기엔 역부족이라는 지적이다.


딥페이크 영상 제작을 법적으로 처벌하기 어렵다는 문제도 존재한다. 한국은 딥페이크를 합성 사진이나 영상으로 분류한다. 이를 상업적 목적으로 제작해 유포 시 정보통신망 이용 촉진 및 정보보호 등에 관한 법률 70조(사이버 명예훼손)나 형법 제244조(음란물건제조죄)에 위반되지만 강력한 규제 방안이나 대응 방안은 마땅치 않다.

미국의 경우 각종 법안을 통해 이를 막기 위해 노력하고 있다. 버지니아주에서는 7월부터 딥페이크를 보복성 음란물에 포함한다는 법안을 발효한 바 있다. 이에 따라 딥페이크 제작은 1등급 경범죄로 취급돼 최대 12개월 징역 또는 벌금 2500달러(약 298만원)가 부과될 수 있다.