━
정치권 나서도…아이돌 성적묘사 '알페스 용의자' 다 풀려났다━
12일 경찰에 따르면 2021년 6월 서울 영등포경찰서가 성폭력범죄의 처벌 등에 관한 특례법(성폭력처벌특례법) 위반혐의로 입건해 기소의견으로 서울남부지검에 송치한 알페스 제작·유포 용의자 7명이 최종 기소유예 처분을 받은 것으로 확인됐다. 이는 같은 해 1월 하태경 국민의힘 의원과 이준석 국민의힘 최고위원(현 개혁신당 의원) 등이 알페스 관련자 110여명을 경찰에 수사의뢰한 결과다.
◆ 미성년 아이돌 성행위까지 묘사한 알페스·섹테 모두 기소유예
알페스는 RPS(Real Person Slash)를 빠르게 발음한 단어다. 대개 아이돌 팬들이 멤버들을 주인공으로 등장시키는 가상스토리 '팬픽'의 일종으로 여겨지는데 아이돌을 성적 대상화하고 이들의 성적 지향과 상관없이 '남성 동성애'로 스토리를 만드는 게 특징이다. 미성년 아이돌 멤버를 대상으로 한 알페스도 텔레그램 등을 중심으로 빠르게 퍼져나갔다.
특히 미성년 아이돌 등을 대상으로 노골적 성행위를 묘사하는 콘텐츠까지 퍼지면서 사회적 문제가 됐다. 2021년 1월 알페스를 처벌해달라는 청와대 국민청원에는 22만여명이 힘을 보탰다. 고주희 당시 청와대 디지털소통센터장이 "아동·청소년의 성행위 등을 표현하는 그림을 포함하거나 딥페이크를 이용해 특정인을 성적 대상화하는 경우에는 현행법상 처벌대상이 된다"고 밝혔지만 결국 기소유예라는 솜방망이 처분에 그쳤다.
경찰이 입건한 7명 중 2명은 단순한 글·그림 알페스가 아닌 '섹테'를 제작해 배포한 것으로 알려졌다. 섹테는 목소리를 짜깁기해 마치 성행위 중 신음소리를 내는 듯한 연출이 가미된 음성파일이다. 이는 성착취물에 해당하는지 여부에 대해 논란이 있는 알페스와 달리, 현행법으로도 충분히 처벌 가능하다는 게 법조계의 주된 의견이었다.
일명 '딥페이크 방지법'으로 불리는 성폭력범죄처벌특례법 14조 2의 1항은 처벌 대상 영상물을 규정하면서 '사람의 음성을 대상으로 한 음성물'을 '대상자의 의사에 반해 성적 욕망 또는 수치심을 유발할 수 있는 형태로 편집·합성 또는 가공한 자'를 포함한다.
◆ "늘어나는 디지털 성범죄, 법적 대응 위한 사회적 논의 필요해"
이 교수는 "어느 정도의 행위까지가 반사회적인 것으로 인정되는지에 대한 사회적 논의가 부족한 가운데 디지털 윤리의식도 박약해 디지털 성범죄물이 급증했을 것"이라며 "최근에는 디지털 성범죄물의 제작·소지만으로도 처벌하자는 의견이 광범위한 지지를 받는 것으로 보인다"고 전했다. 이어 "사회적 공감대가 먼저 형성돼야 국회에서도 법이 통과될 수 있을 것"이라며 "기술의 발전을 악용하는 행위에 대해 법이 어떻게 적절하게 개입할 수 있을지 논의할 시점"이라고 덧붙였다.
━
'딸깍' 10초만에 딥페이크 합성…사진 한 장만으로 '생지옥'━
직접 딥페이크 콘텐츠 제작에 도전했다. 고도의 기술력과 거창한 프로그램이 필요할 것이란 기존 생각과 달리 웹사이트와 모바일 앱스토어에선 다양한 AI(인공지능) 얼굴 합성, 딥페이크 제작 앱이 유통되고 있다. 이들 앱 대부분은 기본적인 이미지 합성 기능을 무료로 제공한다. 정기권을 구매(3일 무료 체험 가능)하면 고화질 이미지 합성, 영상합성 등 프리미엄 서비스까지 이용할 수 있다.
영상도 도전했다. 영상은 사진보다 훨씬 많은 사실감을 요구한다. 정면 사진만 신경 쓰면 되는 이미지 합성과 달리 영상은 표정 변화와 얼굴 측면까지 고려해야 한다. 프로그램을 통해 '이소룡'과 '닥터 스트레인지' 영상을 합성했다. 영상합성 역시 20초 정도로 빠르게 제작됐다. 움직임에 따라 변하는 표정이 꽤 자연스러웠다. 뭔가 웃기면서 어색했지만, 일반 영상으로 제작했다면 감쪽같을 수 있겠다는 생각을 했다.
AI 기술 발전으로 이젠 이미지와 영상이 진짜인지 가짜인지 의심해야 하는 시대가 왔다. 물론 딥페이크를 잘 활용하면 좋은 기능으로 사용할 수 있지만, 성범죄 등 악용 사례가 발생하면서 이를 규제할 강력한 법적 조치나 제도적 장치가 필요해 보인다. 자신의 사진이 어디서 어떻게 불법으로 활용되는지 모르는 세상에 살아가는 것이 정말 무섭다.
━
텔레그램이 딥페이크 온상인데…또 국내 플랫폼만 때려잡나━
12일 IT(정보기술) 업계에 따르면 딥페이크 문제가 터진 이후로 국회에는 관련 법안이 30건 이상 발의됐다. 주로 딥페이크를 편집, 합성, 가공하는 것뿐만 아니라 소지, 구입, 저장, 시청하는 행위에 대해 처벌 규정을 신설하고 상습적인 경우 형을 가중하는 내용이 대부분이다. 가해자에 대한 수사·처벌 강화, 방송통신심의위원회의 역할과 중요성 격상, 허위 영상물 삭제 등 피해자 지원을 위한 내용도 포함됐다.
이에 대해 플랫폼 업계와 학계 등에서는 딥페이크를 규제해야 한다는 점에 공감하지만 자칫 분위기에 휩쓸려 과도한 규제로 이어져선 안 된다고 지적한다. 생성형 AI 등장 이후 하루가 다르게 기술이 발전하고 있는 상황에서 섣부른 규제는 국내 플랫폼에 대한 역차별 문제를 일으키고 산업 발전에 부담을 줄 수 있다는 취지다.
이날 방송회관에서 열린 '딥페이크 성범죄영상물 OUT! 현안 진단과 대책 모색' 토론회에서 최경진 가천대학교 법과대학 교수는 딥페이크 관련 법제도 개선 방향으로 △AI가 실제 적용되는 분야의 특성과 구체적인 위험성을 고려한 비례적 규제 체계 정립 △자율 준수 강화 등을 제시했다. 그러면서 정부는 정부대로 법적 규제를 준비하되 기업은 자율규제를 강화해야 한다고 강조했다.
정필운 한국인터넷법학회장은 "네이버, 카카오와 같은 국내 사업자와 구글, 페이스북 같은 외국 사업자를 동등하게 대우하지 못하는 비대칭 규제가 가져온 결과를 생각해 볼 필요가 있다"며 "이른바 역차별이라고 불리는 이 문제는 국내 정보기술 산업의 발전을 가로막는 고전적인 문제 중 하나"라고 말했다. 이어 "유튜브, 텔레그램에 대한 실효적인 대응이 어려운 것에서 볼 수 있듯이 지금이라도 비대칭 규제에 대한 전향적인 인식을 할 필요가 있다"고 덧붙였다.
이번에도 텔레그램이라는 외국계 플랫폼에서 문제가 터졌는데 이를 이유로 전체 플랫폼에 대한 규제 법안을 새로 만들었다가 국내 플랫폼만 규제를 적용받을 수 있다는 게 업계의 관측이다. 최근 텔레그램이 불법 소지가 있는 부분을 수정하겠다는 뜻을 밝혔으나 이는 CEO(최고경영자)가 수감돼있기 때문이지 현실적으로는 국내 수사기관에서 접근조차 어려운 게 텔레그램이기 때문이다.
실제로 국내 플랫폼은 딥페이크 방지를 위해 여러 장치를 마련해두고 있다. 네이버(NAVER)의 경우 실시간 AI 이미지 필터링 시스템 '클로바 그린아이'를 각 서비스에 적용해 딥페이크를 걸러내고 있고 카카오도 포털 다음에서 딥페이크 관련 검색어를 청소년 보호 검색어로 지정하는 등 관련 노력을 기울이고 있다.
이소은 국립부경대 미디어커뮤니케이션학부 교수는 "딥페이크 악용 이미지를 삭제하거나 업로더 활동 금지, 관련 커뮤니티 폐쇄, 관련 검색어 금지 등 플랫폼 사업자의 자율규제가 필요하다"며 "플랫폼 책무를 부과하는 입법에 대해서는 산업계에 미치는 부작용도 고려해야 한다"고 강조했다.
한 플랫폼 업계 관계자는 "국내에서는 워낙 플랫폼 산업에 대한 규제가 강해 한 번이라도 문제가 생기면 큰 타격을 입을 수 있어 다들 조심하는 분위기"라며 "자체적으로 시스템도 마련하고 모니터링도 운영하면서 딥페이크 같은 성범죄에 대응하고 있다. 지금도 외국계 기업은 국내 규제를 우습게 아는데 추가적으로 규제가 생기면 국내 산업만 더욱 위축될 것"이라고 말했다.
━
딥페이크 공화국 오명 쓴 한국…옆에서 몰래 거드는 중국━
가디언·BBC·월스트리트저널(WSJ) 등 주요 외신은 최근 한국의 딥페이크(Deepfake·이미지 합성 기술) 음란물 사태를 집중 조명했다. 이들은 한국이 몰카(몰래카메라), 텔레그램 'N번방' 사태 등 "디지털 성범죄 관련 어두운 역사가 있다"며 이번에 딥페이크 음란물과 싸우며 전 세계적 문제의 진앙이 됐다고 평가했다. 그러나 딥페이크 음란물 문제는 과거 미국 등에서도 논란이 됐었고, 확산한 영상 대부분이 중국에서 만들어진 것이라며 한국이 오명을 쓰고 있다는 주장도 있다.
12일 주요 외신 보도를 종합하면 매체들은 한국의 성(性)차별, 성희롱 문화, 왜곡된 성인식 속 AI(인공지능) 등 첨단기술 발전, 낮은 처벌 강도 등이 한국 내 디지털 성범죄의 폭발적인 증가로 이어졌다고 지적한다. 특히 영상을 유포하는 채팅창이 한국어로 이뤄졌다는 점을 앞세워 딥페이크 음란물 제작자와 이를 원하는 사람들이 한국인이라고 특정했다.
WSJ은 "익명의 텔레그램 사용자 수십만 명이 이미지와 동영상으로 조작된 한국 여성들의 사진을 (당사자의) 허락 없이 유포했다. 영상이 유포된 채팅창은 한국어로 이뤄졌다. 이는 해당 채팅방에 있는 사람들이 한국인이라는 것을 보여준다"고 전했다. 특히 일부 연구 결과를 인용해 "한국은 전 세계에 확산한 딥페이크 음란물의 약 절반을 공급하는 국가"라며 한국의 딥페이크 음란물 사태가 상당히 심각한 수준이라고 짚었다. 프랑스 일간지 르몽드는 과거 오랫동안 '불법 촬영 공화국'으로 불렸던 한국이 이젠 '딥페이크 공화국'이 됐다고 전하기도 했다.
다만 일부 매체들은 딥페이크 음란물 대부분이 중국에서 만들어졌다는 과거 연구 자료를 인용해 한국을 '중국발 영상의 피해국'으로 봤다. 미국 대표 대중문화잡지인 롤링스톤은 2019년 네덜란드 사이버보안 연구업체 딥트레이스의 자료를 인용해 "케이팝(K-POP)이 세계적인 산업으로 성장하면서 케이팝 스타들이 딥페이크 영상의 피해자가 되고 있다"며 "(케이팝 스타들의) 딥페이크 영상 대부분은 한국이 아닌 중국에서 제작된 것"이라고 설명했다. 중국이 케이팝의 주요 소비국 중 하나인 만큼 케이팝 가수에 대한 딥페이크 영상도 많이 제작하고 이를 유포하고 있다는 주장이다.
이와 관련 미국의 비영리 뉴스 매체인 마켓플레이스는 지난 6월 "최근 중국 내 딥페이크 기술 가격이 저렴해지고, 해당 기술을 습득해 활용하는 것이 이전보다 훨씬 간단해졌다. 틱톡, 더우인 등 중국 SNS 내 AI로 생성한 '외국인의 딥페이크 영상'이 더 많이 등장하고 있다"며 "외국인이 중국에 자신의 딥페이크 영상이 있는지 알아내는 건 쉽지 않아 관련 처벌도 어려운 상황"이라고 지적했다.
시큐리티히어로가 2023년 7월15일~8월29일(현지시간) 딥페이크 음란물 사이트 10곳과 유튜브 등 동영상 공유 플랫폼의 딥페이크 채널 85개에 올라온 영상물 9만5820건을 분석한 결과 영상에 가장 많이 등장한 인물은 한국인이었다. 한국인 비중은 전체의 53%로, 2위인 미국인(20%)을 크게 앞섰다. 일본인, 영국인, 중국인의 비중은 각각 10%, 6%, 3%였다.
또 보고서가 꼽은 딥페이크 음란물의 최대 피해자 10명 중 8명이 한국인이었고, 이들 모두 가수였다. 보고서는 사안의 민감성을 고려해 피해자의 이름을 밝히지 않았다. 가장 큰 피해를 본 한국인 가수는 딥페이크 음란물 1595건에 등장했고, 영상 조회수는 561만회 이상에 달했다. 두 번째 피해자의 영상은 1238건으로 조회수는 386만5000회로 집계됐다.
<저작권자 © ‘돈이 보이는 리얼타임 뉴스’ 머니투데이. 무단전재 및 재배포, AI학습 이용 금지>