"내 얼굴로 딥페이크 음란물 만들면?"...전문가의 답변은?

[2024 u클린] 서울디지텍고 문화마당(강연)- 김하은 서울경찰청 경장

서울경찰청 청소년보호과 김하은 경장이 22일 서울 용산구 디지텍고등학교에서 머니투데이 주최로 열린 '2024 U클린 토크콘서트'에서 강연을 하고 있다 /사진=김휘선

"제 얼굴사진을 음란 동영상에 합성해서 딥페이크물을 만든다면 피해자가 없는데 처벌을 받을 수 있나요?"(학생)

"그런 걸 도대체 왜 하는 거죠? 하지 마세요. 장난으로라도 음란물 같은 그런 영상을 제작하는 일은 안 하셨으면 좋겠습니다."(김하은 경장)

김하은 서울경찰청 청소년보호과 경장은 22일 서울 이태원 소재 서울디지텍고등학교에서 열린 '2024년 u클린(유클린) 캠페인' 강연에서 'AI(인공지능) 범죄의 현황 및 청소년 보호 방안'이라는 주제 발표 후 질의응답 시간에 이같이 답했다. u클린 캠페인은 머니투데이, 한국지능정보사회진흥원(NIA)이 주최하고 방송통신위원회 등이 후원하는 행사다.

딥페이크란 AI를 활용해 영상이나 사진 속 인물의 얼굴을 다른 사람으로 바꾸는 기술을 의미한다. 음성을 바꾸는 딥보이스 역시 딥페이크의 일종이다. 김 경장은 딥페이크에 대해 "다양한 형태의 새로운 콘텐츠를 만들 수 있다는 점에서 긍정적"이라면서도 "지인능욕이나 가짜뉴스 생성 등 형태로 악용되기도 한다"고 지적했다.

그는 △동급생 여학생의 얼굴로 딥페이크 음란물을 제작·판매한 고교생의 사례, 동선생님의 얼굴을 합성한 허위 음란물을 만든 학생의 사례 등을 언급하며 딥페이크 성범죄가 빠른 전파력, 광범위한 전파, 오랜 지속성 등의 특징이 있다고 했다.

또 △타인이 만든 딥페이크 성착취물을 보기만 해도 1년 이상 유기징역 처벌을 받을 수 있고 △지인의 얼굴을 음란물에 합성하고 타인에게 유포할 때는 5년 이하 징역 또는 5000만원 이하 벌금형이 부과될 수 있으며 △특히 돈을 벌기 위해 합성 성착취물을 판매했을 때는 7년 이하 징역형에 처해질 수 있다고 했다.

특히 자신이 딥페이크 범죄의 피해자가 됐다는 사실을 알게 되면 즉시 신고하고 주변의 도움을 적극 요청해서 해당 딥페이크물의 삭제나 관련 기관의 시정 조치가 조속히 이뤄지도록 해야 한다고 강조했다. 자신이 아닌 친구가 딥페이크물의 피해자임을 확인했을 때도 117 학교폭력 신고센터 등을 통해 알려야 한다고 했다. 김 경장은 "117 신고센터는 24시간, 익명으로 비밀 보장 상담이 가능하다"고 전했다.


그는 "피해자 보호를 위해 경찰은 끝까지 추적한다"며 "카카오톡이나 텔레그램, 인스타그램 등 유포된 매체에 대한 단서를 통해 수사하고 IP(인터넷주소) 추적으로 분석하며 딥페이크 탐지 시스템을 구축해 적극 활용하고 있다"고 했다. 이어 "딥페이크 범죄는 법정 구속이나 징역 등 처벌을 받아 전과 기록이 남고 취업제한, 성폭력 치료 프로그램 이수 등도 받아야 한다"며 "친구들이나 선생님, 주변 사람을 대상으로 합성 영상물을 제작하거나 배포·시청하는 일은 절대로 없어야 한다"고 강조했다.