![서울경찰청 청소년보호과 김하은 경장이 22일 서울 용산구 디지텍고등학교에서 머니투데이 주최로 열린 '2024 U클린 토크콘서트'에서 강연을 하고 있다 /사진=김휘선](https://thumb.mt.co.kr/06/2024/07/2024072113421157909_1.jpg/dims/optimize/)
"그런 걸 도대체 왜 하는 거죠? 하지 마세요. 장난으로라도 음란물 같은 그런 영상을 제작하는 일은 안 하셨으면 좋겠습니다."(김하은 경장)
딥페이크란 AI를 활용해 영상이나 사진 속 인물의 얼굴을 다른 사람으로 바꾸는 기술을 의미한다. 음성을 바꾸는 딥보이스 역시 딥페이크의 일종이다. 김 경장은 딥페이크에 대해 "다양한 형태의 새로운 콘텐츠를 만들 수 있다는 점에서 긍정적"이라면서도 "지인능욕이나 가짜뉴스 생성 등 형태로 악용되기도 한다"고 지적했다.
또 △타인이 만든 딥페이크 성착취물을 보기만 해도 1년 이상 유기징역 처벌을 받을 수 있고 △지인의 얼굴을 음란물에 합성하고 타인에게 유포할 때는 5년 이하 징역 또는 5000만원 이하 벌금형이 부과될 수 있으며 △특히 돈을 벌기 위해 합성 성착취물을 판매했을 때는 7년 이하 징역형에 처해질 수 있다고 했다.
특히 자신이 딥페이크 범죄의 피해자가 됐다는 사실을 알게 되면 즉시 신고하고 주변의 도움을 적극 요청해서 해당 딥페이크물의 삭제나 관련 기관의 시정 조치가 조속히 이뤄지도록 해야 한다고 강조했다. 자신이 아닌 친구가 딥페이크물의 피해자임을 확인했을 때도 117 학교폭력 신고센터 등을 통해 알려야 한다고 했다. 김 경장은 "117 신고센터는 24시간, 익명으로 비밀 보장 상담이 가능하다"고 전했다.
이 시각 인기 뉴스
그는 "피해자 보호를 위해 경찰은 끝까지 추적한다"며 "카카오톡이나 텔레그램, 인스타그램 등 유포된 매체에 대한 단서를 통해 수사하고 IP(인터넷주소) 추적으로 분석하며 딥페이크 탐지 시스템을 구축해 적극 활용하고 있다"고 했다. 이어 "딥페이크 범죄는 법정 구속이나 징역 등 처벌을 받아 전과 기록이 남고 취업제한, 성폭력 치료 프로그램 이수 등도 받아야 한다"며 "친구들이나 선생님, 주변 사람을 대상으로 합성 영상물을 제작하거나 배포·시청하는 일은 절대로 없어야 한다"고 강조했다.