AI(인공지능)의 악용을 막기 위한 각국 규제가 한창인 가운데 사진 속 여성의 옷을 AI로 벗겨주는 앱이 한 달 동안 2000만명 이상에게 주목을 받았다는 보도가 나왔다. AI 기술이 확산되며 딥페이크 성착취물을 만드는 앱들도 그만큼 더 만들기 쉬워진 데 따른 부작용이다.
10일 포브스, 블룸버그 등 외신에 따르면 최근 소셜 네트워크 분석회사인 그래피카(Graphika)는 지난 9월 한 달 동안에만 사진 속 인물의 옷을 벗기는 34개 웹사이트에 방문한 인원이 2400만명에 달한다고 밝혔다.
외신들은 유명인사는 물론이고 직장 동료나 같은 학교의 동급생, 버스에 탄 낯선 사람, 어린이 등의 사진을 입력하면 클릭 몇 번만에 사진 속 인물의 옷을 제거할 수 있다고 설명했다. 상당 수 사이트는 여성 사진에서만 옷 벗기기 기능이 작동했다. 조사 대상 사이트 중 한 곳에서는 아예 "원하는 여성의 옷을 벗기라"는 광고를 냈다.
지난해까지만 해도 가상으로 사진 속 인물의 옷을 벗겨내는 산업은 거의 존재하지 않았지만 오픈소스 AI 이미지 기술이 확산되며 이같은 부작용도 커졌다. 실제 레딧(Reddit)이나 X(옛 트위터)에서 이같은 '옷 벗기기 앱' 추천 링크의 양은 올해만 2400% 이상 늘었다. 심지어 X에 게시된 한 광고물에서는 '디지털로 누군가의 사진 속 옷을 벗겨낸 후 당사자에게 사진을 보낼 수 있다'는 문구도 있었다. 사실상 해당 이미지가 누군가를 대상으로 한 협박에 쓰일 수 있다는 것을 암시한 것이다.
영상 AI 프로그램에 대한 접근성이 높아지면서 나타난 폐해다. AI 기술이 발전하면서 수년 전부터 우려가 커졌던 딥페이크 성착취물의 맥락에서 봐야 한다는 지적이다. 각종 소셜네트워크 서비스를 활용하는 이들이 많아지면서 자신의 사진이 누군가로부터 '누드화' 대상으로 쓰인다는 것을 자각하지 못하는 경우도 많다.
문제는 딥페이크 성착취물의 생성만큼 딥페이크 성착취물을 만들 수 있는 프로그램을 개발하는 것도 쉬워졌다는 데 있다. 일렉트릭프론티어 재단의 사이버보안 담당자는 고등학생이나 대학생 등 보통의 사람들이 다른 일반인을 상대로 한 이같은 범죄에 가세하고 있다고 지적했다.
한편 IT 플랫폼 기업들도 이같은 범죄의 확산을 차단하려고 나서고 있지만 역부족이다. 구글, 레딧, 메타, 틱톡 등 기업들은 '언드레스' 등 검색어를 차단하거나 해당 불법 광고를 게재하는 도메인의 차단, 게시물 삭제 등에 나서고 있다고 밝혔다.
[저작권자 @머니투데이, 무단전재 및 재배포 금지]