김현정디자이너 /사진=김현정디자이너
10일 포브스, 블룸버그 등 외신에 따르면 최근 소셜 네트워크 분석회사인 그래피카(Graphika)는 지난 9월 한 달 동안에만 사진 속 인물의 옷을 벗기는 34개 웹사이트에 방문한 인원이 2400만명에 달한다고 밝혔다.
지난해까지만 해도 가상으로 사진 속 인물의 옷을 벗겨내는 산업은 거의 존재하지 않았지만 오픈소스 AI 이미지 기술이 확산되며 이같은 부작용도 커졌다. 실제 레딧(Reddit)이나 X(옛 트위터)에서 이같은 '옷 벗기기 앱' 추천 링크의 양은 올해만 2400% 이상 늘었다. 심지어 X에 게시된 한 광고물에서는 '디지털로 누군가의 사진 속 옷을 벗겨낸 후 당사자에게 사진을 보낼 수 있다'는 문구도 있었다. 사실상 해당 이미지가 누군가를 대상으로 한 협박에 쓰일 수 있다는 것을 암시한 것이다.
문제는 딥페이크 성착취물의 생성만큼 딥페이크 성착취물을 만들 수 있는 프로그램을 개발하는 것도 쉬워졌다는 데 있다. 일렉트릭프론티어 재단의 사이버보안 담당자는 고등학생이나 대학생 등 보통의 사람들이 다른 일반인을 상대로 한 이같은 범죄에 가세하고 있다고 지적했다.
한편 IT 플랫폼 기업들도 이같은 범죄의 확산을 차단하려고 나서고 있지만 역부족이다. 구글, 레딧, 메타, 틱톡 등 기업들은 '언드레스' 등 검색어를 차단하거나 해당 불법 광고를 게재하는 도메인의 차단, 게시물 삭제 등에 나서고 있다고 밝혔다.