테일러 스위프트 딥페이크 영상에 '부글부글'…팬들의 반격

[IT썰]

미국 팝스타 테일러 스위프트가 9일(현지시각) 아르헨티나 부에노스아이레스의 모뉴멘탈 스타디움에서 '에라스 투어' 콘서트를 열고 공연하고 있다./뉴시스

유명 팝 가수 테일러 스위프트의 팬들이 그녀의 딥페이크 영상이 온라인 상에 퍼지자 반격에 나섰다. 수많은 테일러 스위프트의 팬들은 해시태그를 이용해 테일러 스위프트 딥페이크를 검색하면 그녀를 응원하는 게시물이 뜨도록 캠페인을 벌이는 모습이다.

26일(현지시간) 테크크런치 등 외신에 따르면 최근 테일러 스위프트의 사진을 악용한 불법 딥페이크 포르노 영상이 X(옛 트위터) 등 온라인에 퍼졌다. 그 중 한 게시물은 삭제되기 전까지 조회수 4500만회 이상, 리포스트 2만4000회 이상, 좋아요 수십만개를 기록한 것으로 나타났다.

그러자 테일러 스위프트의 팬들은 그녀의 딥페이크 영상을 온라인에서 찾기 어렵게 만들기 위한 캠페인에 나섰다. 그들은 X에서 '테일러 스위프트를 지켜주세요'라는 내용의 게시물에 '테일러 스위프트 AI', '테일러 스위프트 딥페이크'를 해시태그로 지정해 업로드했다. 테일러 스위프트 관련 딥페이크를 검색하면 응원 게시물이 뜨도록 한 것이다.

딥페이크는 AI(인공지능)와 딥러닝 기술을 이용해 가짜 음성이나 영상을 만드는 기술을 가리킨다. 이는 생성형 AI의 발전과 함께 새로운 사회적 이슈로 떠올랐다. 사이버 보안 회사 딥트레이스의 연구에 따르면 이러한 딥페이크 영상의 약 96%가 포르노이며 거의 항상 여성이 등장했다.

딥페이크 기술을 악용한 범죄는 테일러 스위프트 같은 스타뿐만 아니라 일반인에게도 벌어질 수 있다. 딥트레이스 보고서에 따르면 미국 내 학교에서 일부 여학생들이 반 친구들로부터 딥페이크 범죄의 표적이 되기도 한 것으로 나타났다. 미국 FBI(연방수사국)는 상황이 심각해지자 주의 경보를 내리기도 했다.

외신에 따르면 테일러 스위프트의 딥페이크 영상은 생성형 AI로 불법 이미지를 만드는 텔레그램 채팅방에서 만들어졌다. 이 방에서는 주로 MS(마이크로소프트)사의 생성형 AI로 딥페이크를 만드는 것으로 알려졌다. MS는 기술 및 정책적으로 딥페이크 생성을 막고 있으나 사용자들은 이를 우회하는 방법을 이용하는 것으로 전해졌다.

한편 국내에서도 오는 4월 국회의원 총선거를 앞두고 이같은 딥페이크 기술이 악용될 것을 우려해 선거관리위원회가 단속에 착수했다. 선관위는 딥페이크 기술이 가짜뉴스를 퍼뜨리는 데 이용되지 않도록 AI 감별반을 구성해 딥페이크를 활용한 선거 운동 단속에 나섰다.