"국회의원 후보가 저런 말을?" 딥페이크 비상…막을 방법이 없다?

제22대 국회의원선거(총선)가 40여일 앞으로 다가온 가운데 생성형 AI(인공지능)를 악용한 딥페이크(영상합성)물이 화제다. 최근 윤석열 대통령의 딥페이크물이 온라인에 떠돌자 정부가 플랫폼기업들을 불러 자율규제를 강조했으나 업계에선 정부가 선제적으로 나서야 한다는 목소리도 나온다.

27일 IT(정보기술)업계에 따르면 한국인터넷기업협회는 조만간 회원사인 네이버, 카카오, 구글코리아, 메타, 틱톡 등과 함께 자율협의체를 구성해 선거를 앞두고 공정성과 신뢰성 제고방안을 발표할 예정이다. 방송통신위원회가 플랫폼기업들을 모아놓고 자율규제를 강조한 지 나흘 만에 나왔다. 방통위는 지난 23일 네이버, 카카오, 구글, 메타, 바이트댄스(틱톡) 관계자를 불러 △AI 생성물 표시 △탐지 모니터링 △삭제·차단조치 등과 관련된 의견을 나눴다. 이 자리에서 방통위는 기업들이 더 적극적이고 선제적인 자율규제에 나서달라고 요청했다. 외국 기업에도 국내 기업과 같은 수준의 조치를 취해줄 것을 당부했다.

현재 네이버는 오는 4월 총선을 앞두고 카페나 블로그에 콘텐츠 업로드 시 딥페이크에 대한 주의 문구를 노출하고 하이퍼클로바X에 얼굴합성을 요청하는 경우 답변을 거부하도록 했다. 카카오는 이미지생성 AI인 칼로가 만든 결과물에 워터마크 삽입을 검토 중이다. 구글이나 메타 등 외국계 기업도 AI 생성물 식별조치를 마련 중이다. 다만 업계에서는 개별 기업 자율규제에는 한계가 있다며 정부가 선제적으로 기준을 정하고 기업들이 잘 지키는지 관리하는 게 필요하다는 지적이 나온다. 기업마다 서비스 종류와 기술수준이 다르고 특히 외국계 기업은 자율규제를 하지 않아도 국내에서 현실적으로 제재할 방법이 없다.

국내 플랫폼업계 관계자는 "생성형 AI로 인한 딥페이크물은 한참 전부터 문제가 된 것인데 이제와서 기업별로 자율규제를 강화하라는 것은 선거를 앞두고 문제가 생기면 책임을 묻겠다는 것"이라고 말했다.

또다른 관계자도 "기업들이 AI 생성물에 워터마크를 심고 경고문구를 붙이고 모니터링을 강화해도 자사 서비스를 이용한 결과물에 국한될 것"이라며 "특히 외국계 기업들의 경우 문제가 생겨 책임을 물어도 소송으로 긴 시간을 끌면서 결국 흐지부지되는 경우가 많다. 자칫하면 국내 기업들의 인적·물적부담만 가중될 것"이라고 말했다.

방통위 관계자는 "필요한 경우 관련정책을 만들거나 법 개정을 추진하는 것이 방통위의 역할"이라며 "심의기관이 아닌 만큼 특정 기업들에 어떤 조치를 요청할 수는 없다. 자율규제와 관련해선 지난해 다음 축구응원 조작논란 후 국무총리 지시로 만들어진 범부처 TF(태스크포스)가 있다"고 설명했다.