尹 딥페이크물 뜨자 단속하라는 정부…업계 "우리끼린 한계"

제22대 국회의원선거가 40여일 앞으로 다가온 가운데 생성형 AI(인공지능)를 악용한 딥페이크물이 화제다. 최근 윤석열 대통령의 딥페이크물이 온라인상에 떠돌자 정부는 플랫폼 기업들을 불러 자율규제를 강조했으나 업계에선 정부가 선제적으로 나서야 한다는 목소리도 나온다.

27일 IT(정보기술) 업계에 따르면 한국인터넷기업협회는 조만간 회원사인 네이버(NAVER), 카카오, 구글코리아, 메타, 틱톡 등과 함께 자율협의체를 구성해 선거를 앞두고 공정성과 신뢰성을 제고할 수 있는 대응 방안을 발표할 예정이다. 방송통신위원회가 플랫폼 기업들을 모아놓고 자율규제를 강조한 지 나흘 만에 나왔다.

앞서 방통위는 지난 23일 국내·외 플랫폼이자 AI 기술 개발사인 네이버, 카카오, 구글, 메타, 바이트댄스(틱톡) 관계자를 불러 △AI 생성물 표시 △탐지 모니터링 △삭제·차단 조치 등과 관련된 의견을 나눴다. 이 자리에서 방통위는 기업들이 더 적극적이고 선제적인 자율규제에 나서달라고 요청했다. 외국 기업에도 국내 기업과 같은 수준의 조치를 취해줄 것을 당부했다.

현재 네이버는 4월 국회의원 선거를 앞두고 카페나 블로그에 콘텐츠 업로드 시 딥페이크에 대한 주의 문구를 노출하고 하이퍼클로바X에 얼굴 합성을 요청하는 경우 답변을 거부하게 하고 있다. 카카오의 경우 이미지 생성 AI인 칼로가 만든 결과물에 워터마크 삽입을 검토 중이다. 구글이나 메타 등 외국계 기업도 AI 생성물 식별 조치를 마련 중이다.

틱톡 등 SNS에 떠도는 윤석열 대통령 딥페이크물/사진=틱톡 캡처

다만 업계에서는 개별 기업들의 자율규제에는 한계가 있다며 정부가 선제적으로 기준을 정해주고 기업들이 잘 지키는지 관리하는 게 필요하다는 지적이 나온다. 개별 기업마다 서비스 종류와 기술 수준이 다르고 특히 외국계 기업의 경우 자율규제를 하지 않아도 국내에서 현실적으로 제재할 방법이 없어 국내 기업만 위축될 수 있다는 이유에서다.

한 국내 플랫폼 업계 관계자는 "생성형 AI로 인한 딥페이크물 문제는 이미 한참 전부터 문제가 되던 것인데 이제 와서 기업별로 자율규제를 강화하라는 것은 선거를 앞두고 문제가 생기면 책임을 묻겠다는 것"이라며 "준비해 놓은 것이 없는데 대통령이 딥페이크물에 등장하자 급하게 기업들의 책임을 강조하는 것 같다"고 말했다.

또 다른 관계자도 "기업들이 AI 생성물에 워터마크를 심고 경고문구를 붙이고 모니터링을 강화해도 자사 서비스를 이용한 결과물에 국한될 것"이라며 "특히 외국계 기업들의 경우 문제가 생겨 책임을 물어도 소송으로 긴 시간을 끌며 결국 흐지부지되는 경우가 많다. 자칫하면 국내 기업들의 인적·물적 부담만 가중시킬 것"이라고 말했다.

방통위 관계자는 "필요한 경우 관련 정책을 만들거나 법 개정 작업을 추진하는 것이 방통위의 역할"이라며 "심의기관이 아닌 만큼 특정 기업들에게 어떤 조치를 요청할 수는 없다. 자율규제 관련해선 지난해 다음 축구 응원 조작 논란 이후 국무총리 지시로 만들어진 범부처 TF(태스크포스)가 있다"고 설명했다.