27일 IT(정보기술) 업계에 따르면 한국인터넷기업협회는 조만간 회원사인 네이버(NAVER (183,200원 ▼800 -0.43%)), 카카오 (45,950원 ▼100 -0.22%), 구글코리아, 메타, 틱톡 등과 함께 자율협의체를 구성해 선거를 앞두고 공정성과 신뢰성을 제고할 수 있는 대응 방안을 발표할 예정이다. 방송통신위원회가 플랫폼 기업들을 모아놓고 자율규제를 강조한 지 나흘 만에 나왔다.
현재 네이버는 4월 국회의원 선거를 앞두고 카페나 블로그에 콘텐츠 업로드 시 딥페이크에 대한 주의 문구를 노출하고 하이퍼클로바X에 얼굴 합성을 요청하는 경우 답변을 거부하게 하고 있다. 카카오의 경우 이미지 생성 AI인 칼로가 만든 결과물에 워터마크 삽입을 검토 중이다. 구글이나 메타 등 외국계 기업도 AI 생성물 식별 조치를 마련 중이다.
틱톡 등 SNS에 떠도는 윤석열 대통령 딥페이크물/사진=틱톡 캡처
한 국내 플랫폼 업계 관계자는 "생성형 AI로 인한 딥페이크물 문제는 이미 한참 전부터 문제가 되던 것인데 이제 와서 기업별로 자율규제를 강화하라는 것은 선거를 앞두고 문제가 생기면 책임을 묻겠다는 것"이라며 "준비해 놓은 것이 없는데 대통령이 딥페이크물에 등장하자 급하게 기업들의 책임을 강조하는 것 같다"고 말했다.
또 다른 관계자도 "기업들이 AI 생성물에 워터마크를 심고 경고문구를 붙이고 모니터링을 강화해도 자사 서비스를 이용한 결과물에 국한될 것"이라며 "특히 외국계 기업들의 경우 문제가 생겨 책임을 물어도 소송으로 긴 시간을 끌며 결국 흐지부지되는 경우가 많다. 자칫하면 국내 기업들의 인적·물적 부담만 가중시킬 것"이라고 말했다.
이 시각 인기 뉴스
방통위 관계자는 "필요한 경우 관련 정책을 만들거나 법 개정 작업을 추진하는 것이 방통위의 역할"이라며 "심의기관이 아닌 만큼 특정 기업들에게 어떤 조치를 요청할 수는 없다. 자율규제 관련해선 지난해 다음 축구 응원 조작 논란 이후 국무총리 지시로 만들어진 범부처 TF(태스크포스)가 있다"고 설명했다.