최형두 국회 과방위 국민의힘 간사가 5일 서울 여의도 국회 과방위에서 열린 '딥페이크 성범죄영상물 어떻게 근절하 것인가' 토론회에서 인사말을 하고 있다./사진=뉴시스
9일 IT(정보기술) 업계에 따르면 미국 캘리포니아주 상원은 이르면 이달 생성형 AI 창작물에 워터마크를 의무적으로 표시하도록 하는 법안을 통과시킬 전망이다. 앞서 이 법안은 만장일치로 주 하원을 통과했다. 현재 미국 내에서도 연말 대통령 선거를 앞두고 딥페이크로 인한 가짜뉴스가 사회적 문제로 대두되고 있다.
해외에서는 이미 구글이나 MS, 인텔, 어도비 등 100여개 기업이 연합해(C2PA) 생성형 AI 창작물 워터마크 기술을 연구한다. 이들은 이미지나 영상뿐만 아니라 텍스트까지도 생성형 AI로 만들었는지 가려낼 수 있는 기술을 개발 중이다. 일부 플랫폼은 타사 생성형 AI로 만든 창작물까지 식별해 워터마크를 추가하는 기술도 개발하고 있다. 국내에서는 네이버(NAVER (160,600원 ▲500 +0.31%))가 C2PA에 참여한다.
지난 3일 열린 국회 과학기술정보방송통신위원회 법안 소위에서는 이해민 조국혁신당 의원이 이 법안에 추가 논의가 필요하다고 지적했다. 이 의원은 법안의 입법 취지에는 공감하나 생성형 AI 창작물 워터마크 표시의 범위와 워터마크를 표시하는 실질적인 방법까지 규제할 것인지 여부 등 보완이 필요하다고 주장했다.
김 의원 법안에 대한 지난 8월 국회 수석전문위원 검토 보고서를 보면 신중해야 한다는 의견이 많다. 방송통신위원회는 워터마크 표시 의무자를 한정할 필요가 있다고 지적했고 과학기술정보통신부는 개인에게 표시 의무를 부과하는 것은 과도하다는 의견을 냈다. 한국인터넷기업협회는 표시 의무가 AI 산업 성장을 저해할 수 있다는 우려를 표했다.
이 시각 인기 뉴스
한 플랫폼 업계 관계자는 "국내에서도 지난 4월 제22대 국회의원 선거를 앞두고 딥페이크 대응을 본격화했으나 선거가 끝나자 조금 약해진 측면이 있다"며 "업계에서도 규제의 필요성은 공감하지만 무턱대고 규제부터 만들었다간 글로벌 빅테크와 국내 기업 간의 형평성 논란이 생길 수 있다는 인식이 있는 것도 사실"이라고 말했다.