[IT썰] 챗GPT가 만든 이미지도 페북 못 속여…AI식별 기능 구축

마크 저커버그 메타 CEO. /사진=뉴스1(AFP)

올해 미 대선을 포함해 전 세계 50개 국가가 주요 선거를 앞둔 가운데, 페이스북이 생성형 AI(인공지능) 발(發) 가짜뉴스 집중 단속에 나섰다. 특히 딥페이크 영상과 조작 이미지를 거를 기술을 집중 개발 중이다.

6일(현지시간) AP통신·WP(워싱턴포스트) 등에 따르면 SNS(사회관계망서비스) 페이스북과 인스타그램을 운영하는 메타는 AI가 생성하는 이미지와 비디오, 오디오를 식별할 기술 표준을 개발 중이다.

닉 클레그 메타 글로벌 담당(사장)은 구체적인 기술 적용 시기를 밝히지 않으면서도 "앞으로 몇 달 안에 외부 소스에서 생성된 AI 이미지에 라벨을 붙이고 내년까지 이를 고도화하겠다"고 밝혔다. 클레그 사장은 "콘텐츠에 AI 워터마크가 부족하더라도 AI가 생성한 콘텐츠를 자동 감지하는 데 도움이 될 수 있는 분류기를 개발하기 위해 업계와 협력하고 있다"고 했다.

메타는 자체 AI 도구로 생성한 이미지를 페이스북과 인스타그램, 스레드에 게시할 때 자동으로 AI가 생성했다는 표식을 붙이도록 했다. 해당 기술이 완성되면 구글·오픈AI·MS(마이크로소프트)·어도비·미드저니·셔터스톡 등 다른 회사의 AI가 생성한 이미지도 구별해낼 수 있을 전망이다.

문제는 AI 이미지를 식별하는 기술이 얼마나 잘 작동할지 여부다. 길리 비단 코넬대 정보과학(information science) 교수는 AP통신에 "AI 라벨링 기술이 상당히 효과적이겠지만, 모든 것을 잡아내지는 못할 것"이라며 "AI 라벨이 무엇을 의미하는지, 이것이 어느 정도 정확도를 가졌는지, AI 라벨이 없다면 정말로 믿어도 되는 이미지인지 등을 두고 사용자 혼란이 가중될 것"이라고 말했다.