[IT썰]유튜브, 딥페이크 등 생성형 AI 콘텐츠 삭제 요청받는다

유튜브 로고

유튜브가 딥페이크 같은 얼굴이나 목소리를 모방한 생성형 AI(인공지능) 콘텐츠 또는 기타 합성 콘텐츠의 삭제를 요청할 수 있도록 했다. 생성형 AI 콘텐츠로 인한 개인정보침해를 막고 올해 미국 대통령 선거를 앞두고 생성형 AI가 표심을 흔드는 것을 방지하기 위해서다.

1일(현지시간) 테크크런치 등 외신에 따르면 유튜브는 생성형 AI 콘텐츠의 영향을 직접 받는 당사자가 개인정보침해를 사유로 콘텐츠 삭제를 요청할 수 있도록 했다. 당사자가 미성년자이거나 컴퓨터를 이용할 수 없는 경우, 당사자가 사망한 경우 등 몇 가지 예외를 제외하고는 직접 콘텐츠 삭제를 요청해야 한다.

당사자가 콘텐츠 삭제를 요청할 경우 유튜브는 다양한 요소를 고려해 판단을 내린다. 해당 콘텐츠가 특정인을 고유하게 식별할 수 있는지, 패러디나 풍자 또는 대중의 이익을 위한 것으로 간주할 수 있는지 판단한다. 또 해당 콘텐츠에 유명인이 등장하거나 범죄 행위, 폭력, 정치인 지지 등 민감한 내용이 담겼는지도 판단한다.

이런 판단과 동시에 유튜브는 콘텐츠 업로더에게 48시간 동안 조처를 할 수 있게 한다. 업로더가 이 시간 내에 콘텐츠를 삭제하면 신고는 종결된다. 유튜브는 신고된 콘텐츠에 등장하는 인물을 흐림 처리 등으로 식별 불가능하게 조치하도록 유도한다. 하지만 단순히 콘텐츠를 비공개하는 것은 허용되지 않는다.

유튜브는 개인정보침해로 신고당한 생성형 AI 콘텐츠 업로더에게 커뮤니티 가이드라인을 위반한 업로더처럼 특별한 불이익을 주지는 않는다. 개인정보보호 가이드라인은 커뮤니티 가이드라인과 다르고 콘텐츠가 커뮤니티 가이드라인을 위반하지 않아도 개인정보보호 요청에 따라 삭제될 수 있다는 취지다. 대신 반복적으로 신고당하는 계정에 대해선 업로드 제한과 같은 페널티를 적용할 수 있다.