유튜브에 'AI 룩북'을 검색하면 나오는 영상 목록. /사진=유튜브 캡처
마치 포르노그라피와도 같은 제목의 영상들이 유튜브에 범람하고 있다. 기존 영상들과 다른 점은 단 하나, 생성형 AI(인공지능)로 만든 가상 모델들이 주인공으로 등장한다. 이처럼 AI를 활용한 양산형 룩북들이 유튜브에 대량으로 등장하고 있다. 일부 영상은 아동청소년성보호법 위반 소지까지 있어 보이지만 유튜브 자체 필터링에 걸리지 않고 있는 실정이다.
19일 유튜브에서 'AI 룩북' 또는 'AI 모델 룩북' 등을 검색하면 생성형 AI가 만든 가상 인간의 의류 착용 장면을 여럿 이어 붙인 영상이 다수 나타난다. 다만 이 같은 영상들은 일반적인 룩북과는 거리가 멀다.
AI 모델 룩북은 이러한 선정성 논란을 가속화할 것으로 보인다. 실제 모델과 촬영장비 등이 필요한 룩북 제작과 달리, 생성형 AI 툴만을 이용해 사진과 영상을 대량생산하고 있다. 이 과정에서 선정적인 상황 설정이나 의상, 포즈 등을 적용한다. 일부 영상은 AI 모델에 교복을 입혀 마치 미성년자로 보이도록 설정하기도 한다.
AI 룩북을 만들어 올리는 행위 자체는 법적으로 문제가 될 여지가 적다. 신민영 법무법인 호암 대표변호사는 "인간 모델이 선정적인 의류를 입는 것이나, AI 모델이 보여주는 것이나 딱히 규제받을 사항은 없다"며 "저작권 문제 역시 AI 툴은 도구일 뿐, 해당 영상 제작자에게만 저작권이 있다고 볼 수 있다"고 전했다. 다만 "AI 모델이 아동처럼 보인다면 아동청소년이용음란물로 여겨질 수 있다"고 전했다.
아동청소년성보호법 2조 5항은 아동·청소년이용음란물을 '아동·청소년 또는 아동·청소년으로 인식될 수 있는 사람이나 표현물이 등장하는 것'으로 정의하고 있다. 단순히 미성년자 모델이 아닌, 미성년자로 '보이는' 모델이 나와도 단속 대상이 되는 셈이다.
이 시각 인기 뉴스
유튜브 역시 음란물 콘텐츠를 자동으로 걸러내는 시스템을 도입하고 있지만 영상 중간중간 삽입된 아동청소년음란물을 모두 걸러내기는 쉽지 않은 상황이다. 또 유튜브가 국내 사업자가 아니기에 국내법을 적용한 음란물 유통 책임을 지울 방법도 마땅치 않다.
한 IT업계 관계자는 "유튜브도 나름대로 커뮤니티 가이드를 세우고 기준에 따라 위반 영상들을 감지 및 삭제하고 있지만, 양산형 음란물을 전부 대응하는 데는 한계가 있어보인다"며 "유튜브가 음란물 유통을 근절할 의지를 지녔다면 관련 기술과 인력에 보다 많은 투자를 하는 게 맞는 방향"이라고 바라봤다.