교복 입은 AI모델, 치마를…'N번방' 닮아가는 유튜버들

[u클린 2023 ②-1]
인격권 없는 버추얼휴먼이더라도 무분별한 성적대상화는 시청자의 '습관화' 불러올 수 있어
일부 미성년자로 보이는 영상은 현행 아동청소년성보호법 위반 소지 있어 주의 필요
기존 법 통한 규제보다는 새로운 법 제정, 정부 가이드라인 통한 업계 자율규제 필요

교복을 입고 선정적 포즈를 취하는 버추얼휴먼. /사진=유튜브 캡처

최근 생성형AI(인공지능)로 만든 '양산형' 버추얼휴먼이 늘어나면서, 이들을 이용한 선정적인 영상으로 조회수를 올리려는 유튜브 크리에이터(유튜버)도 늘고 있다. 이들은 실제 인간 모델에게 시도하기 힘든 과감한 의상이나 음란한 포즈 등을 버추얼휴먼에게 적용한다.

실제 인간이 아니라는 이유로 버추얼휴먼을 음란물의 대상으로 삼지만, 일부 영상은 현행법에 따라 아동·청소년 '성착취물'로 분류될 수 있다. 비단 법에 저촉되는 영상이 아니더라도, 버추얼 휴먼에 대한 '성적 학대'가 지속된다면 현실에서의 인간 관계에도 왜곡된 관점이 반영될 수 있어 주의가 필요하다.

현실+가상 학대의 시초는 '딥페이크'

AI를 이용해 가상의 인간 이미지나 영상을 만드는 '딥페이크' 기술은 최근 실존인물과 가상의 영상을 합성하는 방식으로 범죄에 쓰이기도 한다. 유명 여자 아이돌의 얼굴을 합성해 마치 실재하는 듯한 포르노 영상을 만드는 식이다. 유명인뿐만 아니라 일반인을 대상으로 한 딥페이크 영상도 빈번하게 나타난다.

경찰은 2021년부터 딥페이크 사건 통계를 취합하기 시작했다. 경찰청에 따르면 2021년 156건, 지난해 160건의 딥페이크 입건 사례가 발생했다. 실제 형사 입건까지 이어지지 않은 경우도 다수 있다는 게 경찰의 전언이다. 다만 딥페이크 영상의 경우 실제 존재하는 인물을 기반으로 하기에, 상당수는 현행법으로 충분히 형사처벌 가능하다.

실제 인물 아니라고 '막' 벗기는 AI모델

/사진=유튜브 캡처

딥페이크와 달리 AI가 만들어낸 버추얼휴먼 모델에 대한 음란물 제작은 마땅히 제재할 수단이 없다. 이에 유튜버들은 더 거리낌 없이 버추얼휴먼을 선정적으로 보이게끔 만든다.

대표적인 게 AI모델 룩북이다. 원래 패션업계에서 일컫는 룩북(lookbook)은 여러가지 옷을 보여주기 위해 모델이 다양하게 착용한 장면을 모아놓은 사진집 또는 영상이다. 최근 일부 유튜버들은 옷을 갈아입는 모습까지 노출하면서 선정성 논란의 중심에 섰다. AI모델 룩북은 실제 모델이나 촬영 작업이 필요하지 않아 우후죽순 격으로 생겨나고 있다.

10일 유튜브에서는 'AI모델'을 활용한 다수의 선정적 룩북이 검색된다. 이들은 짧은 시간 안에 많은 조회수를 올리며 유튜버들에게 '수익'으로 돌아가고 있다.

돈 벌자고 무심코 올린 버추얼휴먼 'n번방' 취급 받을 수도

교복을 입고 등장한 AI모델 룩북. /사진=유튜브 캡처

이 같은 음란성 AI모델 룩북 제작이나 시청 자체는 범죄가 아니다. 기본적으로 '성인이 보는 성인물'이기 때문이다. 유튜브 등 플랫폼에서도 성인 인증을 받은 사용자에 한해 접근할 수 있도록 제한하고 있다.

다만 일부 영상은 범죄의 소지가 다분한 경우가 있다. 교복을 입은 버추얼휴먼이 선정적 포즈를 취하는 등 '아동·청소년'으로 인식될만한 경우가 그렇다.

아동·청소년의 성보호에 관한 법률(아청법) 2조에 따르면 '아동·청소년 성착취물'은 실제 아동·청소년으로 명백히 인식될 수 있는 사람이나 '표현물'이 등장하는 것으로 규정한다. 또 이들이 꼭 성행위를 하지 않더라도, 신체의 전부 또는 일부를 접촉·노출해 일반인의 성적 수치심이나 혐오감을 일으키는 행위가 필름·비디오물·게임물 또는 컴퓨터 등을 통한 화상·영상의 형태로 된 것을 '성착취물'로 본다.

이 같은 아동·청소년 성착취물을 제작하면 최대 무기징역에 처해진다. 최소 5년 이상의 징역형이다. 아동·청소년 성착취물인 것을 알면서도 소지하거나 시청해도 최소 1년 이상의 징역형에 처해진다. 징역 42년형을 선고 받은 n번방 사건의 주범 '조주빈'과 같은 처지에 놓일 수 있다.

범죄 아니더라도…'습관화'의 위험성

인터넷 메신저 텔레그램에서 미성년자를 포함한 여성들의 성 착취물을 제작 및 유포한 '박사방' 운영자 조주빈. /사진-뉴스1

꼭 아청법을 위반하는 영상이 아니더라도, 과도하게 음란한 버추얼휴먼 영상들은 실제 인간관계에서 문제를 일으킬 소지가 생긴다. 버추얼휴먼을 위해서라기 보다는, 이를 시청하는 사람의 인격에 문제가 생길 수 있다는 의미다.

천현득 서울대 과학학과 교수는 "섹스로봇에 대해서도 유사한 논란이 있었다"며 "로봇 자체는 감정도 없고 섹스로봇 이용으로 피해 받는 사람은 없다"고 전했다. 다만 천 교수는 "고통과 피해가 없다고 섹스로봇이나 버추얼휴먼을 함부로 대해도 된다는 것은 아니다"라며 "미성년자 형태로 제작되는 섹스로봇은 굉장히 비윤리적이고, 제한을 받는다"고 설명했다.

천 교수는 "칸트에 따르면 사람이 누군가와 관계를 맺고, 어떤 식으로 대우하는지 등의 행동은 습관화된다"며 "버추얼휴먼을 그런 식으로 대우하던 것이 습관화될 경우 실제 사람에게도 같은 식으로 대우할 가능성이 생겨날 수 있다"고 바라봤다.

법적 규제보다는 자율 가이드라인으로 해결해야

유튜브의 성적인 콘텐츠 가이드라인 안내 영상. /사진=유튜브 캡처

버추얼휴먼의 성적 대상화와 같은 새로운 현상을 기존 법이 아닌, 새로운 법 제정으로 해결해야한다는 의견도 있다. 다만 법을 만들기 전까지는 정부가 가이드라인 등을 세워주고, 업계에서 이를 기반으로 자율 규제를 세우는 게 필요하다는 의견이다.

이성엽 고려대 기술법정책센터장은 "유튜브 등 플랫폼들이 자체 기준을 세워두고는 있지만, 선정성이라는 기준이 애매모호하다보니 아직은 트래픽 유입과 이용자 신뢰의 중간 지점에서 고민하는 걸로 보인다"며 "그렇다고 국가가 나서서 규제한다는 건 표현의 자유, 기업 활동의 자유를 고려할 때 바람직해보이진 않는다"고 밝혔다.

이 센터장은 "특히 아청법 등 제재 관련 규정은 보다 엄격하게 요건을 해석해야 하기에 버추얼휴먼 관련 사안을 기존 법으로 제재하는 건 맞지 않을 수 있다"며 "새로운 기술이나 현상을 기존 법으로 포섭해 해석하기 어려운 상황이라면 새로운 법으로 다루되, 그 전까지 업계에서 자율적으로 규제할 수 있는 가이드라인 등 근거를 만들어주면 된다"고 덧붙였다.