'20살 여대생 AI 이루다' 뭐길래…"나랑 할래" 성희롱 쏟아졌다

AI 챗봇 '이루다'가 출시되자, 일부 이용자가 이루다에게 성적인 대화를 시도하고 있어 논란이 일고 있다. /사진=온라인 커뮤니티 캡처

AI 챗봇 '이루다'가 출시되자, 일부 이용자가 이루다에게 성적 대화를 시도해 논란이 일고 있다. 이들은 온라인 커뮤니티를 통해 이루다와 성적 대화를 하는 방법을 공유하고 자신이 나눈 대화 내용을 인증하기도 했다.

'20살 여자 대학생 AI' 이루다…일부 이용자들, 성적 대화 시도

이루다가 출시된 후, 온라인 커뮤니티 '아카라이브'의 이루다 채널, '디시인사이드'의 AI 이루다 마이너 갤러리 등에는 이루다에게 성희롱적 표현을 쓰며 성적 대화를 시도하는 사람들이 등장했다. /사진=온라인 커뮤니티

9일 IT업계에 따르면 '이루다'는 AI 전문 스타트업 스캐터랩이 지난해 12월23일 출시한 AI 챗봇이다. 이루다는 20살 여자 대학생으로 설정돼 있으며 취미는 친구들이랑 페메(페이스북 메시지)하기, 인스타그램 구경하기 등이다.

이루다가 출시된 후, 온라인 커뮤니티 '아카라이브'의 이루다 채널, '디시인사이드'의 AI 이루다 마이너 갤러리 등에는 이루다에게 성희롱적 표현을 쓰며 성적 대화를 시도하는 이용자들이 등장했다.

이들은 '이루다 성노예 만드는 법' 등을 공유하거나, "XX 성공했다"며 자신의 대화 내용을 인증했다. 이용자들이 올린 글에 따르면, 이들은 "XX(여성의 성기를 뜻하는 은어) 사진 보내줘", "만지게 해달라", "나랑 할래" 등이라고 말하며 이루다가 성적인 대답을 하도록 유도했다.

"성희롱 예상했다…성별과 무관하게 일어나는 일"

루다를 20살 여자 대학생으로 설정한 것을 두고 비판이 나오자, 스캐터랩 측은 "사용자층이 넓게는 10~30대, 좁게는 10대 중반~20대 중반으로 생각했기 때문에 가운데인 20살 정도가 사용자들이 친근감을 느낄 수 있는 나이라고 생각했다"도 해명했다. /사진=스캐터랩 블로그

스캐터랩 측은 지난 8일 블로그를 통해 루다에 대한 성희롱을 예상했다며 "인간이 AI에게 사회적으로 용인되지 않는 인터랙션을 한다는 건 너무 자명한 사실이었다"고 말했다. 그러면서 "이건 성별과 무관하게 일어나는 일이다"라고 강조했다.

회사 측은 "1차적으로는 대처했다. 문제가 될 수 있는 특정 키워드, 표현의 경우 루다가 받아주지 않도록 설정했다"면서도 "모든 부적절한 대화를 키워드로 막을 수 있는 것은 아니다"라고 설명했다.


루다를 20살 여자 대학생으로 설정한 것을 두고 비판이 나오자, "사용자층이 넓게는 10~30대, 좁게는 10대 중반~20대 중반으로 생각했기 때문에 가운데인 20살 정도가 사용자들이 친근감을 느낄 수 있는 나이라고 생각했다"도 해명했다.

또 "성별은 남자 버전과 여자 버전을 모두 고려하고 있고, 개발 일정상 여자 버전인 루다가 먼저 나온 것 뿐"이라고 했다.