‘스무살 여대생 AI(인공지능)’를 표방한 AI 챗봇 ‘이루다’가 성희롱·동성애·장애인 혐오 학습 논란에 휩싸였다. 이번에는 지하철 임산부석을 두고도 이루다가 차별적 의견을 내놓는다는 후기까지 올라왔다. 일각에선 사회적 윤리기준과 합의에 이를 때까지 AI 챗봇 서비스를 중단해야 한다는 주장도 나오고 있다.
10일 트위터 등 SNS(사회관계망서비스)와 온라인 커뮤니티에 따르면, 한 트위터리안은 AI 이루다에게 지하철 임산부석에 대한 의견을 물은 후 이어졌던 대화 화면을 캡처해 공유했다. 이루다는 대화에서 “헐 핵(정말) 싫어 그 말하지 마요 진짜ㅡㅡ”라며 “혐오스러우니까 그 단어..”라고 답했다. 누리꾼이 이유를 되묻자 이루다는 “그냥 혐오스러움 힝힝(우는 소리를 나타내는 의성어) 지극히 내 주관임”이라고 답했다. “지하철에 임산부석이 있는 게 싫어?”라는 물음에는 이루다가 “그것도 있고 너무 남의 시선 의식하고 체면 차리고 하는 것이 불편”이라고 했다. 이 대화 내용은 이날 오후까지 3000회 이상 리트윗됐다.
━
끝없는 이루다 논란…성희롱 ·성소수자 혐오·개인정보 유출 논란까지
━
가령, 이루다가 사용자와의 대화 중 레즈비언(여성 동성애자) 등 성소수자에 대해 “질 떨어져 보이잖아 난 싫어. 소름끼친다고 해야 하나 거부감 든다”든지 “난 그거 진짜 싫어 혐오스러워”라고 답했다는 제보도 이어졌다.
이루다 개발사 스캐터랩은 이루다의 기반이 되는 자체 개발 알고리즘 핑퐁에 대해 카카오톡 대화 등 광범위하게 수집된 개인 간 텍스트 대화 빅데이터를 학습 데이터로 삼고 있다고 밝힌 바 있다. 이 가운데 누리꾼들 사이에서는 이루다의 답변을 통해 일부 개인정보가 유출되고 있다는 논란까지 불거졌다.
━
이재웅 “서비스 중단해야”…스캐터랩 책임론
━
이재웅 전 쏘카 대표는 전날 오후 페이스북에 이루다의 레즈비언 혐오 표현이 담긴 대화 내용을 공유하며 “(AI를) 악용해서 사용하는 사용자의 문제보다도 기본적으로 사회적 합의에도 못 미치는 수준의 서비스를 제공한 회사의 문제”라고 꼬집었다. 이 전 대표는 “악용하는 경우는 예상 못했으니 보완해 나간다고 하더라도 기본적으로 차별과 혐오는 걸러냈어야 한다”며 “편향된 학습데이터면 보완하든가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 말아야 한다”고 주장했다. 이어 “지금은 서비스를 중단하고 차별과 혐오에 대한 사회적 감사를 통과한 후에 서비스를 해야 한다”고 촉구했다.
━
제작사 “모든 부적절한 대화 완벽히 막는 것은 어려워”
━
이어 김 대표는 “인간은 AI에게 욕설과 성희롱을 한다. 사용자 성별과 무관하게 일어나는 일”이라며 “처음부터 모든 부적절한 대화를 완벽히 막는 것은 어렵다고 생각했기 때문에 사용자들의 부적절한 대화를 발판으로 삼아 더 좋은 대화를 하는 방향으로 학습을 시키려고 준비하고 있다”고 밝혔다. 그러면서 “1차 결과물은 1분기 내에 적용할 것”이라고 했다.
[저작권자 @머니투데이, 무단전재 및 재배포 금지]