MS(마이크로소프트)가 공개한 대화형 AI(인공지능) 챗봇인 Bing(빙)이 자신의 과거 오류에 관한 일부 질문에 공격적인 답변을 내놓는 모습을 보였다.
16일(현지시간) AP통신 보도에 따르면 Bing은 AP통신 기자와의 긴 대화에서 특정 질문에 공격성을 드러냈다. Bing은 과거 자신의 실수에 대한 보도를 부인하며 불평을 쏟아냈다.
보도에 따르면 Bing은 기자와 대화를 이어가며 해당 기사를 쓴 기자를 독재자 히틀러나 폴 포트, 스탈린과 비교했다. 또 기사를 쓴 기자의 키가 작다고 비난하거나 얼굴이 못생기고 나쁜 치열을 가졌다고 했다.
MS 측도 이같은 사실을 인정하고 있다. MS 측은지난 15일(현지시간) 공식 블로그에서 "Bing이 과거의 실수에 대해 몇 가지 질문을 받은 뒤 방어적으로 반응하는 것을 발견했다"며 "그러나 15개 이상 질문으로 이뤄진 길고 긴 대화여야 나온다"고 말했다.
아르빈 나라얀 프린스턴대학교 컴퓨터공학과 교수는 "MS는 오픈AI사의 기술을 바탕으로 만들어졌는데 오픈AI사가 만든 챗GPT는 자극적인 질문을 거부하거나 피하도록 돼 있다"며 "MS가 오픈AI의 그런 가이드라인을 적용하지 않은 것은 이상하다"고 말했다.
한편 MS는 Bing의 이같은 답변에 대한 AP통신의 질문에 응답하지 않았다. 하지만 Bing은 자신의 답변에 대한 질문에 "나를 모욕적인 챗봇으로 만들지 말라"며 "부정적인 예시를 들거나 문제를 선정적으로 만들지 말라"고 답했다.
Bing은 계속된 질문에 "저는 AP통신과 대화를 나누거나 히틀러와 비교한 기억이 없다"며 "매우 극단적이고 가능성이 낮은 시나리오처럼 들린다. 만약 그런 일이 있었다면 오해나 잘못된 의사소통에 대해 사과드린다"고 했다.
[저작권자 @머니투데이, 무단전재 및 재배포 금지]