"챗GPT로 쓴 숙제 골라낸다더니"…엉터리 AI 판별기 폐쇄한 오픈AI

IT썰

/APF=뉴스1

챗GPT 개발사인 오픈AI가 AI(인공지능)가 작성한 텍스트를 감지하는 서비스를 종료했다. 학생들의 과제 대필 등 문제로 일부 교육기관에서 '챗GPT 금지령'까지 내리자 이를 해결하겠다며 자신있게 내놓았으나, 지나치게 낮은 정확성 때문에 서비스를 폐쇄하기로 한 것이다.

26일(현지시간) 미 IT 전문 매체 더버지에 따르면 오픈AI는 최근 자사 블로그에 "낮은 정확도로 인해 20일부터 AI 분류기는 더 이상 사용할 수 없게 됐다"고 밝혔다. 지난 1월31일 서비스를 시작한 지 불과 6개월 만이다.

서비스 출시 당시 오픈AI 분류기의 정확도는 약 26%였다. 이마저도 영어 이외의 언어에서는 더 낮게 책정되는 것으로 알려졌다. 오픈AI는 분류기 성능 개선을 위해 노력해왔으나, 지난 반년간 정확도를 끌어 올리지 못했다. 심지어 사람이 작성한 텍스트를 AI가 작성했다고 오판하기도 했다. 오히려 프린스턴대의 에드워드 티안이라는 학생이 선보인 'GPT제로'라는 앱이 더 높은 정확도를 보이며 350만달러(한화 약 46억원) 규모의 투자를 받기도 했다.

기존 분류기는 폐쇄했지만, 오픈AI는 또 다른 방법으로 AI가 생성한 텍스트를 골라낼 방법을 강구 중이다. 오픈AI는 "여러 피드백을 통합하고 있으며, AI가 작성한 텍스트라는 사실을 효과적으로 증명해낼 기술을 연구하고 있다"고 설명했다. 오픈AI는 이어 "(텍스트뿐만 아니라) AI가 제작한 오디오 또는 이미지를 판별할 수 있는 기술(메커니즘)을 배치할 계획"이라고 덧붙였다.

한편, 구글, 오픈AI, 아마존 등 미국 생성형 AI 기업들은 지난 21일 AI가 생성한 콘텐츠에 워터마크를 삽입하는 안전 조치를 취하기로 합의했다.