/사진=온라인 커뮤니티 갈무리
"신사임당의 남편은 이순신 장군입니다."
구글을 대체할 것이라 평가받으며 혁신의 아이콘으로 떠오른 AI(인공지능) 언어모델 '챗GPT'. 그러나 가끔 챗GPT는 이렇게 말도 안 되는 소리를 사실인 양 늘어놓는다.
/사진=침착맨 유튜브 갈무리.
/사진=온라인 커뮤니티 갈무리
챗GPT가 말도 안 되는 소리를 진실처럼 이야기하는 이유는 '할루시네이션(환각)' 때문이다. 할루시네이션은 AI가 처음부터 잘못된 데이터로 학습하거나, 라벨링(분류)이 제대로 안 된 데이터로 학습해서 발생하는 문제다. 챗GPT가 학습한 데이터 중 한국어 데이터는 1%가 채 되지 않는다. 챗GPT가 한국어로 된 질문을 하면 이상한 답변을 늘어놓는 경우가 많은 것도 부족한 학습량 때문이다.
이 시각 인기 뉴스
그런데 챗GPT는 왜 모르는 사실까지 아는척하며 거짓말을 해댈까. 이는 챗GPT가 '인간 피드백을 통한 강화 학습(RLHF, Reinforcement Learning from Human Feedback)'을 했기 때문이다. RLHF는 AI가 내놓은 답변을 인간이 얼마나 선호하는지를 평가해 최대한 올바른 답변을 하도록 유도하는 것이다. 대화를 이끌어가는 능력을 중시했다는 의미다. 미 매사추세츠 공대(MIT) 테크놀로지 리뷰는 AI가 너무 신중하게 답변하도록 설정하면 아예 답변하지 않는 경우가 많이 발생해 오픈AI가 RLHF를 택했다고 설명한다. 이 때문에 챗GPT는 아예 답변하지 않기보다 어떤 내용이든 답변하는 방향으로 발전하게 됐다.
전문가들은 챗GPT의 헛소리가 밈이 된 이유를 '안도감' 때문이라고 설명했다. 챗GPT 등 생성 AI의 급부상으로 러다이트 운동·알파고 쇼크와 같은 충격이 덮쳐오는 가운데, 챗GPT를 희화화 두려움을 떨친다는 것이다. 구정우 성균관대 사회학과 교수는 "기술이 아직까지 우리를 완벽하게 제압하지는 못한다는 데서 오는 희열과 만족감이 있을 것"이라고 설명했다.
일각에서는 챗GPT의 허점을 소비하는 문화가 AI에 대한 오해를 불러일으킬 수 있다는 지적도 나온다. 김동환 포티투마루 대표는 "인공지능 스피커나 메타버스처럼 무르익지 않은 상태에서 시장의 관심을 받았으면 실망이 커지면서 산업이 힘을 받지 못하는 경우가 많았다"며 우려를 표했다. 김 대표는 이어 "챗GPT도 엄밀히 말하면 언어모델 중 조금 더 채팅에 특화된 것이기 때문에, 정보나 지식을 찾는 방식으로는 제한적이다"며 "이슈몰이처럼 헤게모니 싸움만 하려고 하는 것은 피해야 할 것"이라고 덧붙였다.