정보기술(IT)업계에서는 AI가 처음부터 잘못된 데이터로 학습할 때 할루시네이션이 발생한다고 봅니다. 방대한 데이터를 학습해 확률상 가장 적절한 답변을 내놓는 AI가 학습 과정에서 '진위'를 확인하지는 못하기 때문입니다. 그 결과 AI는 그럴 듯하지만 말도 안 되는 답을 내놓는 오류를 범합니다.
예컨대 AI 언어모델 '챗GPT'는 지난 2월 '세종대왕의 맥북프로 던짐 사건'에 관해 묻자 "세종대왕이 새로 개발한 훈민정음(한글)의 초고를 작성하던 중 담당자에게 분노해 맥북프로와 함께 그를 방으로 던진 사건"이라고 답합니다.
더 심각한 부작용이 나타날 우려도 있습니다. 악의적 조작 정보, 특정 성별·이념·종교에 대한 편견이 더해져 오염된 데이터를 학습할 가능성이 있기 때문입니다. 글로벌 기업 아마존은 AI 채용 시스템을 도입했으나 특정 성별에 유리한 편향이 발생하자 2018년 이를 폐기했습니다.
주요 7개국(G7) 디지털·기술 장관이 지난달 '챗GPT를 사용할 때 책임을 부여해야 한다'는 공동성명을 채택한 이유입니다. 이들은 AI 기술 이용과 관련해 △법의 지배 △민주주의 △인권 존중 △적절한 절차 △기술 혁신 기회 활용 등 5가지 원칙에 합의했습니다.
[저작권자 @머니투데이, 무단전재 및 재배포 금지]