[검색폭발 이슈키워드] 할루시네이션

/사진=게티이미지뱅크

'할루시네이션'(Hallucination)은 생성형 AI(인공지능)가 거짓 정보를 사실인 양 생성·전달하는 현상입니다.

할루시네이션은 환각, 환영, 환청을 뜻하는 영어 단어인데요. AI가 허위 정보를 전달하거나 처리하는 정보의 맥락 등을 오해해 잘못 표현하는 것 등이 이에 해당합니다.

최근 챗GPT 등 생성형 AI 기술 발전으로 업계에선 할루시네이션을 최소화하는 것을 과제로 보고 있습니다. 광범위한 데이터 학습 시, 각 데이터의 진위를 정확히 확인하지 못하는 생성형 AI의 특성상 할루시네이션은 필연적인 오류로 여겨지기 때문이죠. 사실과 다른 가짜뉴스 생성·유포에 악용될 수 있어 매우 주의가 필요합니다.

실제 지난 12일 블룸버그통신에 따르면 AI 챗봇인 구글의 '바드'와 마이크로소프트(MS)의 '빙'은 최근 이스라엘-팔레스타인 간 상황에 대해 "휴전 중"이라는 오답을 내놓기도 했습니다.