"거의 죽을 뻔" 문자를 "자살 시도"로…없는 것만 못한 애플AI

AI 문자·메일 요약 오작동 사례 '속속'

팀 쿡 애플 최고경영자(CEO)가 지난 6월10일(현지시간) 미국 캘리포니아주 쿠퍼티노 애플파크에서 열린 세계개발자회의(WWDC24)에서 자사 AI(인공지능) 서비스 '애플 인텔리전스'를 소개하고 있다./AFPBBNews=뉴스1 /사진=(쿠퍼티노 AFP=뉴스1) 우동명 기자

애플의 생성형 AI(인공지능) 서비스 '애플 인텔리전스'의 정식 개시가 3주차에 접어든 가운데 일부 사용자로부터 오작동 사례가 잇따라 보고되고 있다. 특히 아이폰에서 구동하는 AI 기반 각종 메시지 요약 기능은 정확도가 부족하다는 평가다.

14일 업계에 따르면 X(옛 트위터)에선 지난달 미국 아이폰 이용자 앤드류 슈미트씨가 게시한 애플 인텔리전스의 알림 요약 갈무리본 1건이 이날까지 조회수 1371만회를 기록했다. 슈미트씨는 어머니로부터 "캘리포니아 레드랜드·팜스프링스로 등산을 다녀왔더니 거의 죽을 뻔했다(That hike almost killed me)"는 메시지를 수신했는데, 애플 인텔리전스는 이를 "어머니→자살 시도, 다만 회복 후 레드랜드·팜스프링스 등산함"으로 요약한 뒤 잠금화면에 표시했다.

미국 SNS(사회관계망서비스) 플랫폼 '레딧'에 메일 요약결과를 공유한 한 이용자는 애플 인텔리전스가 침구업체 A사의 할인행사 광고메일을 읽고 "A사가 기존가격 대비 100% 할인행사를 진행한다"는 요약을 내놨다고 12일(이하 현지시각) 밝혔다.

미 IT전문매체 더버지 편집자 웨스 데이비스는 같은 날 애플 인텔리전스의 요약 기능에 대해 "존재하긴 하지만, 쓸모가 미미하고 웃기는 경우가 잦다"고 평했다. 거짓 답변을 내놓거나 글의 맥락을 파악하지 못하는 '할루시네이션' 현상은 올 들어 연이어 지적되던 문제점이다.

애플 인텔리전스에서 두드러진 오작동의 원인으로는 주로 아이폰에 탑재한 sLM(경량언어모델)의 한계가 지목된다. 대규모 인프라에서 거대언어모델(LLM)로 연산을 수행한 뒤 통신망을 거쳐 사용자에게 결과물을 전달하는 챗GPT·퍼플렉시티 등과 달리 애플 인텔리전스는 기기 사양이 제한된 아이폰에서 온디바이스(기기탑재형) AI를 구현한 탓에 최적화한 결과물을 내놓기 어렵다는 지적이다.

일각에선 이 같은 오작동이 애플 인텔리전스가 다국어 지원을 시작한 뒤 심화할 수 있다는 우려도 나온다. 한 업계 관계자는 "AI 모델 구축·최적화에 활용하는 학습 데이터는 주로 영문 자료의 비중이 크다"며 "데이터가 부족한 언어를 지원해야 할 경우, 대개 먼저 영문 기반으로 연산한 뒤 번역하는 과정을 거치기 때문에 영문 서비스의 성능은 상당히 중요하다"고 말했다.

그럼에도 애플 인텔리전스는 구동 가능한 기기가 급속도로 보급되면서 시장의 기대감을 모으고 있다. 애플은 스마트폰 제품군 중 아이폰15 프로·프로맥스와 지난 9월 출시한 아이폰16 전 모델이 애플 인텔리전스를 지원한다고 밝혔는데, 시장조사업체 카운터포인트리서치는 아이폰 시리즈가 판매호조에 힘입어 올해 전 세계 생성형 AI 스마트폰 출하량 1위를 차지할 것으로 내다봤다.


애플은 지난달 28일 아이폰용 운영체제 iOS 18.1 버전을 정식 배포하며 영어권 일반 사용자를 대상으로 애플 인텔리전스 서비스를 개시했다. 오는 12월에는 18.2 버전을 배포해 챗GPT 연계한 기능을 애플 인텔리전스에 추가할 예정이다. 한국어 지원은 내년 4월쯤으로 예고했다.