구글의 인공지능(AI) 음성인식 비서 '틱홈' /사진=AFP친구 빅터 콜린스를 살해한 혐의로 기소된 제임스 베이츠의 재판 당시, 아마존 서버에 저장된 인공지능 스피커 대화 내용은 물증으로 사용됐다. 영국 가디언은 이를 두고 "베이트가 '알렉사, 내가 어떻게 시체를 숨기지?'라고 노골적으로 물어보지 않았더라도 아마존이 집안의 배경 소리를 가지고 있을 수 있다는 것"이라고 설명했다. 범죄 현장을 재구성하는 데 가장 많이 활용되는 감시카메라(CCTV)의 역할을 인공지능(AI) 스피커가 대신 할 수 있다는 말이다.
구글 또한 자사 홈페이지를 통해 이를 시인했다. 구글은 "우리 대화 분석가들 중 한 명이 데이터 보안 정책을 어기고 네덜란드어 음성 데이터를 유출했다는 사실을 방금 파악했다"면서 "이런 부정행위가 재발하지 않도록 이 문제와 관련한 보호장치들을 전면 재검토하겠다"고 밝혔다.
구글은 전세계 계약직 직원들에게 AI스피커에 담긴 대화 내용의 분석을 맡기고 있다. 아직까지 기계가 자동으로 학습하는 '머신러닝'에 많은 한계가 있기 때문에 사람이 직접 대화 패턴을 분석해야 하는 것이다. 미국 IT매체 더 버지는 "오직 전체 데이터의 0.2%만이 구글 소속 언어 전문가들에 의해 검토되고 나머지는 수시로 채용하는 일반 계약직 직원들이 듣고 있다"고 전했다. 아마존도 지난 4월 AI 음성비서 '알렉사'를 통해 녹음된 이용자들의 목소리를 전세계 수천명의 직원들이 들으면서 분석한다는 사실이 알려지기도 했다.
구글은 "검토 과정의 일부로서 사용자 계정과 연관되지 않으며 직원들은 주변 사람의 대화나 소음을 기록하지 않고 스피커에다 대고 하는 말만 기록하게 교육시키고 있다"고 설명했다. 애플 역시 "데이터 추가 분석을 위해 클라우드에 저장해야 할 경우, 사용자의 실제 이름이 아닌 코드화된 식별자로 지정해 최대 2년간 사본 파일을 저장한다"는 입장이다.
이 시각 인기 뉴스
하지만 고의적인 해킹의 위험이 여전히 존재한다. 가디언은 "이용자의 계정 아이디와 비밀번호만 뚫으면 해커는 그 사람이 집에서 한 모든 요청을 들을 수 있다"고 전했다.
물론 AI 스피커 이용자는 대화기록을 언제든 확인하고 삭제할 수 있다. 하지만 이에 대해 모르는 이용자가 많고 일부는 필요성을 느끼지 못하기도 한다. 더구나 '더 버지'에 따르면 아마존 알렉사의 경우 사용자가 대화 내용을 삭제해도 분석에 필요한 데이터 중 일부는 서버에 무기한 저장된다. 구글 측은 "우리는 항상 음성인식 기술을 개선하기 위해 이용자들의 데이터가 어떻게 사용되는지 고객들에게 더 명확히 알리기 위해 노력할 것"이라고 밝혔다. 가디언은 "점점 발전하는 AI 스피커의 활용은 많은 사람들의 삶에 스며들고 있는 IT 기술이 어떻게 사용되고 있는지 하나하나 꼼꼼히 살펴봐야 한다는 것을 뜻한다"고 설명했다.
