AI 챗봇 이루다 이미지 /사진=스캐터랩스캐터랩은 해당 논란이 불거진 지난 13일 자정 무렵 언론에 보낸 사과문 및 2차 입장문을 통해 "자체 조사 결과 개발팀이 2019년 깃허브(GitHub)에 오픈소스로 공개한 'KG-CVAE -인공지능 한국어 자연어처리(NLP) 연구 모델'(인공지능 신경망 문장 생성 모듈)에 내부 테스트 샘플이 포함된 사실이 확인됐다"며 이같이 밝혔다.
그러면서 "한국어 자연어처리(NLP)와 관련된 기술 개발과 공유를 위한 것이었으나 데이터 관리에 더 신중하지 못했다"며 "일부 민감할 수 있는 정보가 포함된 대화 패턴이 노출된 점에 대해서 진심으로 사과드린다"고 밝혔다.
스캐터랩은 데이터셋 설명에 "한국어의 경우 '연애의 과학'에서 추출된 대화 데이터를 활용했다"고 적시했다. 스캐터랩은 앞서 카톡 대화 텍스트 데이터 기반 연애 심리 분석 모바일앱 '연애의 과학'을 통해 수집된 카톡 대화 데이터를 AI 이루다의 중추 알고리즘을 개발하는 데 사용했다고 밝힌 바 있다.
데이터셋에 담긴 카톡 일대일 대화 묶음에는 익명화 조치가 되지 않은 실명 20여건과 '아파트 X동 XX호'와 같이 개인정보와 관련된 숫자 등이 필터링되지 않은 대화 내용이 포함돼 있었다.
이 시각 인기 뉴스
논란이 되자 스캐터랩은 현재 깃허브에서 이 게시물을 삭제한 상태다. 스캐터랩은 "이루다 DB(데이터베이스)에는 숫자와 영문, 이름 등 개인정보에 해당할 가능성이 있는 정보를 포함하는 데이터는 원칙적으로 사전 필터링을 통하여 완전히 삭제했다"며 "숫자를 한글로 기재하는 전형적이지 않은 사례들이 극히 일부 발견됐고 이를 개선하기 위해 알고리즘 고도화 등 대책을 마련 중"이라고 밝혔다.
다만 스캐터랩은 "깃허브에 업로드됐던 테스트용 데이터는 이루다DB와는 그 내용과 구성이 다르다"며 "이루다의 DB(데이터베이스)는 1억개의 개별적이고 독립적인 문장 DB로 관리되고 있다"고 해명했다. "이루다 DB에서는 대화 패턴을 통해 대화를 나누는 사람들의 관계나 생활 반경 등이 추정 될 여지는 전혀 없다"는 주장이다.
스캐터랩은 "'연애의 과학' 데이터의 개인정보처리와 관련한 부분은 개인정보보호위원회와 한국인터넷진흥원(KISA)에서 조사가 진행 중"이라며 "관계 기관의 요청에 따라 성실히 조사에 임하고 있으며 앞으로도 최선을 다해 임하겠다"고 했다.
또 "논란이 되는 모든 사항에 대하여 진상조사위원회를 구성해 사내에서도 철저히 조사하는 한편, 외부 전문가를 포함한 상시개인정보보호체계를 구축하겠다"며 "재발 방지를 위한 강화된 보안 교육을 실시하는 등의 자체적인 노력도 게을리하지 않을 것"이라고 덧붙였다.
스캐터랩은 "이번 사안으로 인해 인공지능 산업계에 계신 여러 동료 기업들, 연구자분들, 파트너분들께도 조금이라도 누를 끼치지 않기를 바라는 마음"이라고도 밝혔다.
