딥페이크 의심 이미지, 직접 체크한다... 샌즈랩 '페이크 체크' 무료 출시

딥페이크 이미지를 분석한 실제 결과 화면 (출처:샌즈랩)

생성형 AI(인공지능)를 악용한 딥페이크 성착취물 논란이 불거진 가운데 국내 사이버 보안 기업이 무료로 딥페이크 의심 이미지의 진위 여부를 판별하는 서비스를 출시했다.

AI 기반 사이버 위협 인텔리전스(CTI) 전문 보안 기업 샌즈랩 은 생성형 AI 역기능 중 하나로 꼽히는 딥페이크를 탐지하는 서비스 '페이크체크'(fakecheck.io)를 출시했다며 5일 이같이 밝혔다.

페이크체크는 사용자가 직접 웹사이트에 접속해 딥페이크 의심 이미지를 업로드하면 수초 내로 위조·진위 여부를 분석해 판별 결과를 알려준다. 회원 가입이나 인증 등 절차 없이 누구나 쉽게 이용할 수 있다는 게 샌즈랩의 설명이다.

이 서비스는 무료로 제공된다. 샌즈랩은 "현재 국민들이 직면한 사회적 이슈에 조금이나마 도움을 보태기 위해 해당 서비스를 자체 구축하고 유지하는 데 드는 클라우드 서비스 등 모든 비용을 사회 공헌 차원에서 직접 부담할 것"이라고 했다. 당장의 서비스 수익보다 딥페이크로 인한 2,3차 피해 확산을 막는 게 우선이라는 판단에서다.

이와 별도로 샌즈랩은 생성형 AI 역기능 탐지·대응 기술에 대한 연구개발을 통해 페이크체크와 같은 기능의 국민 체감형 플랫폼을 구축하는 국가 과제를 수행하고 있었다. 이 과제에 착수한 지 반년도 채 되지 않은 시점에 AI 역기능이 사회적 문제로 부각된 것이다. 이에 샌즈랩은 디지털 범죄 근절과 국민 불안 불식을 위해 이 서비스를 일반에 전격 공개하기로 했다.

샌즈랩에 따르면 페이크체크는 다양한 AI 모델을 활용해 사람의 얼굴 이미지의 위·변조 여부 판별이 가능하도록 개발됐다. 범죄 예방 목적의 서비스다 보니 사람 얼굴 외 동물이나 사물의 딥페이크 이미지는 판별하지 않는다. 다만 완전히 개발이 완료된 서비스가 아닌 일종의 오픈 베타 테스트 버전 형태로 출시했기 때문에 지속적인 의견 수렴과 업데이트를 통해 탐지 대상 확대나 탐지율 향상은 물론 영상의 위·변조 여부 판별까지 추후 지원될 수도 있다는 게 회사의 설명이다.

김기홍 샌즈랩 대표는 "페이크체크 서비스는 딥페이크 침해 사고에 대한 대응책이 필요한 사회적 기대에 부응하기 위해 임직원들이 한마음 한뜻으로 만들어낸 실질적인 대안 확보 사례"라며 "이번 서비스 출시로 수행 중인 과기정통부 정보통신기획평가원의 정보보호핵심원천기술개발사업인 생성형 AI 역기능 억제를 위한 국민 체감형 플랫폼 구축 토대를 견고히 다져 미래 사이버 보안을 위한 AI 기술 개발로 사회에 이바지할 수 있도록 앞장서겠다"고 밝혔다.