딥페이크 성범죄만? 보험사기, 신분위조도 속출..."그래서 모였다"

[인터뷰]삼성SDS 사내벤처 '팀나인'(Team9)…기업용 딥페이크 탐지 솔루션 상용화

삼성SDS 사내벤처 '팀나인'(Team9) 구성원들이 자체 개발한 딥페이크 탐지 솔루션을 시연하고 있다. 오른쪽 앞줄부터 시계방향으로 홍민기 소사장, 황솔비 프로, 김평건 프로, 이재현 프로, 정용현 프로, 윤관식 프로. /사진=홍봉진기자 honggga@

"'딥페이크 범죄'라고 하면 보통 디지털 성범죄만 생각합니다. 하지만 그건 빙산의 일각이예요. 최고경영자(CEO)를 사칭하는 기업 대상 피싱이나 허위 제보 등 각종 범죄에 딥페이크를 악용한 피해 사례가 상당합니다."

지난 19일 서울 송파구 삼성SDS 잠실캠퍼스에서 만난 삼성SDS 사내벤처 '팀나인(Team9)' 멤버들은 이같이 입을 모았다. 팀나인을 꾸린 홍민기 소(小)사장은 "딥페이크가 정교해지면서 기업이나 국가 안보에까지 막대한 피해가 발생할 수 있다"며 "이를 막기 위해 딥페이크로 만들어진 이미지를 탐지할 수 있는 기업·기관용 솔루션을 개발해 상용화를 준비하고 있다"고 말했다.

━

2019년 초유의 '딥페이크 피싱' 보고 아이디어…"공익성·시장성 다 잡겠다"

━

팀나인은 2019년 12월 삼성SDS의 사내 벤처 육성 프로그램 '시드랩(Xeed-LAB)' 4기로 선발된 딥페이크 위·변조 탐지 스타트업이다. 모바일 보안 솔루션 상품기획을 담당하던 홍 소사장은 당시 전세계 보안업계를 깜짝 놀라게 했던 피싱 사기 소식을 듣고 사업 아이디어를 제안했다. 당시 영국의 한 에너지회사 대표가 거래보험사 CEO의 목소리를 사칭한 딥페이크에 속아 22만유로(약 2억 9000만원)를 송금하는 사기 피해를 입었다.

홍 소사장은 "기업은 보안 사고가 발생하면 신용도 추락을 우려해 외부에 알리지 않지만 사실 딥페이크 피해가 꽤 빈번하다"고 말했다. 이어 "CEO 등 임원들은 공개 석상에서 얼굴을 녹화한 이미지·목소리가 워낙 많다"며 "이것들이 딥페이크 알고리즘을 학습시킬 양질의 데이터라 딥페이크 피해에 더 취약하다"고 설명했다.

홍 소사장의 뜻에 공감한 20년차에서 7년차까지 다양한 연차의 개발자 6명이 합류했다. 삼성SDS 산하 연구소에서 딥페이크 알고리즘으로 개인정보 노출을 최소화하는 익명화 기술을 연구하던 정용현 프로와 실시간 이미지 위변조 탐지에 관심이 있던 윤관식 프로 등이 머리를 맞댔다. 이들의 목표는 딥페이크로 인한 각종 사기를 사전에 차단하는 것이다. 이들은 지난해 2월부터 6개월간 기술을 개발했으며 현재는 삼성SDS 내 보안사업부 사내 벤처 조직에 편입됐다.

━

기상천외한 범죄로 악용되는 딥페이크 사진…탐지율 99.9% 달성

━

딥페이크는 실제 사람 얼굴을 다른 사람 얼굴로 바꾸는 데 많이 쓰인다. 학습 이미지에 따라 사람 얼굴뿐 아니라 사물도 조작할 수 있다. 긍정적 사용사례도 있지만 사람 얼굴을 나체에 합성한 딥페이크 포르노나 각종 사칭 범죄에 악용되는 사례도 적지않다. 특히 사진 위조는 각종 사기 사건에 악용된다고 한다. 홍 소사장은 "각종 신원증명시 딥페이크 이미지로 신분을 조작하거나 조작된 사진으로 교통사고 보험료를 청구하는 등의 사기 범죄도 해외에서 보고되고 있다"고 설명했다.
팀나인은 특히 딥페이크 정지 이미지 탐지에 집중했다. 딥페이크 이미지에는 딥페이크를 만들 때 생성되는 사람 눈에 보이지 않는 노이즈가 있는데 이를 검증하는 기술을 개발했다. 영상의 경우 픽셀의 음영 변화 등 위·변조 탐지 단서가 더 많은 반면 정지 이미지는 노이즈를 가려내기 더 어렵다. 팀나인은 그 정확도를 99.9%까지 끌어 올렸다. 가짜 이미지 5만장과 실제 이미지 5만장 등 10만장의 데이터셋을 검증한 결과 거의 대부분 위·변조를 탐지해 냈다는 설명이다.

나아가 애초 이미지 촬영시 스마트폰 렌즈에 딥페이크를 비롯한 각종 위·변조 가능성을 검출하는 실시간 탐지 솔루션도 개발했다. 고객사가 자사 앱에서 사용하는 카메라 모듈에 팀나인이 개발한 솔루션을 추가하는 방식으로 사용처를 확대할 계획이다. 현재 국내 한 온라인 마켓 플랫폼의 앱에 이르면 6월까지 이 솔루션을 적용하기로 논의 중이다. 판매자가 조작한 상품 사진을 미리 찾아내 고객 피해를 줄이는 목적이다. 최근 온라인플랫폼의 책임이 강조되고 있어 각광을 받을 전망이다. 각종 보험사기 사건이 빈발하자 보험사들도 관심을 보인다.
팀나인은 인터폴과 한국 경찰청 등 전세계 수사기관들과도 접촉 중이다. 개발한 기술로 수익을 내는 것은 물론 딥페이크를 근절하는 데에도 공익적인 역할을 찾겠다는 생각이다.

홍 소사장은 "딥페이크를 팀나인 혼자 힘만으로 막는다는건 역부족이라 생각한다"면서도 "앞으로 대학 등 연구기관이나 딥페이크 보안 기술을 연구하는 다른 스타트업들과도 연합 해보고 싶다"고 말했다.