마이크로소프트가 지난 1월 세계 최대 가전 전시회 CES에서 선보인 딥페이크 영상 탐지 솔루션. 좌우가 비슷해 보이지만 해당 이미지가 딥페이크로 추정되는 순간 빨간색으로 이미지가 딥페이크일 확률이 나타난다. /사진=마이크로소프트 블로그
국가정보원 국제범죄정보센터(TCIC)는 지난달 발간한 '국제범죄위험알리미'에 이같은 사례들을 싣고 딥페이크 범죄 피해에 대해 경고했다.
쉬워진 제작기술…성착취·금전 갈취 수단으로딥페이크는 사진과 영상을 인공지능 기술로 자동 변조하는 CG(컴퓨터그래픽) 기술을 뜻한다. 2014년 개발된 GAN(생성적 적대 신경망)이라는 딥러닝 알고리즘이 이용된다. GAN 기술은 진위를 감별하는 알고리즘과 새로운 이미지를 만드는 알고리즘을 서로 경쟁시키듯 학습시키면서 진짜 이미지와 가짜 이미지의 오차를 줄여 '진짜같은 가짜'를 만들어내는 원리다. 이 알고리즘으로 아예 세상에 없는 얼굴을 만들 수도 있고, 훈련 데이터로 실제 사람 얼굴을 넣으면 '진짜같은 가짜' 딥페이크 합성물이 탄생하게 된다.
딥페이크를 어렵지 않게 만들 수 있는 애플리케이션과 라이브러리(소프트웨어 개발을 위한 하부 프로그램)가 다양해지면서 가해자와 피해자들의 연령대는 점점 어려지고 있다. 지난달 경찰청 국가수사본부 발표에 따르면 지난해 12월부터 5개월간 딥페이크 불법합성물을 만들고 유포한 디지털 성범죄 피의자 94명 중 69.1%가 19세 미만 청소년이었다. 피해자도 19세 미만이 57.9%로 가장 많았다. 학교 선생님, 동창생 등이 피해자가 되고 같은 반 학생이 가해자가 되는 식이다.
이 시각 인기 뉴스
딥페이크를 성범죄뿐 아니라 사기 용도로 이용하는 사례도 적지않다. 각종 피싱에 보험사기, 세금 탈루 등 종류도 다양하다. 음성 합성에도 GAN 알고리즘이 쓰이면서 이른바 '딥보이스'(보이스 딥페이크) 사기로 확장되고 있다. 월스트리트저널 등 외신에 따르면 이미 2019년 3월 영국의 한 에너지회사 대표는 거래 보험사 CEO 목소리를 사칭한 딥보이스 사기에 당해 22만 유로(약 3억원)을 뜯겼다.
정부나 기업으로 피해가 번지자 보안 전문가들 사이에서는 앞으로 딥페이크가 국가 안보까지 위협할 수 있다는 우려도 나온다. 코로나19 이후 비대면 신원 확인 시스템이 늘어나면서 딥페이크로 위조여권을 만들고 밀입국해 각종 밀수나 해외도피, 테러 등 범죄를 벌일 가능성도 제기되는 것이다.
"이에는 이, AI에는 AI"…딥페이크 탐지 전쟁이에 딥페이크 탐지 기술과 방어 체계를 더 고도화해야한다는 목소리가 나온다. 정보보호업계에 따르면 최근 FBI(미 연방수사국)나 인터폴(국제형사경찰기구), 국정원 등 각국의 수사·정보기관들도 각기 국가 안보를 위한 딥페이크 탐지 체계 내지는 공조 체계를 만들기위해 고심하고 있다.
AI 학계와 관련 업계는 AI가 만든 딥페이크 이미지에 역으로 AI 알고리즘을 적용해 이를 차단하는 방안을 추진한다. 이를테면 △ GAN으로 생성한 이미지에 다시 GAN 알고리즘을 적용해 위조 여부를 탐지하는 기술 △이미지 픽셀을 차례로 훑어 나가면서 픽셀의 고유값을 학습하는 원리의 CNN(합성곱신경망)을 활용한 위조 탐지 기술 △정상 이미지와 위조 이미지의 픽셀 패턴을 비교해내는 기계학습 알고리즘 등이 연구되고 있다.
하지만 딥페이크 위변조 기술의 진화 속도나 새로운 위변조 이미지 생성 속도가 워낙 빨라 탐지율을 높이기는 쉽지 않다. 페이스북은 2019년부터 전세계 연구자들을 대상으로 딥페이크 영상 탐지 기술 경연대회도 열고 있다. 지난해 대회에서 1위를 차지한 알고리즘은 탐지 정확도가 65%에 그쳤다. 페이스북은 계속 딥페이크 탐지 기술 연구용 영상 데이터셋을 업데이트하면서 탐지 연구를 장려하고 있다.
삼성SDS 사내벤처 '팀나인(Team 9)'이 만든 딥페이크 탐지 솔루션 시연 예시. /사진=삼성SDS
재미와 감동 선사하는 '착한 딥페이크' 제작 시도
딥페이크 기술로 구현한 움직이는 유관순 열사 /사진=온라인커뮤니티
AI(인공지능) 기술로 재현한 고(故) 터틀맨. /사진=CJ올리브네트웍스
딥페이크 기술을 응용하기에 가장 적절하다고 지목되는 분야가 바로 콘텐츠 산업이다. 실제 국내에서는 고인 모습을 복원해 추모하는 방송 콘텐츠 등이 시도됐다. CJ올리브네트웍스는 지난해 12월 그룹사 CJ E&M과 손잡고 엠넷(Mnet)의 방송 콘텐츠 'AI 프로젝트 다시 한번'에 기술 지원을 했다. 2008년 세상을 떠난 가수 터틀맨(故 임성훈)의 모습을 복원한 것이다. 같은 기술로 지난달에는 tvN 드라마 '나빌레라' 마지막회의 피날레 발레 공연 장면도 연출했다.
일론 머스크 테슬라 CEO 얼굴을 딥페이크 합성해 만든 '나 일론 머스크' 캐릭터. /사진=유튜브 채널 '나몰라패밀리 핫쇼'
초상권 보호·의료 등 유용한 활용 연구해야아이러니하게 딥페이크로 만든 얼굴을 신상 보호나 초상권 보호를 위해 사용하는 방안도 시도되고 있다. 딥페이크 알고리즘이 아예 세상에 없는 얼굴도 만들어 낼 수 있다는 점을 활용한 것이다. 지난 2월27일 방송된 SBS '그것이 알고싶다'는 딥페이크 폐해를 조명하면서 인터뷰 참여자 얼굴에 딥페이크로 생성한 다른 얼굴을 모자이크 대신 덧입혀 화제가 됐다.
각종 교육이나 캠페인에 딥페이크를 사용하는 아이디어도 제시된다. 특히 역사 교육 분야에서는 교과서 속에서만 봤던 사료에 생동감을 준다면 교육 효과나 관심을 환기하는 효과가 클 것이라는 발상이다. 지난 3월 삼일절 무렵에는 유관순 열사·윤봉길 의사 등 순국선열의 생전 모습을 복원한 딥페이크 이미지가 화제를 모았다. 해외 온라인 족보 사이트 마이헤리티지의 '딥 노스탤지어' 서비스를 국내 누리꾼들이 활용해 만든 것이다. 도시락 폭탄 의거 직전의 윤봉길 의사가 결연한 미소, 처연한 눈빛의 유관순 열사가 눈을 깜박이는 모습 등이 움직이는 이미지(GIF)로 만들어졌다.
환자 치료에도 딥페이크를 활용할 수도 있다. 독일 뤼벡대 연구진은 2019년 딥페이크 알고리즘 GAN을 이용해 의료 영상에서 암을 판독하는 기술을 발표했다.
이승환 소프트웨어정책연구소 책임연구원은 지난해 '빅데이터로 본 딥페이크'라는 이슈리포트에서 "디지털 트윈 가수, 과거 재현, 광고 등 다양한 분야에 긍정적으로 활용하는 방안을 검토하되,딥페이크 적용시 우려되는 사생활 침해 등 다양한 위험을 고려해야한다"고 제언했다.
딥페이크 기술로 구현한 움직이는 윤봉길 의사 /사진=온라인커뮤니티