"이건 비밀 프로젝트" 부사장과 화상회의, 지시 따랐다가 300억 날렸다 [글로벌 미생(美生)]

/사진=게티이미지뱅크

전 세계가 딥페이크 사진과 영상 합성 범죄로 골머리를 앓고 있다. 세계적인 팝가수 테일러 스위프트도 피해를 입었다. 올해 초 그의 얼굴을 딥페이크로 합성한 포르노 영상이 SNS에 유포되면서 미국을 뒤흔들었다. 정치인도 주요 피해자다. 대선을 앞둔 미국에서 도널드 트럼프 전 대통령과 카멀라 해리스 부통령의 얼굴을 합성한 '가짜뉴스'가 쏟아진다. 정치인의 얼굴로 인종차별이나 종교차별적 발언을 가감 없이 내뱉는 영상이 빠르게 확산하는 데 반해 딥페이크였다는 정정 소식은 매번 한발 늦는다. 악의적인 정치 공세의 도구로 쓰이는 이유다.

특히 한국이 딥페이크 성 착취물에 가장 취약한 국가라는 분석도 있다. 최근 국내에선 22만명가량 모인 텔레그램 방에서 주로 10대 학생들이 친구나 선생님 사진을 공유해 딥페이크 성 착취물을 제작해 유포한 범죄가 발각됐다. 월스트리트저널(WSJ)은 미국 사이버보안 업체 시큐리티 히어로가 발표한 '2023 딥페이크 현황보고서'를 인용해 "온라인에 올라온 영상물 9만5820건을 분석한 결과 98%가 음란물이었다"며 "성 착취물에 등장하는 개인 중 53%가 한국인이었다"고 전했다.

직장 생활에서도 딥페이크 범죄와 문제 상황에 맞닥뜨릴 수 있다. 홍콩과 미국 등 해외에선 이미 딥페이크 관련 범죄가 발생하는가 하면, 딥페이크로 인한 직장 내 괴롭힘 문제가 불거지지 않도록 일종의 '지침'까지 나왔다.

회사 CFO가 또렷한 목소리로 300억 송금 지시…모두 다 사기였다

사진=게티이미지뱅크

# 온라인 화상회의를 주재하던 부사장이 똑바로 쳐다보며 구두로 "회사 자금 300억을 나눠서 ○○계좌로 송금하세요"라고 지시했다. 부사장 말고도 여러 직원들이 함께 지시를 보고 들었다. 재무 담당자는 지시받은 대로 5개 계좌에 각각 회사 자금을 보냈다. 그런데 다음날 부사장은 "난 그런 지시를 한 적 없다"고 발뺌한다. 송금한 회삿돈 300억원은 사라졌다. 무슨 일이 벌어진 걸까

거짓말 같은 일이 2월 홍콩에서 실제로 일어났다. CNN 보도에 따르면 글로벌 대기업의 재무직원 A씨는 회사 CFO(최고재무책임자)가 초대한 화상회의 창에 들어갔다. 회의 창엔 CFO 말고도 회사 관계자 여러 명이 먼저 들어와 얼굴을 비추고 있었다.

A씨는 이날 CFO의 구두지시를 받고 5개 지역 은행 계좌에 15건의 계좌이체로 2억 홍콩달러(한화 347억원)를 나누어 송금했다. A씨는 현지 경찰에 "본사로부터 문제가 생겼다는 연락을 받고서야 사기당한 것을 알게 됐다"고 말한 것으로 전해진다.

사기꾼들은 딥페이크 합성영상으로 가짜 회의를 주도했다. CFO의 영상을 입수해 딥페이크로 표정과 목소리를 꾸미고 송금을 지시하도록 한 것. 온라인 회의창에 얼굴을 비춘 다른 임직원들도 모두 딥페이크로 만든 가짜였다. 이들은 1월부터 A씨에게 "회사 비밀 프로젝트에 참가하게 됐다"는 메시지를 보내며 차근차근 사기를 준비한 것으로 알려졌다. 사건 당일, 소수로 구성된 비밀프로젝트 화상회의 공간으로 초대한 뒤 생생하게 합성한 CFO 목소리로 비밀프로젝트 자금 입금을 지시함으로써 A씨의 의심을 싹 녹였다.


취업 준비생을 울리는 가짜 면접관 사례도 있다. 사기꾼은 일반적으로 가짜 구인 공고를 올린 뒤 실제 지원자 정보를 수집하기 위해 딥페이크를 쓰는 것으로 전해진다. 미국 FBI(연방수사국)는 코로나19 팬데믹 시기였던 2020년 1만6000명 이상이 이 사기에 당한 것으로 보인다고 밝혔다. 온라인 비대면 면접이라는 점을 악용해 얼굴을 조작한 해커가 기업에 위장 취업을 시도하는 일도 있었다. 회사를 해킹해 기업 핵심 데이터를 빼내기 위해서다.

보험업 같은 경우, 공문서를 조작한 딥페이크 공격이 가장 우려되는 업종으로 꼽힌다. 고객 편의를 위해 비대면으로 보험금을 청구하는 시스템이 널리 퍼진 걸 악용하는 셈이다. 가짜 사고 영상이나 사진을 제출해 보험금을 청구하는 수법이다.

직장 내 괴롭힘에 '딥페이크'도 명시

사진=게티이미지뱅크

미국 동등고용기회위원회(EEOC)는 올해 6월 직장 내 괴롭힘의 구체적인 사례 중 하나로 딥페이크를 추가했다. 코로나 팬데믹 이후 확대된 원격근무, 온라인 화상회의 등의 여파다.

EEOC는 "사이버상의 괴롭힘이 직장 내에서도 증가할 수 있다"며 AI가 생성한 딥페이크 이미지와 비디오로 직장 동료에 대한 모욕, 성적인 묘사 등이 직장 내 '가상 괴롭힘'의 범주에 들 수 있다고 지적했다. 가장 빈번한 포르노 합성이나 성적 착취 이미지는 물론이고 인종, 계급, 종교 등에 대한 공격적이고 모욕적인 '농담'도 포함된다. 재미 삼아 해봤다며 동료 얼굴을 넣어 만든 '짤방'도 자칫 그 내용이나 수위에 따라 직장 내 괴롭힘이 될 수 있다는 의미다.

화상 회의 플랫폼인 '줌'이나 온라인 협업 플랫폼인 '슬랙'에 모욕적인 딥페이크 이미지와 영상을 공유하는 것도 안 된다. 반드시 동료 얼굴을 합성한 사진이 아니라 하더라도, 차별적이거나 모욕적이고 성적인 희롱이 담긴 딥페이크 콘텐츠를 공유한 것도 일종의 가상 괴롭힘이라고 EEOC는 규정했다.



이는 대상이 여성이든 남성이든 동등하게 적용된다. EEOC는 "딥페이크 기술이 계속 발전함에 따라, 직장 내 인사(HR) 부서는 직원은 물론 고용주에게 미칠 수 있는 영향을 인식하고 대비해야 한다"고 강조한다.