페이스북과 유튜브가 페이스북으로 라이브스트림(Livestream) 생중계된 뉴질랜드 이슬람 사원 총기 난사 영상을 완벽하게 삭제하는 데 실패하면서, 소셜미디어 플랫폼이 혐오와 폭력의 온상이 됐다는 비난이 거세지고 있다.
테러범 브랜턴 태런트(28)은 15일(현지시간) 범행 현장을 헬멧 카메라를 사용해 실시간으로 페이스북에 생중계했으며, 페이스북 측은 학살이 17분간 생중계된 후에야 태런트의 계정을 닫았다. 이때는 이미 페이스북, 트위터와 유튜브에 영상이 전 세계적으로 걷잡을 수 없이 공유된 상태였다.
페이스북은 공식 트위터 계정을 통해 사건 발생 24시간 안에 150만 개의 총기 난사 영상을 삭제했다고 밝혔지만, 30만 개의 영상은 처리하지 못하는 것으로 나타났다. 테크크런치 등에서는 이에 대해 "20%의 실패율"이라는 쓰디쓴 평가를 내리기도 했다.
페이스북 호주·뉴질랜드 지역 정책담당 미아 갈릭 국장 17일(현지시간) 공식 트위터 계정을 통해 페이스북은 1만5000여명의 직원과 음성 식별 기술 등 기술을 동원해 계속 영상을 지우고 있다고 밝혔다.
그러나 IT 온라인 매체 테크크런치 등 외신은 페이스북이 "보고 싶은 것만 보는" 왜곡된 통계를 내놓았다고 18일(현지시간) 보도에서 지적했다. 테크크런치는 사건 발생 12시간 후에도 여전히 페이스북에는 총기 난사 영상들이 발견됐다고 보도했다. 소프트웨어 엔지니어 마크 리커비 역시 16일(현지시간) 자신의 트위터에서 페이스북이 발표한 통계는 "오보(misinformation)"이며, 영상 삭제 이전의 인게이지먼트(Engagement 페이스북 페이지에서 발생하는 클릭 수, '좋아요'수, 공유 횟수, 댓글 수) 수치를 발표해야만 영상이 얼마나 퍼졌는지를 정확히 알 수 있다고 언급했다.
이에 따라 발달한 AI 소프트웨어와 인간이 개입한 엄격한 검열에도 헛점이 드러나고 있다는 분석도 나온다. 월스트리트저널의 17일(현지시간) 보도에 따르면 유튜브, 페이스북 등의 기업은 테러 콘텐츠에 '디지털 지문'을 부여할 수 있도록 데이터베이스를 공유해 시각적으로 유사한 영상을 잡아내 영상의 업로드를 막고 있다.
그러나 이러한 AI 기술은 영상이 조금만 조작돼도 식별에 어려움을 겪는다. 예컨대 1인칭 시점에서 촬영된 태런트의 총기 난사 영상은 비디오게임용 메세징 앱인 '디스코드'에 1인칭 시점 슈팅 비디오 게임 (shooting game)처럼 조작돼 업로드 됐다. 또한, 노트북에서 재생된 영상을 휴대폰으로 재촬영한 영상처럼 원본이 아닐 경우 AI 알고리즘은 현실과 허구를 구분하지 못한다. 블룸버그 역시 영상을 좌우로 뒤집거나 화면에 액자처럼 테두리를 만들기만 해도 원본 영상을 식별하도록 훈련된 AI가 잡아내기 어렵다고 16일(현지시간) 보도했다.
유튜브의 경우 표현의 자유를 보장하고 "새로운 영상이 해당 (유해한) 영상의 일부만을 포함한다는 이유로 삭제되는 것을 방지하기 위해" 조정자 역할을 하는 직원의 모니터를 거치기 때문에 시간이 배로 걸린다. 뉴스 웹사이트 '더 버지' 기자인 줄리아 알렉산더는 17일(현지시간) 복스뉴스와의 인터뷰에서 원본 영상이 수정된 경우, 유튜브와 계약업체 직원들이 당사 방침에 어긋나는 영상인지 직접 구분한다고 밝혔다. 이는 시간이 오래 걸릴 뿐만 아니라, 폭력적인 영상을 반복적으로 봐야 하는 직원에게도 트라우마가 된다.
보다 본질적인 문제는 생중계로 '라이브 스트리밍'되는 유해한 콘텐츠의 경우, 영상이 업로드 되기 전까지 AI가 이를 잡아낼 수가 없다는 점이다. AI는 특정 영상의 복사본을 식별하기 위해선 어느 일정 기간 학습을 해야 하는데, 이는 결국 우선 유해한 영상이 플랫폼에 업로드 돼야만 그것을 삭제하기 위해 AI를 준비시킬 수 있다는 것을 의미한다.
유튜브의 영상 식별 AI를 공급하는 스타트업 '펙스'의 최고경영자인 라스티 튜렉은 블룸버그와의 인터뷰에서 "컴퓨터를 속이는 방법은 무궁무진하게 많다"며 두더지 잡기 게임에 비유하기도 했다.
[저작권자 @머니투데이, 무단전재 및 재배포 금지]