생성형 AI를 통해 합성한 이미지로 불온한 사진과 영상을 생성하고 이를 여러 소셜미디어에 배포하는 딥페이크로 온 나라가 떠들썩하다. 최근 모든 신문과 방송에 도배되고 있다. 대한민국 사람이라면 남녀노소를 불문하고 딥페이크가 무엇인지 다 알고 있고 누구든 피해를 볼 수 있다는 두려움이 쓰나미처럼 밀려온다. 포르노사이트가 한 해에 4배 이상 늘었는데 10건 중 9건은 딥페이크가 게시됐다고 한다. 그래서 불온한 사이트에는 딥페이크가 넘치며 그의 공포감이 세계 시민을 떨게 하는 줄 알고 있었더니만 미국의 모 사이버보안업체에서 이러한 행위의 절반 이상이 한국인이라는 조사결과가 나왔다. 더 깊이 파보니 그 행위의 70% 넘는 행위자가 10대라고 발표됐다. 참으로 기가 막힌 사실이다.
결과적으로 가까운 지인은 그 걱정에 자신의 소셜미디어에서 사진을 내리고, 나라의 법을 만드는 곳에서는 긴급회의를 하면서 빠르게 법규를 만들어 규제를 가하겠다고 한다. 법을 집행하는 곳에서는 전담을 만들어 대처한다는 소식도 들리고 피해를 본 연예기획사에서는 자신들의 구성원이 피해를 봤다며 고소와 고발이 이뤄진다. 또한 남성이 가해자고 여성만 피해자냐 등등으로 생각지도 못한 젠더문제로까지 단체 간에 갈등도 표출된다. 한마디로 난리가 났다. 그러나 사실 이전에도 N번방이니 박사방이니 하는 것들도 마찬가지였고 한때는 몰카공포로 우리 사회가 치를 떨었다. 수많은 방을 만들어 수만 개의 성착취물이나 몰카영상으로 적지 않은 개인들의 삶을 지옥으로 떨어뜨리고 유사 범죄와 배포, 단순 호기심을 느낀 이들까지 수많은 가해자와 관음증 환자를 양산했다. 이 또한 참으로 어처구니가 없는 사실이다.
과거 인터넷이 처음으로 세상에 나왔을 때도 인터넷이 생활화되기 이전이나 기업들이 이를 통해 돈을 벌지 못하던 시절 상업적으로 가장 먼저 시도되고 돈을 만든 아이템이 바로 포르노였다. 현재의 현상은 기술 발전 초기에 나타나는 가장 큰 부작용이 예외 없이 작동된다고 보인다. 바로 생성형 AI의 가장 큰 부작용이다. 어찌 보면 엄청난 발전에 발전을 거듭하는 듯 보이지만 생성형 AI는 이제 겨우 2년차가 됐다. 마이크로소프트와 구글의 끝나지 않는 경쟁과 수많은 테크기업의 동참, 그리고 셀 수 없는 기업에서 쏟아져나오는 응용사례 등등으로 경제와 사회, 문화와 교육에서 사용된다.
그러나 여전히 수백억 달러에 달하는 테크기업들의 공격적인 투자에 비해 수익성은 증명되지 않았고 기업들의 AI서비스 수요는 낮은 수준이라고 이야기된다. 여기에 신용평가사 무디스의 최근 보고서에 'AI 투자에 빅테크들은 리스크를 피하기 어렵다'는 언급까지 있는 것을 보면 소리는 요란하지만 여전히 AI 수익화라는 실속에는 어려움이 있음이 틀림없고 그 돌파구를 찾기 위해 테크기업들은 사활을 걸었다.
이러한 사건에 우리의 대응은 접근차단 기술을 개발하고 의무화하며 법규를 만들고 처벌을 강화하고 사회적으로 건전한 AI 응용문화를 형성하려고 노력한다. 그것도 세계에서 어디보다 먼저 강력하게 청소년을 보호하고 우리 사회를 건강하게 만들려는 절실한 의지가 짧지만 강력하게 보인다. 이것이 성공한다면 이미 인터넷 시절이나 모바일 시절에도 검증된 것처럼 우리는 AI 생활화를 달성할 수 있다. 그래서 이번 AI 딥페이크 사건은 조금 더 심각하게 볼 필요가 있으며 우리의 지금 노력이 반드시 성공해야 한다는 생각을 멈출 수 없다.
왜냐하면 미래를 지배할 AI의 생활화는 개인에게는 안전과 편리함을 주고 기업에는 세계 기술 선도의 기회와 수익화를 주며 국가적으로는 지능국가를 만드는데 가장 크게 기여할 수 있기 때문이다. 그렇기에 이번 AI 딥페이크 사건이 우리에게 주는 메시지는 '성공적인 대처를 통한 도약의 기회'다.(최재홍 가천대학교 스타트업칼리지 교수)
<저작권자 © ‘돈이 보이는 리얼타임 뉴스’ 머니투데이. 무단전재 및 재배포, AI학습 이용 금지>