"빠르게 다가오는 AI세상, 바르게 공존하는 방법 배워요"

[2024 u클린] 문화마당 강연회

서울경찰청 청소년보호과 김하은 경장이 22일 서울 용산구 디지텍고등학교에서 머니투데이 주최로 열린 '2024 U클린 토크콘서트'에서 강연을 하고 있다 /사진=김휘선

"친구, 선생님, 내 주변 사람들을 대상으로 절대 합성영상물을 제작·배포·시청하지 않는다."

'2024년 u클린 토크콘서트'에 참여한 서울 용산구 서울디지텍고등학교 학생 200여명은 이같이 외쳤다. 딥페이크로 지인능욕을 한 또래 고등학생이 징역 5년의 실형처분을 받았다는 이야기에 "헐!" 하며 놀란 학생들은 생성형 AI(인공지능)기술의 발달로 급증한 딥페이크 범죄가 얼마나 심각한지 깨달았다.

22일 서울디지텍고등학교에서 열린 '2024년 u클린 토크콘서트'는 머니투데이와 한국지능정보사회진흥원(NIA)이 주최하고 방송통신위원회가 후원하는 '2024년 u클린-따뜻한 디지털세상' 캠페인의 문화마당 강연회다.

'u클린 캠페인'은 깨끗하고 건전한 디지털문화 정착을 목표로 머니투데이가 2005년부터 20년째 이어왔다. 올해 'u클린 캠페인'은 디지털 네이티브를 넘어 AI 네이티브로서 살아갈 '청소년'에게 주목해 학교 현장을 직접 찾았다. 미래세대에게 AI의 역기능을 알리고 올바른 디지털윤리관을 심어줘야 한다는 사회적 요구를 반영한 것. 특히 문화마당 강연회가 열린 서울디지텍고등학교는 1975년 설립 이래 우리나라 게임·공간정보 및 AI분야 인재를 길러낸 특성화고다. 미래 IT(정보기술)업계를 이끌어갈 학생들의 디지털윤리 역량을 키운다는 점에서 더욱 의의가 있다.

서울경찰청 청소년보호과 김하은 경장이 22일 서울 용산구 디지텍고등학교에서 머니투데이 주최로 열린 '2024 U클린 토크콘서트'에서 강연을 하고 있다 /사진=김휘선

강연회는 김하은 서울경찰청 청소년보호과 경장의 'AI범죄의 현황, 청소년 보호방안'과 김경훈 카카오 AI세이프티 리더의 '모두를 위한 AI세이프티(AI Safety)' 강연으로 구성됐다.

김 경장은 딥페이크 등 AI를 악용해 타인의 권리를 침해하는 AI 범죄유형과 실제 사례 및 대응방안을 소개했다. 특히 딥페이크 성범죄는 빠르고 광범위한 전파력을 지녔고 오래 지속된다는 특징이 있어 피해가 걷잡을 수 없이 커질 수 있다고 강조했다. 김 경장은 동기 여학생이나 선생님의 얼굴로 딥페이크 음란물을 제작·판매해 처벌받은 고교생의 사례를 소개했다. "친구가 보내준 딥페이크 성범죄 영상을 보기만 했는데도 처벌이 될까요"라는 질문에 학생들은 "네!"라고 자신 있게 답했다. 하지만 시청만으로도 1년 이상의 징역처분을 받을 수 있다는 사실을 듣자 다소 놀라는 모습을 보였다. 딥페이크 범죄의 무서움을 깨달은 듯했다.

강연 후 김 경장은 "학생들이 딥페이크에 대해 어느 정도 인지하고 있어 다행"이라며 "딥페이크 범죄 자체가 너무 많은 피해자를 양산하기 때문에 장난이라고 해도 음란물 같은 영상을 제작하는 일은 안했으면 좋겠다"고 말했다.

김경훈 카카오 AI Safety 리더가 22일 서울 용산구 디지텍고등학교에서 머니투데이 주최로 열린 '2024 U클린 토크콘서트'에서 강연하고 있다. /사진=김휘선

김경훈 리더는 AI 생태계를 구성하는 이들의 마음가짐 등을 공유했다. 그는 "모두를 위한 AI 안전성을 위해선 모두의 노력이 필요하다"며 사회 각 주체의 책임을 강조했다. 정부는 이용자 보호를 위한 제도와 가이드라인을 마련하는 한편 기업은 AI 모델·서비스를 책임감 있게 기획·개발해야 한다는 설명이다. 학교 역시 구성원을 위한 가이드라인을 확립하고 이용자는 이에 맞게 AI를 활용해야 한다.


김 리더는 특히 '생성형 AI를 현명하게 활용하기 위한 체크리스트'를 학생들에게 보여주며 활용을 권장했다. 방통위와 NIA가 발간한 이 체크리스트에는 권리침해·혐오표현·허위조작정보·편향·오남용·창의성 등 항목에 걸쳐 AI 이용자의 주의를 환기하는 확인항목이 담겼다.
김 리더는 "손자와 할머니 중 누가 더 휴대전화 사용에 익숙하지 않을까"라는 질문을 했다. 학생들은 망설임 없이 "할머니요"라고 외쳤지만 정답은 "알 수 없다"였다. 김 리더는 "노인이 더 디지털기기에 익숙하지 않을 것이라는 생각은 전형적인 편향"이라며 "AI 윤리를 지키려면 이런 부분을 경계해야 한다"고 강조했다.

강연을 들은 서울디지텍고 학생 이선우군은 "학내외 해커톤 등 경진대회 아이디어 도출·개발단계에 생성형 AI를 활용하는 경우가 늘었다"며 "생성형 AI 활용법을 배우는 중인데 개발자가 된 뒤 필요한 윤리적 활용에 대해 고민해볼 수 있었다"고 말했다. 김성인 서울디지텍고 교감은 "학교 현장에서도 과제에 생성형 AI 활용을 허용할지 여부가 화두"라며 "AI 활용윤리 교육의 방향성을 모색하는 계기였다"고 밝혔다.



한편, 올해 u클린은 방통위를 비롯해 △SK텔레콤 △KT △SK브로드밴드 △LG유플러스 △삼성전자 △LG전자 △넥슨 △카카오 △네이버 △NHN △엔씨소프트 △한국통신사업자연합회(KTOA) 등 13개 기업 및 기관이 후원했다. 지난 20년간 u클린은 사이버예절·온라인 저작권·사이버 윤리 및 보안·u에티켓·좋은 크리에이터(창작자) 등을 다뤘다. 올바른 디지털 문화를 위한 기획기사와 함께 청소년 문화마당이나 토크 콘서트·글짓기 및 포스터 공모전 등 시민들이 직접 참여할 수 있는 행사도 함께 진행해 왔다.

22일 용산구 서울디지텍고등학교에서 머니투데이 주최로 열린 '2024 U클린 토크콘서트'에서 학생들이 강연을 듣고 있다. /사진=김휘선