포르노·표절·딥페이크 악용되는 생성AI, 구멍뚫린 국내 규제

챗GPT 등 생성형 AI(인공지능) 기술이 날로 발전하는 데다 이를 이용한 솔루션·앱들이 시시각각 쏟아져 나오지만 AI 관련 부작용을 억제할 수단이 없다는 지적이 나온다. 기술 발전을 법제도가 따라가지 못하는 아노미 현상이 심화되고 있다는 지적이다. 해외에서는 생성형AI 이용을 금지하거나 단속하려는 움직임을 보이고 있지만 국내 규제 논의는 지지부진하다.

챗GPT로 시험 답안·음란 소설 작성…규제 논의 지지부진

2일 일부 인터넷 커뮤니티에서는 '챗GPT 탈옥'에 관한 게시글이 올라오고 있다. 챗GPT 탈옥이란 특정한 명령어나 상황을 입력해 제조사가 부여한 제한 기능을 해제하고 임의로 시스템을 바꾸는 것을 말한다. 게시물에 따르면 일부 이용자는 챗GPT 탈옥을 수행한 후 음란 소설을 작성해달라고 하거나 성적(性的) 이미지를 그려달라고 요구했다.

이보다 앞서 지난달 수도권의 한 국제학교에서는 챗GPT를 이용해 영문 에세이 과제를 작성한 학생들이 적발돼 전원 0점 처리를 당하기도 했다. 이처럼 학생들이 챗GPT를 이용해 과제를 수행하거나 시험 답안지를 만들자 교육계는 비상이 걸렸다. 국민대·고려대 등 일부 대학은 AI 관련 가이드라인을 발표했고 이화여대는 학생들에게 윤리 서약을 받고 있다.

생성형 AI 기술 발전 속도가 예상보다 빠른 만큼 당국이 규제 마련에 서둘러야 한다는 지적이 나온다. 국내에서는 과학기술정보통신부와 개인정보보호위원회, 문화체육관광부 등 유관부처가 관련 업계와 부작용 예방책을 논의 중이지만 결과물은 아직 없다.

문체부는 현재 한국저작권위원회와 학계, 법조계, 산업계 등 각 분야 전문가와 'AI-저작권법 제도개선 워킹그룹'을 만들어 AI 관련 저작권 논의를 이어가고 있다. AI를 이용해 만든 저작물의 2차 저작권을 인정할 수 있는지, AI를 이용해 저작하는 과정에서 일어날 수 있는 저작권 침해에는 어떻게 대응해야 하는지 등을 논의 중이다.

과기정통부는 초거대AI 산업 정책방향을 마련 중이다. 과기정통부는 AI 산업을 육성하기 위해 관련 규제를 전면 해소한다면서도 AI 윤리성 확보를 위해 노력하겠다는 입장이다. 개인정보위도 생성형AI가 데이터를 수집해 답변하는 과정에서 개인정보를 침해할 수 있다는 우려를 해소하기 위해 관련 업계와 해결 방안을 논의 중이다.

지금까지 나온 AI 관련 규제는 개인정보위가 2021년 마련한 'AI 개인정보보호 자율점검표'가 유일하다. 하지만 자율점검인 만큼 강제성이 없고 내용도 AI를 기획·개발하는 과정에서 적법성과 안전성, 투명성 등의 원칙을 지켜야 한다는 원론적인 설명에 그치고 있다.


국회에서도 관련 법안에 대한 논의는 지지부진하다. 주호영 국민의힘 의원이 2020년 12월 AI 저작물과 저작자의 정의를 신설하는 내용의 저작권법 개정안을 대표 발의했으나 여전히 계류 중이다. AI 저작물에 대한 개념부터가 모호한 상황에서 저작권 침해 등 2차적 문제를 논의하는 것 자체가 어불성설인 셈이다.

(서울=뉴스1) = 전병극 문화체육관광부 제1차관이 24일 서울 용산구 한국저작권위원회 서울사무소에서 열린 AI-저작권법 제도개선 워킹그룹 출범회의에서 인사말을 하고 있다. (문화체육관광부 제공) 2023.2.24/뉴스1 Copyright (C) 뉴스1. All rights reserved. 무단 전재 및 재배포 금지.

생성형 AI 적극 규제 나선 외국…단속 이어 접속 차단하기도

한편 도널드 트럼프 전 미국 대통령과 프란치스코 교황의 사진을 이용한 딥페이크로 논란을 빚은 AI 기반 이미지 생성 서비스 '미드저니(Midjourney)'는 지난달 28일 새 계정에 제공하던 25분 무료 평가판 서비스를 중단했다. 딥페이크 악용으로 인해 발생할 수 있는 피해를 조금이나마 방지하자는 취지다.

JP모건과 BOA(뱅크오브아메리카), 도이치뱅크 등 IB(투자은행)업계도 개인정보 및 기업비밀 유출 등을 이유로 직원들의 챗GPT 사용을 제한한 바 있다. 교육계에서도 미국 뉴욕시 공립학교들이 챗GPT 사용을 금지했고 프랑스 파리 정치대학은 챗GPT를 사용하다 적발되면 퇴학당할 수 있다고 경고했다.

유럽 국가 중 이탈리아는 유럽 국가 중 처음으로 지난달 31일(현지시간) 개인정보보호를 이유로 챗GPT 접근을 차단하고 데이터 수집 규정 위반 여부를 조사 중이다. 챗GPT가 이용자 연령을 확인하지 않아 미성년자에게 부적절한 답변을 할 수 있다는 게 이유다. 또 챗GPT가 개인정보를 수집하고 저장할 법적 근거가 없다는 이유도 들었다.



한 보안 관계자는 "아직 국내에서 생성형AI를 이용한 큰 규모의 해킹사고나 개인정보·저작권 침해 사고는 발생하지 않고 있지만 대비는 서둘러야 할 것으로 보인다"며 "전문가들이 챗GPT 등을 이용해 시험해본 결과 일반적인 악용 시도에는 대비를 해뒀지만 조금만 디테일하게 상황을 조작하면 얼마든지 악용할 수 있었다"고 말했다.