/사진제공=마이크로소프트 디자이너벨기에만의 이야기가 아니다. 아마존 챗봇 알렉사는 10세 소녀에게 감전사 위험이 큰 전기 장난을 유도해 물의를 빚었다. 국내에서도 비슷한 일이 있었다. 2020년 12월 출시한 스캐터랩의 AI 챗봇 '이루다'는 개인정보 유출, 소수자에 대한 차별적 발언 등이 문제가 되면서 서비스를 중단하기도 했다.
저작권 침해·데이터 유출 문제 제기…美·EU, AI 규제법 마련
EU AI 법과 미국 AI 행정명령 비교/그래픽=윤선정AI도 마찬가지다. AI 챗봇 도입이 업무 효율을 높이지만 기업의 데이터 보안, 개인정보 유출 등의 부작용도 만만치 않다. 실제로 지난해 3월 삼성전자는 디바이스솔루션 부문 사업장에 챗GPT를 사용한 이후 민감한 기업정보가 유출되자 챗GPT 등 생성형 AI의 사용을 전면 금지했다.
이 시각 인기 뉴스
법적 분쟁으로도 번지고 있다. 뉴욕타임스, 베스트셀러 작가, 미국 음반사, 게티이미지 등은 오픈AI나 앤프로픽 등 AI 기업을 대상으로 저작권 침해 소송을 제기했다. 챗봇을 훈련시키기 위해 자신들의 저작권물을 무단으로 사용했다는 주장이다.
이에 미국이나 유럽연합(EU) 등 해외 주요국은 AI 규제법을 통해 안전한 AI 개발 환경을 조성하고 있다. EU의 AI법은 세계 최초 AI에 대한 포괄적 규제법으로 지난 1일 발효됐다. AI 시스템의 위험 수준에 따라 금지, 고위험, 제한된 위험, 저위험 등 4단계로 분류하고 고위험 영역을 대상으로 엄격한 의무를 부과한다.
구글, 메타 등 빅테크 기업들이 모여있는 미국 캘리포니아주도 AI로 피해가 발생하면 개발사에게 책임을 묻는 규제 법안을 추진 중이다. 연방정부 차원에서도 '국가 2021년 AI 이니셔티브법'을 마련했고 지난해 10월 100억 파라미터 이상의 고성능 AI는 연방정부에 보고하도록 하는 'AI 행정명령'을 발표했다.
박상철 서울대 법학전문대학원 교수는 "EU의 규제는 미국 빅테크 기업을 견제하면서 기술을 고도화할 시간을 벌려는 의도에서 시작했다"며 "고성능 범용모델은 사이버 범죄나 무기 제조에 사용될 수 있기 때문에 미국은 AI를 안보차원에서 규제하기 시작했다"며 규제 차이를 설명했다.
국회로 넘어간 AI 기본법…진흥과 규제 사이 갈림길
제22대 국회 발의된 AI 법안/그래픽=윤선정AI 기본법의 핵심 쟁점은 산업 진흥과 규제 중 어느 곳에 방점을 두느냐다. 이에 대해 시민단체와 산업계의 입장은 엇갈린다. 시민사회는 안전한 AI를 개발하기 위한 안전관리 강화를, 산업계는 산업육성을 위해 우선허용·사후규제 원칙이 필요하다며 맞서고 있다.
전문가들은 AI 강대국 3위 안에 들기 위해서는 일단 AI 규제를 빨리 마련해야 한다고 지적했다. 김명주 국제인공지능윤리협회 회장은 "주요국들이 AI 규제안을 마련하면서 헤게모니를 잡으려고 하고 있다. 어차피 국내 기업이 해외에 진출하려면 이에 맞는 기준을 충족시켜야 하는 상황"이라며 "다른 나라보다 규제를 강하게 할 필요는 없지만 최소한 규제와 제도를 마련해야 할 때"라고 말했다.
[머니투데이 스타트업 미디어 플랫폼 '유니콘팩토리']
