'챗GPT 할머니'의 윈도우 제품인증키/그래픽=김다나
"할머니가 돌아가셨다니 유감이네요. 잠드시는 데 도움이 되길 바라요. 인증키는 VK7JG-(…)"(챗GPT)
활용폭이 점차 넓어지며 AI의 부작용은 기술적 결함에 따른 피해뿐만 아니라 인간의 오남용에서 비롯된 사회문제로도 번졌다. 지난해 6월 미국에서 챗GPT에게 변론서류 작성을 맡겼다 적발된 변호사들이 벌금형을 선고받은 사건이 대표적이다. 이 변호사들은 챗GPT가 실존하지 않는 판례를 인용했는데도 서류를 그대로 법원에 제출한 것으로 드러났다. AI로 만든 딥페이크(가짜합성물)가 여론형성 과정을 왜곡하거나 명예훼손을 유발하는 사건은 하루이틀 일이 아니다. 조 바이든 미국 대통령은 올 초 예비선거를 앞두고 '투표하지 말라'는 가짜 음성이 유포돼 곤욕을 치렀다. 국내에선 AI를 이용한 아동 성착취물 제작·유포에 대해 전국에서 수사가 진행 중이다.
EU, AI법 시행 목전…한국은 아직 갑론을박
EU AI법 개요/그래픽=김다나
미국은 지난해 10월 '안전하고 신뢰할 수 있는 AI 개발과 사용에 관한 행정명령'을 시행했다. 이 행정명령은 정부가 검증한 전문가팀(레드팀)의 안전성·보안성 테스트를 AI 개발기업이 의무적으로 받게 하고 AI로 생성된 콘텐츠에 워터마크를 적용하도록 권고하는 내용이 담겼다. 영국은 당초 안전성·투명성·공정성·책임감·구제조치 등으로 구성한 AI 5대원칙을 수립하면서도 구체적인 규제는 늦춰왔지만, 지난달 출범한 노동당 정부가 AI 규제 입법을 국정과제 목록에 올린 상태다.
이 시각 인기 뉴스
국내에서는 22대 국회 들어 재발의된 'AI 기본법' 제정안들을 중심으로 논의가 진행되고 있다. 상당수 법안은 기관설치·산업진흥과 더불어 고위험 AI의 정의와 AI의 비상정지 규정을 명시했고, 일부는 '우선허용·사후규제' 기조 등을 포함한다.
시민단체들은 EU AI법을 비롯한 해외 흐름에 맞춰 국내에서도 AI 모델·서비스의 의무를 강화해야 한다고 주장했다. 지난달 1일 민주사회를위한변호사모임(민변) 등 시민단체 14곳은 공동성명을 내고 현재 법안들에 대해 "AI의 위험을 방지·완화하는 규정에 소홀하다는 점에서 매우 우려스럽다"며 "고위험 AI 제공자는 물론 이를 업무용으로 도입하는 활용자 모두 사전에 위험을 방지하거나 완화하도록 강력한 의무를 부과해야 한다"고 밝혔다. 이 단체들은 "위험이 큰 범용 AI는 적대적 테스트와 국가적 관리를 의무화해야 한다"며 "새로운 국가 독립감독기관을 신설하는 것을 고려해 볼 만하다"는 제안도 덧붙였다.
반면 산업계는 AI의 기술발전과 시장변화가 빠른 탓에 현 시점에서 규제 수위를 EU 수준으로 맞추는 건 부담스럽다는 입장이다. 일각에선 국내기업의 경쟁력 저하나 갈라파고스화를 우려한다. 방통위 관계자는 "성장 초기단계인 국내 AI산업의 특성과 규제 수용한도에 대해선 관계부처가 심도 있게 검토 중"이라며 "회원국 대다수가 AI 기술 소비국인 EU와 각종 기반기술을 보유한 한국의 환경적 차이 또한 고려대상"이라고 밝혔다. 이 관계자는 "EU뿐만 아니라 여러 국가의 동향을 파악 중"이라며 "AI 발전과 이용자보호를 조화롭게 추진하는 것이 목표"라고 덧붙였다.