/사진=APF한국에서는 2020년 이후 여야 의원이 발의한 'AI 산업 육성 및 신뢰 기반 조성 등에 관한 법안' 등 총 7개의 관련 법안을 통합한 단일안이 국회 과학기술정보방송통신위원회(과방위)에 계류 중이다. 만약 한국에서 가장 먼저 법이 시행되면 세계 최초 사례가 된다.
박윤규 과기정통부 제2차관은 지난 11일 AI 윤리·신뢰성 강화를 위한 현장간담회에서 "챗GPT 등장 이후 인공지능 모델의 신뢰성 이슈가 새로운 국면에 접어들고 있다"며 세계 최초로 AI법을 마련할 수 있도록 노력하겠다고 밝혔다. 박 차관은 이어 "일각에서 이 법이 인공지능 진흥을 위해서만 제정되는 것처럼 비판하는데 법안 명칭에서도 알 수 있듯 일방적인 산업 육성만을 위한 것이 아니다"라도 강조했다.
최근 상임위원장이 정청래 더불어민주당 의원에서 장제원 국민의힘 의원으로 바뀐 것을 계기로 한동안 여야 간 신경전도 이어질 전망이다. 이달 중 전체회의가 오는 28일로 예정돼있으나 이날 역시 AI 법 논의는 없을 것으로 전해졌다. 민주당 소속 과방위 의원실 관계자는 "국회법에 따라 위원회 의사 일정은 여야 간 협의 후 잡아야 하는데 야당과 사전 논의없이 통보했다"며 "무슨 안건을 논의하겠다는 것인지도 공유받은 게 없다"고 했다.
■ 유럽·미국 등 "기술 올바른 활용을 위해 규제해야" 논의 박차
이 시각 인기 뉴스
현재 유럽의회는 EU 집행위원회, 27개국을 대표하는 이사회와 함께 3자 협상을 시작했다. 3자 협상은 새 법안 시행을 확정하기 전 거치는 최종 절차다. 유예 기간 등을 고려하면 법은 2026년 쯤 시행될 전망이다. 법안에는 안면인식 기술 사용을 금지하고 생성형 AI 학습에 사용된 자료 출처를 공개하는 내용이 담겼다.
UN 역시 AI와 디지털 플랫폼 규제를 위해 국제원자력기구(IAEA)를 모델로 한 국제기구 수립을 추진 중이다. 핵무기 비보유국이 핵연료를 군사적으로 사용하는 것을 막기 위해 IAEA가 핵물질 관리실태를 직접 점검하는 것처럼 AI에 대해서도 국제기구 차원에서 평화적인 이용을 도모하자는 취지다. UN은 내년 9월 UN 미래정상회의 전 AI와 디지털 플랫폼을 규제하기 위한 행동강령을 완성해 발표할 계획이다.
미국도 의회 차원의 논의가 본격화하고 있다. 지난 14일 미국 상원 소속 리처드 블루먼솔 의원과 조시 홀리 의원은 챗GPT 등과 같은 생성형 AI가 만든 콘텐츠에 대해 사업자가 법적 책임을 지도록 하는 법안을 발의했다. 미국 의회는 같은 달 16일 AI 규제 방향을 논의하기 위한 청문회를 열었다.
일부 국가들은 규제 때문에 자국이 글로벌 AI 주도권 경쟁에서 낙오할 수 있어 유연한 규제가 필요하다는 입장을 내비친다. 에마뉘엘 마크롱 프랑스 대통령은 같은 날 유럽 최대 스타트업 축제 비바테크 행사에서 AI 규제를 엄격하게 만드는 것에 대해 "매우 조심스럽다"고 했다. 그는 AI를 기술 발전을 저해하지 않는 수준으로 '스마트하게' 규제해야 한다고도 했다.
벨기에 브뤼셀의 유럽위원회 본부 외부에 유럽연합(EU) 깃발이 펄럭이고 있다. /로이터=뉴스1중국은 지난 4월 챗GPT와 같은 생성형 인공지능(AI)에 대한 규제 마련 작업에 돌입했다. 최근 의견수렴 절차를 마쳤으며 한국의 국회에 해당하는 전국인민대표대회(전인대)에서 논의가 끝나면 제도가 최종 마련된다. 중국은 이 법을 올해 중 시행하는 것을 목표하고 있다. 중국 당국이 그간 AI 서비스나 알고리즘 관련 규정을 만든 적은 있으나 규제를 만드는 것은 이번이 처음이다.
규제 초안에는 생성형 AI를 자국 질서에 포섭하겠다는 야심이 듬뿍 묻어있다. 초안 핵심은 생성형 AI 서비스 제공자가 지식재산권 침해와 허위정보 생성 등 부작용을 막기 위한 조치를 다해야 한다는 내용 등이다. 또 생성형 AI로 만든 콘텐츠에는 사회주의 핵심가치를 반영해야 한다고도 명시하고 있다.
실제 중국은 최근 유럽연합(EU)와 미국의 AI 규제 마련 움직임을 미·중 간 기술패권 경쟁의 연장선으로 보고 있다. 규제라는 이름으로 장벽을 만들어 중국 기술을 배척하려는 의도라는 것이다. EU와 미국 움직임에 발빠르게 중국도 규제를 만드는 배경이다. 중국 관영매체 글로벌타임스는 지난 14일 동이판 중국의 현대국제관계연구소 유럽연구소 연구원의 기고를 통해 "(미국과 유럽의 움직임은) 이념이 다른 국가의 기술 발전을 '문제'라고 여기고 발전을 일방적으로 깎아내리며 정치적으로 비방하려는 목적을 달성하려는 것"이라고 보도했다.
"안전한 AI 키우려면 '입법'은 필수…유럽은 서두르는 중"
법제정비단에 참여한 김형준 한국지능정보사회진흥원(NIA) 지능화법제도센터장은 "국회에 제출된 입법안 역시 AI 기술·산업의 발전, 또 국민의 생명·인권을 보호하는 조치의 균형을 모색하는 등 우리 사회가 수용할 수 있는 방안을 도출하기 위해 노력하고 있다"고 소개했다. 다음은 김 센터장과의 일문일답.
-현재 국회 계류 중인 AI법안을 두고 일각에선 '우선 허용, 사후 규제' 원칙을 우려한다.
▶제출된 법안들을 살펴보면, AI의 윤리·신뢰성 확보에 소홀하다는 의견에는 동의하기 어렵다. 과기정통부는 윤리적이고 신뢰할 수 있는 AI의 개발·활용을 위해 폭넓게 노력하고 있고, 기존 법안들도 AI 윤리 원칙의 제정·확산을 위한 민간 자율의 다양한 방안들을 제시하고 있다. 앞서 '지능정보화 기본법' '정보통신 진흥 및 융합 활성화 특별법' 등에도 '우선 허용, 사후 규제' 원칙을 두고 있다. AI법안에 해당 규정이 포함되더라도, 이는 정보화 전반에 걸친 원칙에 관한 주의 규정으로서의 성격이기 때문에 AI 분야만의 특별한 문제는 아닐 것으로 생각한다.
-법안은 AI의 '고위험 영역'을 규정하고 있다. 해당 내용은 어떻게 기능할까.
▶위험 기반의 AI 규율은 미국과 EU(유럽연합) 등 주요국에서도 취하는 규율체계다. 특히 '고위험'으로 표현되지만 'Dangerous가 아닌 'Risk'로서 '피해를 줄 위험성을 내포한 상태'로 보는 게 맞다. 결국 고위험에 포함된다고 해서, 그것을 '위험한 AI'로 해석해선 안 된다. 오히려 고위험 영역에서 발생할 수 있는 사고 또는 차별을 방지하고, 사고가 AI로부터 유래한 경우 누구도 책임지지 않으면서 적절한 원상회복이나 피해 복구가 이뤄지지 않는 상황을 막기 위해, 더 높은 수준의 사전적 안전장치를 마련할 영역을 식별하는 성격이다.
-국회의 법안에서 AI 부작용을 막을 또 다른 장치를 소개한다면.
▶제출된 법안들은 공통으로 AI 윤리에 대한 국가와 기업·이용자 등 관련 생태계 구성원, 국민 모두의 노력, AI 윤리원칙의 제정·확산을 위한 여러 국가의 노력을 중요시하고 있다. 이는 법률에 의한 규제·처벌 이전에 근본적 사회규범으로서 AI 윤리의 중요성을 표현한 것이다. 그 확산을 위해 AI 리터러시 교육, 인권 보호에 관한 사회적 합의 등 노력이 필요하다.
-흔히 유럽은 AI 규제, 미국은 AI 진흥 쪽에 무게를 둔다고 평가한다. 관련 글로벌 논의는 어떠한가.
▶주요국의 입법 동향을 들여다보면 '유럽 대 미국' '규제 대 진흥'으로 양분하는 시각은 부적절하다. 유럽 입법에도 AI 샌드박스 등 혁신 지원 방안이 담겼고, 미국도 생명·인권 보호를 위한 매우 구체적인 안전장치 관련 입법을 적극 추진한다. EU를 탈퇴한 영국도 혁신 친화적 규제백서를 내놓았지만 '규제 백서'라는 점을 명확히 하는 등 대부분 국가는 AI 진흥·규제 방안을 동시에 마련하고 있다. 차이점은 나라마다 공동체 가치관과 사회문화적 전통, 국민 법 감정 등을 고려한 결과다. 진흥·규제 중 어느 한쪽만 고집하는 국가·지역은 기술적으로 고립되거나 쇠퇴할 위험성도 있다.
-정부는 AI 법제 마련의 '속도'를 강조한다. 반면 우리 국회의 논의는 비교적 지지부진한 상황으로 보인다.
▶산업 현장에서의 불확실성을 제거해 안전한 AI 개발·이용환경을 조성해야 하고, AI 확산을 통한 국민 생활·경제의 도약을 위해서도 AI 기본법제의 입법은 필수다. 예컨대 AI 법체계는 자율주행차 등 산업 영역뿐만 아니라 의료·교육·행정 등 사회 전 영역에 영향을 주기 때문이다. 사회적인 합의의 과정으로서 국회 논의가 신중할 수밖에 없다는 점은 이해한다. 다만 EU 등이 서둘러 AI 입법을 추진하는 점을 고려하면, 우리도 빨리 AI에 대한 합리적인 규율체계를 마련해 AI 기술·산업 진흥의 근거를 신속히 마련해야 한다.
