"AI, 통제불능 괴수 될 수도"…UN '원자력기구급' 규제 기구 만든다

사무총장 "AI, 핵전쟁과 동등한 수준으로 인류 위협해"…
9월 자문위 설립 구체화·내년 미래정상회의 전 규약 마련

/로이터=뉴스1

인공지능(AI) 개발 가속화에 따른 부작용에 대응한 규정 마련 목소리가 커지는 가운데 유엔이 국제원자력기구(IAEA) 급 AI 규제 전문기구와 국제규약 수립을 추진한다.

12일(현지시간) AP·로이터통신 등 주요 외신에 따르면 안토니우 구테흐스 유엔 사무총장은 이날 기자회견에서 AI가 '핵전쟁'과 동등한 수준으로 인류에게 위협이 되고 있다며 이를 규제하기 위한 다자간 기구의 설립을 촉구했다.

구테흐스 총장은 기자회견에서 허위 정보와 증오의 확산, AI 발전에 따른 위협이 통제할 수 없는 괴수가 될 수 있다고 지적했다. 그는 "AI의 허위 정보를 대규모로 퍼뜨리는 능력 때문에 인류가 존망의 위협을 받는다"며 유엔의 평화유지 임무와 인도주의적 지원 활동이 AI 공격의 표적이 되고 있다고 주장했다.

구테흐스 총장은 마이크로소프트(MS), 구글 등 주요 정보기술(IT) 기업의 최고경영자(CEO)를 포함해 수백 명의 최고 AI 과학자들이 "AI로 인한 인류 멸종 위험을 완화하는 것이 다른 사회적 규모의 위험과 함께 세계의 우선순위(과제)가 돼야 한다"고 경고한 것도 언급했다.

그는 "이 과학자들과 전문가들은 AI가 핵전쟁의 위험과 동등한 수준의 인류에 대한 실존적 위협이라고 선언하며 전 세계에 행동을 촉구한 것"이라며 "AI를 설계한 개발자들의 이런 경고를 우리는 진지하게 받아들여야 한다"고 강조했다. 그러면서 "오늘날 IAEA와 같은 AI (규제 전문) 기구를 우리가 보유할 수 있다는 생각에 동의한다"고 했다.

1957년 설립된 IAEA는 오스트리아 빈에 본부를 둔 유엔 산하 기구다. 원자력의 평화적 이용과 국제적 공동관리를 목적으로 설립된 이 기구는 인류에게 위협이 될 수 있는 원자력 사용 규제 권한을 지닌다. 1970년에 발효된 핵확산금지조약(NPT)을 바탕으로 핵무기 비보유국은 IAEA와 평화적 핵 이용 활동을 위한 안전 협정을 체결해야 한다. IAEA는 핵무기 비보유국이 핵 연료를 군사적으로 사용하는 것을 방지하고자 핵물질 관리실태를 점검하고 직접 사찰할 수 있다.

안토니우 구테흐스 유엔 사무총장 /로이터=뉴스1

유엔은 오는 9월 AI 자문위원회 설립 계획을 구체화할 예정이다. 이와 관련 구테흐스 총장은 UN 정보통신기술 관련 전문기관인 ITU 수석과학자 등을 비롯해 외부 전문가를 고문으로 둔 과학 자문기구도 곧 구성할 계획이다. AI 관련 외부 전문가는 2명이 될 예정이다. 다만 그는 유엔 기구의 창립 주체는 유엔 사무국이 아닌 유엔 회원국들이라며, AI 규제 전문기구 등이 설립되기 전에 국제사회의 합의가 먼저 이뤄져야 한다고 덧붙였다.


구테흐스 총장은 정부와 기업들이 AI 기술 발전으로 나타난 부작용에 대한 효율적인 대책을 내놓지 않았다고 지적하며 유엔 차원에서 AI 관련 '국제 행동 규약'을 제정할 것이라고 밝혔다. 그에 따르면 기술 기업들은 플랫폼이 혐오와 폭력에 기여하는 것을 막기 위해 거의 아무것도 하지 않았고 일부 정부는 전면적 인터넷 차단, 인권 무시 등의 과도한 조처를 했다.

구테흐스 총장은 디지털플랫폼과 AI 사용을 국제적 차원에서 규제하기 위한 '국제 행동규약' 제정을 추진해 내년 9월 유엔 미래정상회의 전 발표할 것이라고 했다. 그는 "내년 미래정상회의를 앞두고 디지털플랫폼에서 정보의 진실성을 확보하기 위한 유엔 행동규약이 개발되고 있다"며 어떤 목적에서도 허위 정보와 혐오 발언의 이용, 지지, 증폭 등을 자제한다는 원칙을 제시했다.

구테흐스 총장은 "이 제안은 정부가 음모와 거짓을 폭로하고 표현과 정보의 자유를 보호하면서 사실을 홍보하는 가이드라인을 중심으로 협력할 수 있도록 가드레일을 만드는 것을 목적으로 한다"고 설명했다. 아울러 "기술기업이 어려운 윤리적, 법적 문제를 해결하고 건강한 정보 생태계에 기반한 비즈니스 모델을 구축하도록 도울 것"이라고 부연했다.