구글·MS·오픈AI·앤트로픽 "AI 위험 막겠다" 단체 설립

AI 위험 해법 마련 위한 '프런티어 모델 포럼' 발족…각국 AI 규제 피하기 위한 '꼼수' 지적도

/로이터=뉴스1

미국 인공지능(AI) 주요 업체들이 정부보다 먼저 AI 위험에 대한 해법을 마련하고자 의기투합한다. 26일(현지시간) CNN·파이낸셜타임스(FT) 등 주요 외신에 따르면 구글·마이크로소프트(MS)·오픈AI·앤트로픽은 이날 AI 기술 관련 안전표준 개발을 위한 '프런티어 모델 포럼(Frontier Model Forum)'이라는 새로운 협의체를 발족했다.

새로운 협의체는 △AI 모델 개발과 안전성 측정을 위한 표준화된 평가 방안 도입 △대중의 이해를 높이기 위한 AI 안전 모범 사례 발굴 △AI 위험에 대한 연구 촉진 △정부 및 시민사회 등과 AI 관련 지식 공유 △기후변화·사이버위협 대응 등 사회문제 해결을 위한 앱 개발 지원 등을 주요 목표로 둔다. 이를 위해 협의체는 향후 몇 달 안에 각계각층의 인사들이 참여하는 자문위원회를 만들 예정이다.

구글은 자사 블로그에 올린 게시물을 통해 "각국 정부와 업계는 AI가 세상을 이롭게 할 엄청난 잠재력이 있지만, 위험을 완화하기 위해선 적절한 보호 장치가 필요하다는 데 동의한다"며 협의체 구성 배경을 설명했다. 브래드 스미스 MS 부회장 겸 사장은 "AI 기술을 개발하는 회사는 (AI를) 안전하고 보안이 유지되며 인간이 통제할 수 있도록 해야 할 책임이 있다"며 "이 협의체는 모든 인류에게 혜택을 줄 수 있도록 책임감 있게 AI를 발전시키고 과제를 해결하기 위해 기술 부문을 하나로 모으는 데 중요한 단계"라고 말했다.

조 바이든 미국 대통령이 21일(현지시각) 백악관 루스벨트룸에서 인공지능(AI) 관련 기업 경영자들과 함께 AI 규제와 관련해 연설하고 있다. 바이든 대통령은 아마존닷컴, 앤트로픽, 알파벳, 인플렉션, 메타플랫폼, 마이크로소프트(MS), 오픈AI 등 7개 기업 경영자들이 AI 기술의 위험을 자발적으로 규제하기로 합의했다고 밝혔다. /AP=뉴시스

4개 협의체 창립 멤버를 제외한 다른 업체가 해당 합의체에 참여하려면 '현존하는 가장 진보된 (AI) 모델의 능력을 초과하는 수준의 대규모 머신러닝(기계학습) 모델'을 개발하거나 배치해야 한다. 아울러 기술적, 제도적 차원에서 안전성을 확보하려는 노력도 확인되어야 한다.

외신은 이번 협의체가 전 세계적으로 AI 관련 규제 마련 목소리가 커지고 이에 대한 각국 정부의 논의가 이뤄지는 상황에서 발족했다며 AI 업계가 정부보다 먼저 AI 위협 관련 해법을 마련하려는 움직임이라고 평가했다. 다만 일각에서는 정부의 규제를 피하려는 업계의 속내가 담겼다는 지적도 나온다.

대규모언어모델(LLM) 연구자인 미국 워싱턴대의 에밀리 벤더 교수는 FT에 "이들 기업은 스스로 (AI를) 규제하는 능력을 확신하고 있지만 의심스럽다"며 "(정부의) 규제를 피하려는 시도"라고 주장했다. 그는 "'기계가 생명을 얻고 우리 삶을 장악될 것'이란 두려움에 초점을 맞추는 것은 데이터 도난, 사생활 감시, 긱 경제(gig economy·임시 고용 중심의 단기 계약 경제)에 모든 사람이 투입되는 '진짜' 문제로부터 주의를 분산시키는 것"이라며 "기업에 대한 규제는 내부가 아닌 외부, 국민을 대표하는 정부로부터 만들어져야 한다"고 지적했다.

한편 앞서 지난 21일 이들 4개 업체를 포함한 AI 관련 7개 기업 경영자들은 백악관에서 조 바이든 대통령과 만나 AI 안전성 확보를 위해 조치를 자발적으로 취하겠다고 밝힌 바 있다.