[IT썰] AI 만든 직원들의 섬뜩한 경고…"인류 멸망 시킬지도"

/사진=뉴시스(AP)

챗GPT 개발사인 오픈AI와 구글의 전현직 직원들이 AI(인공지능)의 위험성에 대해 강력한 경고를 보냈다. AI 업계를 선도하는 글로벌 빅테크들이 관리·감독을 소홀히 하고 있다는 것. 이들은 현 상황대로라면 AI가 인류 멸망까지 초래할 수 있다고 주장한다.

4일(현지시간) 뉴욕타임스에 따르면 전현직 오픈AI·구글 직원 13명은 '최첨단 AI에 대한 경고 권리'라는 이름의 공동성명을 발표했다. 공동성명에는 오픈AI 전직 직원 7명, 현직 직원 4명, 전 앤트로픽 직원이자 현 구글 직원 1명이 참여했다.

이들은 "AI가 인류에 전례 없는 혜택을 제공할 수 있는 잠재력을 갖고 있는 동시에 심각한 위험을 가져올 수 있다"며 "이는 불평등의 심화와 허위조작정보의 확산, 나아가 인류 멸종까지 초래할 수 있는 AI 시스템 통제 상실에 대한 가능성을 포함한다"고 지적했다. 이들은 "전 세계 여러 국가의 정부와 AI 전문가들, 나아가 오픈AI나 구글, 앤트로픽 같은 AI 기업도 이를 인정했다"고 했다.

오픈AI와 구글 전현직 직원 13명이 4일(현지시간) 발표한 '최첨단 AI에 대한 경고 권리'. /사진=공동성명 갈무리

이들은 AI 기업이 AI의 위험성을 인지하고 있음에도 불구하고 적절한 조치를 취하지 않으며, 정부 규제만이 해결책이라고 주장했다. 이들은 "AI 기업은 다양한 종류의 위험 수준에 대한 상당한 양의 비공개 정보를 갖고 있지만, 이를 공개할 의무가 없고, 자발적으로 공유할 생각도 없다"며 "기업 내부 규제 시스템만으로는 이 문제를 해결할 수 없다"고 지적했다.

이들은 AI의 위험성에 대해 AI 기업 직원들도 목소리를 낼 수 있는 절차가 필요하다고 주장했다. 이들은 △AI의 위험과 관련된 비판을 막는 계약 금지 △회사와 관계없는 독립 기관에 AI의 위험 관련 우려 사항을 제기할 수 있는 익명 절차 마련 △내부 고발자에 대한 보복 금지 등을 촉구했다.

이들은 "직원들이 AI의 위험성에 대한 우려를 대중에게 표명하고 싶지만, 회사와의 광범위한 기밀 유지 계약이 이를 가로막는다"며 "앞서 이러한(AI의 위험성) 문제에 언급했던 사람들이 다양한 형태의 보복을 당한 것을 목격했다"고 했다.

미 경제 전문 매체 CNBC에 따르면 제프리 힌튼이나 요슈아 벤지오 등 대표적인 AI '두머(doomer·파멸론자)'로 유명한 AI 전문가들도 이 성명을 지지했다.