오픈AI는 5일(현지시간) 공식 블로그에서 이같은 내용 중심의 'AI 안전에 대한 우리의 접근 방식'이라는 제목의 공지를 올렸다.
이어 "비영리 교육단체인 '칸 아카데미'와 같은 개발자들과 협업해 학생들을 위한 안전한 AI를 제공하겠다"며 "AI 영역에서 결과물에 대해 더 엄격한 기준을 적용할 수 있는 기술을 개발 중"이라고 밝혔다.
지난달 비영리 단체인 '삶의 미래연구소'는 '거대 AI 실험을 멈추자'는 제목의 공개 서한을 발표했다. 이 서한에는 일론 머스크 스페이스X 최고경영자, 유발 하라리 교수, 스티브 워즈니악 애플 공동 창업자 등이 서명했다.
이들은 서한을 통해 "인류의 번영을 위한 AI를 만들기 위해 사회·경제·정책·기술적으로 검토할 시간이 필요하다"며 "최소 6개월 간 GPT-4보다 강력한 AI 학습을 멈추자"고 제안했다.
이 시각 인기 뉴스
한편 오픈AI는 이같은 서한에 대해 "안전성을 강화하기 위해 노력하지만 한계가 있다"며 "사람들의 실제 사용 사례를 보고 개선하는 것이 AI의 안전성을 높이는데 중요한 요소라고 생각한다"고 말했다. 사실상 연구를 멈추지 않겠다는 취지다.
오픈AI는 "실제 기술을 사용해 봤을 때 AI 기술 채택에 대한 토론을 할 수 있다"며 "AI의 안전성과 기능 개선이 함께 이뤄져야 한다고 믿는다. 더 유능한 모델 개발 및 배포에 더 주의를 기울일 것"이라고 했다.
앞서 이탈리아는 지난 1일 개인정보보호를 이유로 AI 챗봇인 챗GPT 접속을 차단했다. 챗GPT가 법률에 근거하지 않고 개인정보를 수집한다는 이유에서다.