애플 AI 모델, 구글 자체 칩 TPU에서 훈련…엔비디아 대안 찾나

머니투데이 권성희 기자 2024.07.30 10:03
글자크기
 팀 쿡 애플 최고경영자(CEO)가 지난 6월 세계개발자회의(WWDC 2024)에서 애플 인델리전스에 대해 설명하고 있다. /AP=뉴시스 팀 쿡 애플 최고경영자(CEO)가 지난 6월 세계개발자회의(WWDC 2024)에서 애플 인델리전스에 대해 설명하고 있다. /AP=뉴시스


애플이 29일(현지시간) 자사 AI(인공지능) 시스템인 AI 인텔리전스의 기반이 되는 AI 모델을 구글이 설계한 프로세서에서 사전 훈련했다고 밝혔다.

이는 빅테크 기업들이 최첨단 AI를 훈련하는데 있어서 엔비디아 칩의 대안을 찾고 있다는 신호로 여겨진다.



애플은 이날 '애플 인델리전스 파운데이션 언어 모델'(Apple Intelligence Foundation Language Model)이라는 기술 문서를 통해 AI 모델 훈련에 구글의 텐서 프로세싱 유닛(TPU)을 사용했다고 밝혔다.

애플은 47쪽 분량의 이 문서에서 구글이나 엔비디아의 이름을 거론하지는 않았지만 애플 파운데이션 모델(AFM)과 AFM 서버가 "클라우드 TPU 클러스터"에서 훈련됐다고 밝혔다.



이는 애플이 구글 클라우드에서 TPU가 장착된 서버를 임대해 AI 모델을 훈련했다는 의미다. AFM은 애플 인텔리전스의 기반이 되는 AI 모델이다. 또 TPU는 구글이 AI를 구동하기 위해 자체 설계한 맞춤형 칩(custom chip)이다.

애플은 "이 시스템(TPU)은 우리가 AFM 온-디바이스와 AFM 서버, 그리고 더 큰 모델들을 포함한 AFM 모델들을 효율적이고 확장 가능하도록 훈련할 수 있게 해준다"고 설명했다.

애플은 AFM 온-디바이스가 2048개의 TPU v5p 칩들이 함께 작동하는 단일 기판에서 훈련됐다고 밝혔다. 이는 가장 진보된 TPU로 지난해 12월에 출시됐다. AFM 서버는 데이터센터 네트워크를 통해 8개의 기판이 함께 작동하도록 구성된 8192개의 TPU v4 칩들에서 훈련됐다.


구글 웹사이트에 따르면 구글의 최신 TPU는 3년 전에 예약할 경우 시간당 사용료가 2달러 미만이다.

구글은 2015년에 내부 작업용으로 처음 TPU를 도입했으며 2017년에 일반에 공개했다. TPU는 현재 AI를 위해 설계된 가장 성숙한 맞춤형 칩 가운데 하나로 꼽힌다.



다만 구글은 엔비디아의 주요 고객 중 하나다. 구글은 AI 시스템 훈련에 자체 칩인 TPU뿐만 아니라 엔비디아의 GPU(그래픽 처리장치)도 함께 사용하고 있으며 구글 클라우드에는 엔비디아의 GPU가 장착된 서버가 준비돼 있어 고객들이 이용할 수 있다.

애플은 이날 애플 인텔리전스도 개발자들에게 공개했다. 애플 인텔리전스는 음성 비서인 시리의 새로워진 모습과 더 나아진 자연어 처리, AI가 생성하는 텍스트 요약 등 몇 가지 새로운 기능을 포함하고 있다.

애플은 내년까지 이미지 생성과 이모지 생성, 앱 내에 있는 사용자의 개인정보에 접근해 필요한 조치를 취할 수 있는 더 강력한 시리 등을 포함한 새로운 기능들을 선보일 예정이다.



한편, 맥루머스 등 외신에 따르면 애플이 오는 9월에 아이폰 16과 함께 출시할 새 운영체제(OS)인 iOS18에는 애플 인델리전스 기능이 탑재되지 못하 것으로 보인다. 애플 인텔리전스는 오는 10월에 업데이트될 iOS 18.1부터 적용될 것으로 예상된다.
TOP