젠슨 황 엔비디아 CEO(최고경영자)는 18일 미국 캘리포니아주 산호세에서 열린 글로벌 컨퍼런스 'GTC2024'에서 "새로운 제품 블랙웰은 사실상 반도체 칩이 아니라 플랫폼의 이름"이라고 정의했다.
실제로 엔비디아 기업 부사장 마누비르 다스는 "판매 가능한 상용 제품은 GPU(그래픽 처리 장치)였으며 소프트웨어는 모두 사람들이 GPU를 다양한 방식으로 사용할 수 있도록 돕는 것이었다"며 "물론 지금도 그렇게 하고 있지만 블랙웰 이후로 실제로 달라질 것은 이제 우리가 실제로 상용 소프트웨어 사업을 하고 있다는 것"이라고 말했다.
엔비디아의 새 전략은 자사의 서버를 구입하는 고객이 엔비디아 엔터프라이즈에 등록하도록 유도하는 것이다. 이 라이선스 비용은 연간 GPU당 4500달러다.
엔비디아는 MS나 허깅페이스(Hugging Face) 같은 AI 회사와 협력해 AI 모델이 호환되는 모든 엔비디아 칩에서 실행되도록 조정할 계획이다. 이후 NIM을 사용하면 개발자는 긴 구성 프로세스 없이 자체 서버 또는 클라우드 기반 엔비디아 서버에서 모델을 효율적으로 실행할 수 있다.
이 시각 인기 뉴스
다스 부사장은 엔비디아의 새로운 소프트웨어를 사용하면 모든 엔비디아 GPU에서 프로그램을 더 쉽게 실행할 수 있을 것이라고 설명했다. 특히 오래된 GPU에서도 프로그램을 더 쉽게 실행할 수 있을 것이라고 덧붙였다.
엔비디아는 이전까지 2년마다 GPU 아키텍처를 업데이트해 왔다. 지난 1년 동안 출시된 AI 모델들은 2022년에 발표된 H100과 같은 칩에 사용되는 회사의 하퍼(Hopper) 아키텍처에서 훈련됐다.
그러나 올해 말부터 출시할 'GB200'과 같은 블랙웰 기반 프로세서는 이제 구형이 돼 버린 H100의 4페타플롭에 비해 AI 성능이 20페타플롭으로 5배 성능 업그레이드가 가능하다. GB200은 'B200 블랙웰 GPU' 2개와 Arm 기반 '그레이스(Grace) CPU' 1개를 결합한 것이다. 엔비디아는 아마존웹서비스가 2만개의 GB200으로 서버 클러스터를 구축할 것이라고 밝혔다.
또 엔비디아는 GB200을 활용한 제품은 기존 H100 활용 제품에 비해 최대 30배의 LLM(대규모언어모델) 추론 성능을 제공할 수 있고, 전력 소비는 25배까지 줄일 수 있다고 설명한다.
다만 엔비디아는 GB200이나 여기에 사용되는 시스템에 대한 가격을 밝히지는 않았다. 분석가 추정에 따르면 구형 H100의 가격은 칩당 2만5000~4만 달러다. 전체 시스템의 가격은 20만 달러 수준이다. 블랙웰은 이의 5배 성능이기 때문에 최소 2~3배의 가격 이상을 받을 것으로 추정된다.