엔비디아, 성능 높이고 전력 소모 낮춘 신형 칩 공개…SW 사업도 강화

젠슨 황 엔비디아 CEO, 2023년 5월 대만 컴퓨텍스 포럼 /로이터=뉴스1

엔비디아가 새로운 반도체 아키텍처 블랙웰을 선보였다. 블랙웰 기반의 반도체는 현재 전세계를 휩쓸고 있는 데이터센터용 GPU(그래픽 프로세싱 유닛)인 H100의 기반이 되는 반도체 아키텍처 호퍼보다 더 적은 전력으로 더 빠르게 AI(인공지능) 모델을 실행할 수 있다.

엔비디아는 18일(현지시간) 미국 캘리포니아주 새너제이에서 연례 GPU 테크놀로지 콘퍼런스(GTC)를 개최했다.

젠슨 황 엔비디아 최고경영자(CEO)는 오는 21일까지 4일간 이어지는 GTC의 개막을 알리는 기조연설에서 "호퍼도 환상적이었지만 우리에겐 더 큰 GPU가 필요하다"며 블랙웰 기반의 칩을 소개했다.

그는 AI가 경제를 근본적으로 바꾸는 동력이 되고 있으며 블랙웰 칩들은 "새로운 산업혁명을 이끌어가는 엔진"이라고 강조했다.

블랙웰은 2080억개의 트랜지스터로 구성됐다. 이는 800억개의 트랜지스터로 구성된 기존 H100보다 2.5배 늘어난 것이다. 블랙웰은 기존 기술로 생산하기에는 너무 크기 때문에 2개의 칩을 연결해 하나처럼 작동시키는 구조다. 블랙웰은 대만의 TSMC가 4나노(1나노미터=10억분의 1m) 기술로 위탁 생산한다.

황은 최신 AI 모델을 훈련시키는데 2000개의 블랙웰 GPU로 90일간 4메가와트의 전력이 필요하다고 밝혔다. 기존 칩으로 같은 기간 동안 AI 모델을 훈련시키려면 8000개의 GPU에 15메가와트의 전력이 필요했던 것에 비해 훨씬 더 기능과 효율성이 높아진 것이다.

이는 H100이 4페타플롭인데 반해 블랙웰은 20페타플롭으로 성능이 5배 향상됐기 때문이다. 1페타플롭은 1초당 1000조번의 수학 연산을 처리할 수 있는 성능을 말한다.


엔비디아는 블랙웰 기반의 반도체인 GB200을 올해 말 출시할 예정이다. GB200은 2개의 블랙웰 GPU와 영국의 칩 설계회사 Arm의 아키텍처를 기반으로 한 엔비디아의 그레이스 CPU(중앙처리장치) 한 개로 구성돼 있다.

엔비디아는 신형 칩의 가격을 정확히 공개하지 않았다. 다만 호퍼 기반의 H100 가격이 개당 2만5000~4만달러라는 점을 고려할 때 UBS는 최소 5만달러 이상일 것으로 예상했다.

엔비디아는 아마존의 클라우드 서비스인 아마존 웹 서비스(AWS)가 2만개의 GB200 칩들로 서버 클러스터를 구축할 예정이라고 밝혔다.

사티아 나델라 마이크로소프트 CEO는 성명을 통해 "우리는 고객들에게 최첨단의 AI 작업을 실행할 수 있는 가장 발전된 인프라를 제공하기 위해 노력하고 있다"며 "GB200을 전세계 데이터센터에 도입해 전세계 모든 조직에 AI에 대한 약속을 실현할 것"이라고 밝혔다.

엔비디아는 NIM(엔비디아 인퍼런스 마이크로서비스)이라는 기업용 소프트웨어(SW)도 새로 선보였다.

NIM을 이용하면 기존 엔비디아 GPU에서 AI 소프트웨어를 더 쉽게 실행할 수 있어 기존 엔비디아 GPU를 계속 사용할 수 있게 된다. 또 NIM은 오픈AI와 같은 기업이 제공하는 AI 모델을 이용하지 않고 자체적으로 개발한 AI 모델을 실행하는 것을 가능하게 해준다.

NIM을 이용하려면 엔비디아 GPU 기반의 서버를 구입한 뒤 GPU당 연간 4500달러를 내야 하는 엔비디아 엔터프라이즈에 등록해야 한다.

엔비디아는 NIM이 클라우드 서버 대신 GPU가 장착된 노트북에서 AI 모델을 구동하는 데도 도움이 될 것이라고 밝혔다.

마누비르 다스 엔비디아 엔터프라이즈 부사장은 "우리가 판매하는 상업용 제품은 GPU였고 소프트웨어는 GPU를 다양한 방식으로 사용할 수 있도록 돕는 수단이었다"며 "지금도 그렇긴 하지만 정말 바뀐 것은 엔비디아가 이제 상업용 소프트웨어 사업도 하고 있다는 점"이라고 말했다.

이와 관련해 CEO인 황도 "블랙웰은 칩이 아니라 플랫폼의 이름"이라고 말해 엔비디아가 반도체 제조업체에서 다른 회사가 소프트웨어를 구축할 수 있는 플랫폼을 제공하는 플랫폼 기업으로 변신하고 있음을 시사했다.