윤동식 KT클라우드 대표는 18일 서울 삼성동 그랜드 인터콘티넨탈 서울 파르나스에서 열린 'KT클라우드 서밋 2023' 기조강연에서 "KT클라우드는 AI 인프라에서부터 프레임워크, 트레이닝 등의 제반 풀스택을 갖추고 온디멘드 AI 컴퓨팅을 제공하고 있다"며 "기업들이 자체적으로 AI를 하려고 하면 GPU 서버들을 엄청나게 구매해야 하는데 이같은 과정에서 엄청난 비용이 든다"고 했다.
또 "KT클라우드를 이용하면 스케일(규모)을 작게 시작했다가 필요에 맞게 원하는 양만큼 AI 데이터를 학습시킬 수 있다"고 강조했다.
KT클라우드의 인프라를 활용해 AI서비스를 가동하는 주요 기업 중 하나로 챗봇 서비스 '이루다'를 개발한 스캐터랩이 소개됐다. 윤 대표에 따르면 스캐터랩은 세계 최초 다중·동적 할당 기술을 적용한 AI 인프라 서비스인 'HAC'(하이퍼스케일 AI 컴퓨팅) GPU 96장을 KT클라우드를 통해 활용, 초거대 AI 개발을 위한 자원과 비용, 시간 부담을 절감시켰다고 한다.
AI 시스템 개발과 학습 뿐 아니라 AI칩 자체에서도 비용이 많이 든다는 게 윤 대표의 지적이다. 그는 "현재 AI에 쓰이는 GPU(그래픽처리장치)의 전력 소모량은 어마무시하고 이렇게 전력을 소비하다가는 탄소배출 때문에 AI가 금지될 수 있다"며 "리벨리온과 긴밀한 파트너십을 맺고 AI 전용 칩을 개발 중"이라고 했다.
윤 대표는 "현재 알려져 있는 엔비디아의 제품(GPU)에 비해 전력은 5분의 1 이하로 사용하고 성능은 그 이상을 낼 수 있는 NPU(신경망 처리장치)를 개발 중"이라며 "칩은 제작이 완료되는 5월말쯤 선보일 것"이라고 했다.
또 "시작은 NPU였지만 여기서 만족하지 않고 PIM(지능형 메모리 반도체)도 계획 중"이라며 "PIM은 (GPU에 비해) 더 빠르게 추론 연산과 학습을 할 수 있도록 하는 칩이다. 정부의 K클라우드 계획에 맞춰 진행하고 있고 조만간 계획을 발표할 것"이라고 했다.
이와 함께 그는 "KT클라우드는 전국 13개 데이터센터가 있고 그 중 7개가 수도권에 소재해 있으며 각 데이터센터가 하나의 네트워크로 묶여 있다"며 "특정 데이터센터가 장애가 나더라도 다른 데이터센터에서 바로 커뮤니케이션을 통해 비즈니스 연속성을 확보할 수 있도록 했다"고 강조했다.
이어 "기업이 자체적으로 DR(재해복구) 시스템을 갖추려면 예산이 문제가 될 수 있다"며 "KT클라우드를 통해 DR을 구축하면 비즈니스 연속성 확보 등에 효과를 거둘 수 있다"고 했다.
이날 황종성 NIA(한국지능정보사회진흥원) 원장도 기조강연자로 나섰다. 황 원장은 "클라우드라는 것은 산업이자 서비스이기도 하지만 미래 사회를 준비하는 아키텍처(구조)로서의 의미도 크다"며 "NIA는 디지털플랫폼정부를 지원하면서 더 넓게는 AI시대를 준비하고 클라우드가 가진 의미를 항상 되새기고 장점을 최대한 살리려 한다"고 강조했다.
[저작권자 @머니투데이, 무단전재 및 재배포 금지]