[서울=뉴시스]윤석열 대통령이 21일 청와대 영빈관에서 화상으로 열린 '인공지능(AI)서울 정상회의'에서 브래드 스미스 마이크로소프트(MS) 사장 발표를 경청하고 있다. (사진=대통령실 제공) 2024.05.21. [email protected] *재판매 및 DB 금지 /사진=조수정
AI 기술이 급속도로 발전하면서 이에 따른 전력수요 폭증이 글로벌 화두로 떠올랐다. 빅테크와 AI 기업들이 차세대 원전까지 손을 뻗는 이유는 AI 시스템을 가동하는 데 막대한 전기가 들기 때문이다. MS와 오픈AI가 짓는 초대형 데이터센터 역시 '전기먹는 하마'가 될 가능성이 높다.
이 교수는 머니투데이 유니콘팩토리와 인터뷰에서 "AI 소모전력 절감 노력은 반도체 하드웨어 개선과 소프트웨어 개선 두 가지로 나뉜다"며 "이번 기술은 소프트웨어 분야"라고 했다. 그러면서 "우리 소프트웨어를 사용하면 특정 작업을 동일하게 수행하면서 소모전력은 50% 이하로 든다는 점을 협력사인 사피온과 함께 검증했다"고 말했다.
이정우 서울대 교수 (호두에이아이랩 대표) /사진=김휘선 기자 hwijpg@
AI 반도체 사용 폭발적 증가…전력난 우려 제기마크 저커버그 메타(페이스북) CEO는 지난 1월 "올해 말까지 회사의 컴퓨팅 인프라에 35만 개의 H100을 포함하는 게 목표"라고 밝혔다. 엔비디아 H100은 개당 4만~5만달러 선이어서 구입에 천문학적 비용이 들 뿐 아니라 이 칩을 한꺼번에 가동할 경우 전력소모도 상당할 걸로 예상된다. 이처럼 AI가 일으킨 전력난을 완화하려면 '고성능 저전력' AI 알고리즘을 찾아야 한다는 목소리가 커지고 있다.
이 시각 인기 뉴스
이 교수는 "기존의 AI 연구 방향은 에너지를 얼마나 쓰든 고성능을 내면 된다는 것이었다"며 "반대로 우리 팀은 더 적은 에너지로 같은 기능을 낼 수 있다는 발상의 전환을 했다"고 말했다.
새 기술은 국내 제약회사의 검수 장비(머신비전)에 이미 적용하고 있다. 호두에이아이랩은 사피온코리아를 포함, 국내 협력사들에 이 소프트웨어를 납품할 예정이다. 데이터센터용 AI 반도체나 자율주행차에 탑재되는 NPU(신경망처리장치)에 적용할 수 있을 전망이다. 남은 과제는 지속적인 투자와 연구개발을 통한 기술 개선이다.
이 교수는 "영상 기반 AI에 비해 자연어 처리는 난이도가 높아 완성도를 더 높여야 한다"며 "LLM(거대언어모델) 등 AI의 전력소모를 줄이는 기술로 생성형 AI발 전력난 해소에 기여하겠다"고 말했다.