AI 기술이 급속도로 발전하면서 이에 따른 전력수요 폭증이 글로벌 화두로 떠올랐다. 빅테크와 AI 기업들이 차세대 원전까지 손을 뻗는 이유는 AI 시스템을 가동하는 데 막대한 전기가 들기 때문이다. MS와 오픈AI가 짓는 초대형 데이터센터 역시 '전기먹는 하마'가 될 가능성이 높다.
이런 가운데 국내 스타트업이 기존의 절반 이하 전력으로 동일한 성능을 낼 수 있는 AI 소프트웨어 기술을 개발했다. 이정우 서울대 전기정보공학부 교수가 설립한 호두에이아이랩은 보다 효율적인 AI 알고리즘을 설계, 전력 에너지를 적게 쓰고도 성능을 유지하는 기술을 개발했다고 17일 밝혔다.
이 교수는 머니투데이 유니콘팩토리와 인터뷰에서 "AI 소모전력 절감 노력은 반도체 하드웨어 개선과 소프트웨어 개선 두 가지로 나뉜다"며 "이번 기술은 소프트웨어 분야"라고 했다. 그러면서 "우리 소프트웨어를 사용하면 특정 작업을 동일하게 수행하면서 소모전력은 50% 이하로 든다는 점을 협력사인 사피온과 함께 검증했다"고 말했다.
이 교수는 "AI의 사용목적에 따라 꼭 필요한 연산만 하면 불필요한 에너지를 소모하지 않아도 된다"며 "영상 속 물체가 사람인지 고양이인지 구별해야 한다면, 영상의 배경 픽셀(화소)까지 일일이 점검하는 대신 물체 부분만 확인하면 된다"고 설명했다. 이어 "중학생 수준 수학 문제를 푸는데 우주로켓을 쏘기 위한 슈퍼 컴퓨터를 가동할 필요는 없지 않느냐"며 "그와 같은 원리로 AI 연산량을 줄여도 동일한 목적을 달성할 수 있다"고 말했다.
━
AI 반도체 사용 폭발적 증가…전력난 우려 제기━
이 교수는 "기존의 AI 연구 방향은 에너지를 얼마나 쓰든 고성능을 내면 된다는 것이었다"며 "반대로 우리 팀은 더 적은 에너지로 같은 기능을 낼 수 있다는 발상의 전환을 했다"고 말했다.
새 기술은 국내 제약회사의 검수 장비(머신비전)에 이미 적용하고 있다. 호두에이아이랩은 사피온코리아를 포함, 국내 협력사들에 이 소프트웨어를 납품할 예정이다. 데이터센터용 AI 반도체나 자율주행차에 탑재되는 NPU(신경망처리장치)에 적용할 수 있을 전망이다. 남은 과제는 지속적인 투자와 연구개발을 통한 기술 개선이다.
이 교수는 "영상 기반 AI에 비해 자연어 처리는 난이도가 높아 완성도를 더 높여야 한다"며 "LLM(거대언어모델) 등 AI의 전력소모를 줄이는 기술로 생성형 AI발 전력난 해소에 기여하겠다"고 말했다.
[머니투데이 스타트업 미디어 플랫폼 '유니콘팩토리']
<저작권자 © ‘돈이 보이는 리얼타임 뉴스’ 머니투데이. 무단전재 및 재배포, AI학습 이용 금지>