PCIe는 컴퓨터 내부에서 다양한 부품들이 빠르고 정확하게 데이터를 주고받을 수 있도록 하는 기술 규격이다. SSD, 그래픽카드 등 전자 기기에 활용된다. 반도체 업계 표준화 단체 'PCI-SIG'가 주관하는 테스트로 특정 기기 또는 플랫폼이 특정 세대의 PCIe를 얼마나 안정적으로 지원하는지 다양한 항목을 기반으로 평가한다.
리벨리온의 '아톰 카드'는 이번 테스트의 모든 평가항목을 통과해 최신 5세대 규격인 PCIe 5.0을 지원하기 위한 기술과 성능, 다양한 서버 및 플랫폼에 대한 호환성을 증명했다. 더불어 16개의 레인을 지원해 높은 대역폭(bandwidth)과 속도를 확보했다.
리벨리온은 여러 대의 '아톰 카드'를 연결해 AI연산의 성능과 효율성을 높이는 일명 '멀티카드(Multi-card)' 환경에 PCIe 5.0 기술을 활용한다. 이를 통해 언어모델을 포함한 생성형AI 모델의 추론 연산 속도를 높여준다.
리벨리온은 올해 중순부터 고객에게 아톰 카드 기반의 멀티카드 환경을 구축해 소규모 언어모델(SLM)을 가속할 수 있도록 지원할 예정이다. 이를 바탕으로 SLM 기반 상용서비스를 기획하는 PoC(개념검증)을 시행하고 양산품 판매도 본격화한다는 계획이다.
오진욱 리벨리온 CTO(최고기술책임자)는 "수준 높은 AI 추론 연산을 제공하기 위해선 칩 설계 뿐 아니라 카드 단위에 적용되는 통신 기술 또한 중요한 역할을 수행한다"며 "통신기술의 안정성까지 검증받아 생성형 AI 추론의 필수 인프라인 멀티카드 솔루션의 성능과 신뢰성을 모두 확보했다"고 말했다.
[머니투데이 스타트업 미디어 플랫폼 유니콘팩토리]
<저작권자 © ‘돈이 보이는 리얼타임 뉴스’ 머니투데이. 무단전재 및 재배포, AI학습 이용 금지>