프렌들리에이아이는 스타트업 및 대기업이 클라우드를 활용해 대규모 인프라 투자 없이 LLM(대규모언어모델)을 최적화해 사용할 수 있는 기술을 개발하고 있다. 클라우드 기반 환경에서 모델 맞춤형 미세조정부터 모델 배포, 자동 모니터링 등을 할 수 있도록 지원하는 방식이다. 전병곤 서울대학교 컴퓨터공학부 교수가 2021년 설립했다.
프렌들리에이아이 측은 해당 솔루션을 활용하면 GPU(그래픽처리장치)비용을 90%까지 절감할 수 있으며, 최대 10배 빠른 쿼리 응답시간을 제공해 생성AI 작업의 효율성과 생산성을 극대화한다고 강조했다. 이어 이번 SaaS형태 출시로 더 다양한 기업들이 프렌들리에이아이의 기술을 사용할 수 있다고 전했다.
전병곤 프렌들리AI 대표는 "개발자가 인프라 관리의 번거로움 없이 생성AI의 잠재력을 최대한 활용할 수 있도록 지원하는 솔루션"이라며 "다양한 생성AI의 활용 분야에서 무한한 가능성의 문을 열어준다"고 전했다.
[머니투데이 스타트업 미디어 플랫폼 유니콘팩토리]
<저작권자 © ‘돈이 보이는 리얼타임 뉴스’ 머니투데이. 무단전재 및 재배포, AI학습 이용 금지>