일반적인 MLOps가 하나의 AI 모델을 개발하고 최적화해 서비스를 제공하는 방법론이라면, LLMOps는 기업 내부 보안정보 유출 방지와 같은 특정 요구에 맞는 LLM을 운영하고 통합 관리할 수 있는 체계다.
지난해 11월에는 보안을 강화하고 환각현상(할루시네이션) 방지에 초점을 둔 기업 전용 프라이빗 LLM 서비스 '가젤 LLM'을 출시했다. 기존 MLOps 솔루션 분야를 넘어 프라이빗 LLM 분야까지 비즈니스의 폭을 넓혔다.
에이프리카의 LLMOps은 치타 플랫폼을 기반으로 LLM 특화 기능이 추가되는 형태다. LLM 파인튜닝, 프롬프트 관리, 벡터데이터 관리 등을 지원할 계획이다. 폐쇄형 환경에서 내부 보안 데이터로 LLM 기술을 접목하고자 하는 기업에 유용한 툴이 될 수 있다는 설명이다.
이 시각 인기 뉴스
강선근 에이프리카 대표는 "LLMOps 플랫폼은 LLM을 효과적으로 활용하고자 하는 모든 기업에게 필수적인 도구가 될 것"이라며 "기업이 복잡한 기술적 장벽 없이 언어모델을 도입하고 활용할 수 있도록 적극 돕겠다"고 말했다.
[머니투데이 스타트업 미디어 플랫폼 '유니콘팩토리']