KT, 초거대 AI '믿음' 공개…"환각 70%↓, B2B 시장 공략"

머니투데이 변휘 기자 2023.10.31 10:02
글자크기
(서울=뉴스1) = KT AI2XL 연구소 배순민 소장이 16일 서울 송파구 소피텔 앰배서더 서울에서 열린 'KT AI 전략 기자간담회'에서 초거대 AI '믿음'에 대해 발표하고 있다. (KT 제공) 2022.11.16/뉴스1  Copyright (C) 뉴스1. All rights reserved. 무단 전재 및 재배포 금지.(서울=뉴스1) = KT AI2XL 연구소 배순민 소장이 16일 서울 송파구 소피텔 앰배서더 서울에서 열린 'KT AI 전략 기자간담회'에서 초거대 AI '믿음'에 대해 발표하고 있다. (KT 제공) 2022.11.16/뉴스1 Copyright (C) 뉴스1. All rights reserved. 무단 전재 및 재배포 금지.


KT (36,500원 ▼200 -0.54%)가 초거대AI '믿음(Mi:dm)'을 기반으로 '글로벌·제조·금융·공공·교육' 등 5대 부문의 B2B(기업 간 거래) AI(인공지능) 사업 확장에 나선다. 기업 고객 맞춤형으로 다양한 규모의 개방적인 파운데이션 모델을 제공하고, 비용 및 파인튜닝 측면의 특장점을 바탕으로 AI 대중화에 나선다는 전략이다.

KT는 31일 서울 서초구 KT 연구개발센터에서 기자설명회를 열고 믿음 출시를 발표했다. 이날 오픈한 전용 포털 '믿음 스튜디오'에서 믿음의 '파운데이션 모델'을 개방하고, 직접 선택·학습·서빙 할 수 있는 맞춤형 환경을 제공한다. 초거대AI 수요 기업들은 이 포털에서 사용을 신청하고, 전문 컨설팅 및 협의를 진행할 수 있다.



믿음 모델은 경량부터 초대형까지 기업 규모와 사용 목적에 맞춘 '베이직·스탠다드·프리미엄·엑스퍼트' 등 4종으로 구성된다. 또 KT클라우드와 믿음의 기업전용 AI 클라우드팜(CloudFarm)을 패키지로 제공, 별도 개발 및 학습 인프라가 없어도 누구나 합리적인 비용으로 초거대AI를 활용할 수 있다고 KT는 강조했다.

"AI풀스택으로 학습·추론 비용 인하…환각 답변도 70%↓"
파운데이션 모델이란 방대한 데이터셋으로 학습한 초거대AI의 핵심 기반 모델을 말한다. 기업마다 원하는 형태로 미세조정(Fine-Tuning: 파인 튜닝)을 거쳐 다양한 AI 응용서비스를 만들 수 있다. 초거대AI를 사용하려 해도 자체 구축할 여력이 없는 대다수 기업들은 기존에 공개된 파운데이션 모델을 튜닝해 활용할 수 있지만, 빅테크에 데이터가 종속되거나 풀 파인튜닝(FFT)이 어려운 점 등을 우려한다.



KT는 조(兆) 단위 데이터의 사전 학습을 완료한 자체 파운데이션 모델을 개방해 LLM(거대언어모델)의 B2B(기업 간 거래) 사업화를 가속하고, 기업들이 원하는 AI 사업 모델과 응용 서비스의 확산을 이끌어 낸다는 비전을 제시했다. 특히 기존 서비스 대비 약 27%의 GPU(그래픽처리장치) 학습 비용 절감이 가능한 KT클라우드의 HAC(하이퍼스케일 AI 컴퓨팅), 추론 비용을 50%가량 절감한 리벨리온의 NPU(신경망처리장치) 인프라 등 'AI 풀스택'을 통합 패키지로 제공한다.

KT는 또 믿음에 △도식화된 복잡한 문서도 모델이 정확히 이해할 수 있도록 변환하는 'p다큐먼트 AI' △목표 도메인과 문서에 최적화된 최신 정보를 찾아내는 딥러닝 기술 'p서치 AI'△원문에 근거한 응답만 생성하도록 강화학습을 적용한 'p팩트가드 AI'를 적용, 초거대AI의 장애 요소인 '환각 답변(Hallucination:할루시네이션)'을 기존의 생성형AI 대비 최대 70% 가까이 줄였다고 설명했다.

또 KT가 외부에 완전 공개하는 70억 파라미터 규모의 믿음 경량 모델은 한국어 LLM 평가 리더보드인 'Open Ko LLM'에서 최상위를 기록했다고 강조했다. Open Ko-LLM 한국지능정보사회진흥원(NIA)이 국내 AI 스타트업 및 고려대 연구진과 함께 만든 한국어 LLM 성능을 평가하는 공개 경쟁 플랫폼이다.


'믿음' 출시전부터 "100개 기업·기관과 사업화 논의"
KT는 믿음 출시를 계기로 글로벌·제조·금융·공공·교육 등 5대 영역으로 초거대AI 사업을 확장, B2B 시장 공략에 집중한다. 블룸버그 인텔리전스는 생성형 AI 시장이 2032년에 약 1조3000억달러 규모로 성장할 것이라 전망한 바 있다. 이에 KT는 믿음의 공식 출시 이전부터 금융권과 지방자치단체, 기업솔루션 등 100개 이상의 기업·기관과 믿음 활용을 위한 사전 논의를 진행해 왔다.

우선 기업전용 LLM 사업화에서는 '업스테이지', 교육 영역에선 '콴다'와 '에누마', 기업용 업무 개인비서 영역에는 '비아이매트릭스' 등 스타트업들과 믿음 기반의 AI 사업모델을 공동 개발한다. 특히 KT는 이날 국내 언론 대상의 온라인 설명회에서 믿음을 활용해 제작한 'IBK기업은행 전문 상품지식 제공 서비스'를 선보였다. 앞서 지난 22일엔 태국 자스민 그룹과 함께 믿음 기반의 태국어 LLM 구축 및 동남아 공동 사업 계획을 알린 바 있다.

이와 함께 KT는 AI컨택센터와 지니TV, AI통화비서 등 기존 AI 사업에 믿음을 적용해 고도화하고, KT의 무선서비스, 차량용 인포테인먼트, 로봇 등에도 초거대AI를 적용한 사업 모델을 창출하며, 내부 업무 프로세스 개선에도 초거대AI를 활용할 계획이다.

송재호 KT AI·DX융합사업부문장(부사장)은 "초거대 AI 시장은 세계적 빅테크 기업부터 스타트업까지 참여하며 급격한 디지털 혁신이 진행되고 있다"며 "KT는 차별화된 초거대 AI 모델을 개방하고 대한민국이 디지털 전환을 주도할 수 있도록 모든 역량을 집중하겠다"고 말했다.
TOP