SKT, 텔코LLM 활용 본격 시작…AI 기반 사내 전산시스템 구축한다

에릭 데이비스 AI Tech Collaboration 담당이 지난 4월30일 서울 중구 을지로 T타워에서 진행된 SK텔레콤 통신사향 거대언어모델 '텔코 LLM' 설명회에서 텔코 LLM을 소개하고 있다. /사진=임한별(머니S)

SK텔레콤 이 AI(인공지능) 기반 사내 전산 시스템 구축에 나선다. 글로벌 텔코 AI 얼라이언스(GTAA)에서 구축한 텔코LLM(통신 전용 초거대 언어모델)을 상용화하기 전 내부에 먼저 적용해 보고, 오래된 전산 시스템 활용성을 높이기 위함이다.

24일 통신업계에 따르면 SK텔레콤은 최근 SK㈜ C&C와 사내 전산 시스템에 텔코LLM을 적용하고 이동통신(MNO) AI 플랫폼을 구축하기 시작했다. 해당 플랫폼은 고객센터 내 고객응대시스템이나 대리점 관리시스템 등에 사용된다.

앞서 지난 2월 말 스페인 바르셀로나에서 열린 MWC 2024에서 유영상 SK텔레콤 사장은 중동 최대 통신사이자 GTAA 멤버사인 UAE(아랍에미리트)의 e&(이앤)과 만나 MNO AI 플랫폼 구축 계획이 있다고 설명한 바 있다.

SK텔레콤은 전사 시스템에 AI를 접목하는 것은 "당연한 수순"이라고 설명한다. SK텔레콤 관계자는 "텔코LLM을 상용화하는 과정에서 사내 시스템에 접목해보는 과정"이라며 "MNO를 포함해 각 고객 서비스를 AI향으로 바꾸는 작업은 벌써 지난해부터 시작했고, 그 일환으로 최근 전산 시스템 대체에 착수한 것으로 알고 있다"고 설명했다.

한편, 텔코LLM은 12억명이 넘는 GTAA 회원사의 통신 고객 데이터를 학습시켜 구축 중인 통신 전용 초거대 언어모델이다. 고객 사용패턴에 맞게 통신 요금제를 추천해주거나 서비스를 기획해 주는 데 최적화돼 있다. 유 사장은 MWC 2024 당시 "AICC(AI 고객센터)에 (챗GPT 같은) 일반적인 LLM을 적용했을 때보다 텔코 LLM을 적용했을 때 (통신 서비스 수준이) 상당히 개선됐다"고 밝힌 바 있다.