SKT, 멀티 LLM 기반 기업·공공용 AI 사업 나선다

SK텔레콤 기업 및 공공사업 담당 구성원들이 멀티LLM 교육을 받고 있다. SKT 제공

SK텔레콤이 멀티 거대언어모델(LLM)을 기반으로 기업·공공용 ‘생성형 인공지능(AI) 시장’ 공략에 나선다.

SKT는 기업, 공공기관 요구에 맞춰 △에이닷 LLM △엔트로픽 LLM △코난 LLM 등을 조합해 고객 맞춤형으로 제공하기 위한 기술·사업적 준비에 나섰다고 23일 밝혔다. SKT는 자체 LLM인 에이닷 LLM과 함께 업계에서 인정받는 타사 LLM까지 포함한 라인업으로 ‘멀티 LLM’ 사업을 추진한다는 계획이다.

■ SKT, 기업·공공용 AI 풀스택 추진
우선 SKT 에이닷 LLM은 이달부터 엔터프라이즈(기업·공공)용 기본모델을 출시하고 고객사 대상 모델을 학습시키고 최적화 작업을 진행 중이다.

LLM 기본모델은 문서요약, 문서생성, Q&A 등을 수행할 수 있는 기본 기능을 갖춘 AI 소프트웨어다.

또한 SKT의 지분투자 후 다양한 분야에서 협력을 확대하고 있는 코난 LLM도 활용할 계획이다. 또한 지난 13일 지분 투자를 발표한 엔트로픽 LLM의 경우 SKT의 주요 B2B 서비스에 LLM 기능을 결합해 판매하는 방식을 우선 협의 중이다. 기능 통합 작업이 완료되는 4·4분기부터 서비스 제공이 가능할 것으로 기대된다. SKT는 최근 지분투자를 단행해 3대 주주가 된 페르소나AI와 컨택센터 분야 LLM 구축 사업 협력도 추진한다.

SKT는 국내 최고 수준의 슈퍼컴 등 대규모 그래픽처리장치(GPU) 시스템을 갖춰 고객 요구에 맞는 안정적 사전 학습이 가능하다. 또 전국 단위 IT 인프라를 운용한 경험과 대규모 AI 개발자 기반을 보유해 엔터프라이즈 AI 분야에서 ‘풀스택 서비스’를 추진한다. 풀스택은 인프라부터 서비스까지 전 과정을 아우르는 서비스·제품 개발 능력을 말한다.

SKT가 활용 예정인 LLM 특징

LLM 종류	특징
에이닷 LLM	대화 및 고객센터 등 통신사 기반 서비스 중심
엔트로픽 LLM	윤리적 답변 및 대용량 텍스트 입력 강점
코난 LLM	한국어 데이터 풍부

(SKT 제공)

■ 산업별 맞춤형 LLM 서비스 제공 나선다
SKT가 제공하려는 기업·공공 분야 LLM 서비스는 각각 LLM이 가진 고유의 특장점을 가장 잘 살릴 수 있는 분야에 각 LLM 서비스를 매칭하는 ‘산업별 특화 LLM 서비스’ 제공을 지향하고 있다.

에이닷 LLM의 경우 학습한 데이터나 서비스 성격상 주로 대화나 챗봇 등 통신사 서비스에 장점이 있고, 엔트로픽 LLM은 AI가 따라야 할 윤리원칙을 미리 학습시켜 뒀기에 사람이 정해놓은 윤리원칙에 맞는 답변을 얻을 수 있는 특성이 있다. 또한 자료 입력 시 소설책 한 권에 해당하는 텍스트를 통째로 입력 가능한 장점이 있다. 이를 통해 한국어 기반의 구축형 LLM 시장에서는 에이닷 LLM을 중심으로 시장을 선점하고 초거대 AI 중심 경쟁이 예상되는 클라우드형 LLM은 엔트로픽 LLM 등을 활용해 시장을 공략할 계획이다.

SKT는 우선 행정안전부, 과학기술정보통신부 등 정부에서 추진 중인 LLM 기반 시범 사업과 본 사업 참여를 준비 중이며 금융권을 중심으로 한 LLM 기반 서비스 구축 프로젝트도 개별 고객사와 함께 추진하고 있다. SK그룹 내 대형 제조 계열사 등과도 LLM기반 AI 기술 제조 영역 적용을 위한 협의를 하고 있다.

SKT 엔터프라이즈 사업을 이끌고 있는 김경덕 CIC장(부사장)은 “중요한 것은 고객의 요구 사항으로, 다양한 멀티 LLM 조합을 기반으로 고객들이 실제 필요로 하는 서비스를 신속하게 제공하는 것이 중요하다”고 강조했다.

[e-mail] 구자윤 기자