IT IT일반

KT, 국산 NPU·LLM 합친 완제품 출시…소버린 AI 공략

최혜림 기자
파이낸셜뉴스
관련종목
KT(030200)

'KT NPU LLM 스테이션' 선봬

KT가 국산 AI 반도체와 LLM을 하나의 서버에 통합한 기업용 소버린 AI 어플라이언스를 출시했다고 19일 밝혔다. KT 제공
KT가 국산 AI 반도체와 LLM을 하나의 서버에 통합한 기업용 소버린 AI 어플라이언스를 출시했다고 19일 밝혔다. KT 제공

[파이낸셜뉴스] KT가 국산 인공지능(AI) 반도체와 자체 대규모언어모델(LLM)을 결합한 일체형 서버를 앞세워 기업용 소버린 AI 시장 공략에 나선다. 데이터와 AI 연산을 기업 내부에서 처리하는 방식으로 보안 규제가 높은 공공·금융·국방·제조 등의 AI 전환(AX) 수요를 겨냥한다.

KT가 국산 AI 반도체와 LLM을 하나의 서버에 통합한 기업용 소버린 AI 어플라이언스 'KT 신경망처리장치(NPU) LLM 스테이션'을 출시했다고 19일 밝혔다. 어플라이언스는 하드웨어와 소프트웨어가 결합된 완제품형 장치를 뜻한다.

해당 제품은 국내 AI 반도체 기업 리벨리온의 NPU '아톰 맥스'에 KT의 독자 개발 LLM '믿음 K 2.5 프로'와 운영 응용프로그램 인터페이스(API) 플랫폼까지 탑재한 일체형이다.

KT는 AI 반도체부터 모델, 운영 플랫폼에 이르는 핵심 기술을 국내 기술로 구성했다고 설명했다. 정부가 추진하는 소버린 AI 정책 방향을 기업 현장에서 바로 구현할 수 있다는 설명이다.

KT는 제품의 가장 큰 강점이 보안이라고 강조했다. 제품은 고객사 내부에 설치되며 모든 데이터와 AI 연산이 사내에서만 처리된다. 망분리 등 관련 규제와 보안 필요성으로 해외 생성형 AI를 도입하지 못했던 공공, 국방, 제약, 제조, 금융 등 규제 산업의 AX에 촉매제가 될 것으로 보인다.

KT에 따르면 해당 제품은 서버, AI 모델, 플랫폼이 통합된 완제품형 장치라 별도 구축 없이 설치 당일부터 사내 문서 기반 질의응답(RAG) 등 AI 기능을 바로 사용할 수 있다. 추론 특화 NPU를 채택해 동급 그래픽처리장치(GPU) 서버 대비 전력 효율이 높다. 또 업계 표준 API를 제공해 기업이 기존에 쓰던 AI 서비스의 접속 정보만 바꾸면 코드 수정 없이 호환해 사용할 수 있다.
KT는 향후 회의록 작성, 코딩 지원, 업무 자동화 에이전트 'K-클로(가칭)' 등 KT가 개발한 AI 에이전트를 순차 탑재하고 에이전트 전문 개발사와 협력해 맞춤형 구축 사업으로 확장할 계획이다. 또 KT NPU LLM 스테이션의 활용 영역을 피지컬 AI를 위한 엣지 데이터센터(DC)로 확대해 저전력·저지연 AI 인프라 구현에도 나설 예정이다.

KT AX사업본부장 이진형 상무는 "데이터 주권을 지키면서 AI 전환을 시작하려는 기업과 기관에 가장 현실적인 선택지가 될 것"이라고 말했다.

[email protected] 최혜림 기자


#kt #소버린 AI #인공지능 반도체 #신경망처리장치 #대규모언어모델
※ 저작권자 © 파이낸셜뉴스, 무단전재-재배포 금지

기자 정보