SKT, 암·리벨리온과 손잡고 'CPU+NPU' AI 서버 솔루션 개발

저전력·고효율·저비...AI DC 경쟁력↑

[파이낸셜뉴스] SK텔레콤은 반도체 설계 기업 암(Arm), 인공지능(AI) 반도체 기업 리벨리온과 AI 데이터센터 사업 협력에 나선다고 10일 밝혔다.

SKT는 지난 9일 암, 리벨리온과 차세대 AI 인프라 혁신을 위한 전략적 파트너십(MOU)을 체결했다. 3사는 암이 새롭게 출시한 '암 범용인공지능(AGI) 중앙처리장치(CPU)'와 리벨리온이 올해 3·4분기 출시 예정인 '리벨카드'를 서버에 같이 탑재해 AI 추론 성능을 높일 수 있는 솔루션을 공동 개발하고 SK텔레콤의 AI 데이터센터(DC)에서 실증하기로 했다.

협력의 배경에는 AI 산업이 AI 모델을 만드는 '학습'에서 실제 서비스를 제공하는 '추론'으로의 패러다임 변화가 있다. 이에 AI 인프라 핵심과제도 '학습'을 위한 막대한 연산 능력보다는 얼마나 적은 전력으로 얼마나 빠르고 저렴하게 AI 서비스를 제공할 수 있느냐로 변하고 있다. 추론은 365일 쉬지 않고 작동해야 되기 때문에 전력 효율이 곧 비용 경쟁력과 직결된다.

업계에서는 추론에 특화된 전용 칩, 신경망처리장치(NPU)가 그래픽처리장치(GPU)의 대안으로 부상하고 있다. NPU에 CPU를 결합해 AI 연산 외에도 데이터 입출력, 네트워크 통신, 메모리 관리, 작업 스케줄링 등 다양한 범용 처리가 가능하다. CPU가 시스템의 '관제탑' 역할을 하며 데이터 흐름과 시스템 운영을 총괄하고 NPU가 AI 추론 연산을 전담하는 '이종 컴퓨팅' 구조다.

SKT는 해당 솔루션이 적용된 서버를 자사 AI 데이터센터에 탑재해 성능과 안정성을 검증할 계획이다. 해당 서버로 SK텔레콤이 독자 개발한 AI 파운데이션 모델 에이닷엑스 케이원(A.X K1)을 운영하는 방안도 검토 중이다. SK텔레콤은 협력을 통해 저전력·고효율 AI 추론 인프라를 확보하고 AI DC 사업 경쟁력을 높일 계획이다.

이재신 SKT AI 사업개발 담당은 "추론에 최적화된 인프라와 독자 파운데이션 모델 A.X K1을 결합한 풀 패키지를 제공함으로써 AI 데이터센터 경쟁력을 더욱 강화해 나가겠다"고 말했다.

에디 라미레즈 암 클라우드 AI 사업부 GTM 부사장은 "AI 추론의 급속한 성장은 대규모 배포에 최적화된 새로운 데이터센터 인프라 수요를 촉진하고 있다"고 했다.

리벨리온 오진욱 최고기술책임자(CTO)는 "AI 특화 인프라 구축을 위해 각 분야 전문가들이 원팀으로 뭉친 이번 협력은 업계에서도 유의미한 선례가 될 것으로 기대한다"고 덧붙였다.

[e-mail] 최혜림 기자