'국가대표 소버린AI 드림팀' 떴다...NPU·모델·데이터센터 망라

오케스트로·퓨리오사AI·업스테이지 협력
NPU·언어모델부터 클라우드·서버·데이터센터 기술까지 결합
공공·기업 대상 공동 영업…구축 후 운영·기술지원도 추진

[파이낸셜뉴스] 국내 AI 반도체와 언어모델, 클라우드, 서버·데이터센터 기업들이 기술을 결합해 소버린 AI 인프라 통합 상품 개발에 나선다.

오케스트로 클라우드는 퓨리오사AI, 업스테이지, 에스피케이인크(SPK), 대원씨티에스와 지난 16일 'NPU 기반 소버린 AI 풀스택 상품 공동 개발'을 위한 업무협약을 체결했다고 밝혔다.

5개사가 개발할 '소버린 AI 풀스택 어플라이언스'는 AI 연산부터 클라우드 인프라, 모델 추론, 운영·관리까지 한 환경에서 제공하는 통합 상품이다. 기존에는 AI 서비스를 구축할 때 반도체와 서버, 클라우드 플랫폼, AI 모델을 각각 도입해 연동해야 했다. 참여 기업들은 관련 기술을 하나의 상품으로 묶어 인프라 구축과 운영 과정을 간소화한다는 계획이다.

오케스트로 클라우드는 클라우드 플랫폼을 제공하고 통합 환경의 기술 검증을 총괄한다. 오케스트로의 서버 가상화 솔루션 '콘트라베이스(CONTRABASS)'와 Ceph 기반 소프트웨어 정의 스토리지(SDS)에 퓨리오사AI의 신경망처리장치(NPU) 'RNGD', 업스테이지의 대규모언어모델(LLM) '솔라(SOLAR)'를 결합해 AI 컴퓨팅 자원 관리부터 모델 추론까지 연결할 예정이다.

참여 기업별 역할도 나뉜다. 퓨리오사AI는 NPU와 AI 연산 기술을, 업스테이지는 솔라를 기반으로 한 AI 모델·추론 기술을 제공한다. SPK는 서버와 하드웨어, 대원씨티에스는 데이터센터와 네트워크 인프라를 맡는다. 오케스트로는 풀스택 AI 인프라 소프트웨어를 제공하고, 오케스트로 클라우드는 구축·운영 역량을 보탠다.

참여 기업들은 해외 GPU와 클라우드 기술에 대한 의존도를 낮추고, 국내 기술 중심으로 AI 인프라를 구현한다는 목표다. 이를 통해 공공기관과 기업이 데이터와 AI 운영 환경에 대한 통제권을 확보하고, 자체 환경에서 AI 서비스를 구축·운영할 수 있도록 지원한다는 구상이다.
5개사는 통합 상품의 상용화를 추진하는 한편 구축 이후 운영과 기술지원까지 제공하는 관리형 서비스도 개발할 예정이다. 공공기관과 민간기업을 대상으로 공동 영업·마케팅을 진행하고 개념검증(PoC), 벤치마크 테스트(BMT), 공동 제안에도 나선다.

박소아 오케스트로 클라우드 대표는 "AI 산업의 경쟁력은 개별 기술의 우수성을 넘어 이를 얼마나 완성도 높은 서비스로 구현하느냐에 달려 있다"며 "AI 컴퓨팅부터 모델 추론, 인프라 운영·관리까지 통합한 상품을 선보여 국내 AI 인프라 시장에 새로운 기준을 제시하겠다"고 말했다.

[email protected] 윤홍집 기자