KT클라우드, AI 추론 전용 인프라서비스 'AI SERV' 출시

KT클라우드, AI 추론 전용 인프라서비스 'AI SERV' 출시

kt cloud, 슬라이싱 GPU 기반 인프라 서비스 'AI SERV' 출시 kt cloud, 슬라이싱 GPU 기반 인프라 서비스 'AI SERV' 출시 (서울=연합뉴스) kt cloud는 슬라이싱 기술을 GPU(Graphic Processing Unit, 그래픽처리장치)에 적용한 AI 추론 전용 인프라 서비스 'AI SERV'를 출시했다고 16일 밝혔다. 사진은 모델이 'AI SERV'를 소개하는 모습. 2023.10.16 [kt cloud 제공. 재판매 및 DB 금지] [e-mail] (끝)

(서울=연합뉴스) 강건택 기자 = KT클라우드는 슬라이싱 기술을 GPU(그래픽처리장치)에 적용한 인공지능(AI) 추론 전용 인프라 서비스 'AI SERV'를 출시했다고 16일 밝혔다.인프라 서비스
AI SERV는 AI 개발·학습을 마치고 AI 서비스를 제공 중인 AI 전문기업과 스타트업이 고성능 GPU 인프라를 각 서비스에 필요한 만큼 분할해, 최적의 양을 사용할 수 있게 함으로써 비용 효율성을 높였다고 회사 측은 설명했다.

이 서비스에 활용된 슬라이싱 기술은 기존에 한 장으로 제공되던 GPU 서비스를 5분할해 0.2장 단위로 제공, 가격 부담을 줄이고 탄력적이고 가변적인 활용이 가능하다.

KT클라우드는 앞으로 AI SERV에 사용자의 손쉬운 인프라 확장 지원을 위한 모니터링과 컨테이너 이미지 클로닝 기능 등을 추가하는 등 서비스를 지속적으로 고도화할 계획이라고 전했다.

윤동식 KT클라우드 대표는 "이번 AI SERV 출시로 고객들이 AI 학습부터 추론, 서빙 환경 구성까지 각 단계에서 최적의 인프라를 보다 합리적인 비용으로 사용할 수 있게 됐다"며 "국내외 파트너사와 협력해 초거대 AI 산업의 활성화와 생태계 확장을 위해 지속 노력할 것"이라고 말했다.

[e-mail]
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포 금지>