IT 컴퓨팅

"엔비디아 H100 대규모 투입"...AI 인프라 시장 선도

임수빈 기자

파이낸셜뉴스

입력 2024.03.25 16:24

수정 2024.03.25 16:24

관련종목▶

NHN클라우드, 국가 AI데이터센터 가보니

NHN클라우드의 '국가 AI 데이터센터' 내 엔비디아의 H100을 비롯한 최신형 그래픽처리장치(GPU)가 들어선 전산실 내부 모습. NHN클라우드 제공
NHN클라우드의 '국가 AI 데이터센터' 내 엔비디아의 H100을 비롯한 최신형 그래픽처리장치(GPU)가 들어선 전산실 내부 모습. NHN클라우드 제공

【광주=임수빈 기자】 NHN클라우드가 AX(인공지능 전환) 패러다임을 선도하기 위한 ‘NHN클라우드 2.0 전략’을 발표했다. 엔비디아 H100 등이 대규모 도입된 초고성능 데이터센터를 중심으로 AI 인프라 시장을 선도하는 것이 목표다.

25일 업계에 따르면 광주광역시 북구 첨단3지구에 위치한 NHN클라우드의 국가 AI 데이터센터는 초고사양 컴퓨팅 자원을 도입한 국가 전략 데이터센터로 지난해 11월부터 본격 운영되고 있다. 과학기술정보통신부와 광주광역시가 추진하고, NHN클라우드가 클라우드 인프라 구축과 운영 사업자를 맡았다.

지난 21일 방문한 국가 AI 데이터센터는 말 그대로 'AI 특화' 데이터센터였다. 기업, 연구기관, 대학 등에 AI 연구개발을 지원할 수 있는 컴퓨팅 연산능력 88.5페타플롭스(PF), 저장 용량 107페타바이트(PB) 규모의 인프라를 갖췄다.
88.5PF는 일반 업무용 노트북 약 50만대 규모의 연산처리량을 1초 만에 수행 할 수 있으며, 저장용량 107PB는 1테라바이트(TB) 하드디스크 10만7000개의 저장 용량에 해당한다.

현재 470곳의 기관과 스타트업 등이 해당 데이터센터를 통해 여러 AI 서비스를 연구, 실험하고 있다. 이에 전산실에는 그래픽처리장치(GPU) 기반 초고성능 서버를 가동할 때 나오는 열기를 식히기 위해 쉼 없이 돌아가는 냉각팬 소리가 가득했다.

김동훈 NHN클라우드 대표가 지난 21일 광주광역시 김대중컨벤션센터에서 진행된 간담회에서 NHN클라우드 2.0 전략에 대해 설명하고 있다. NHN클라우드 제공
김동훈 NHN클라우드 대표가 지난 21일 광주광역시 김대중컨벤션센터에서 진행된 간담회에서 NHN클라우드 2.0 전략에 대해 설명하고 있다. NHN클라우드 제공

고성능 연산 처리가 가능하도록 국가 AI 데이터센터엔 글로벌 품귀 현상을 빚고 있는 엔비디아의 H100가 대규모 투입됐다. 이러한 초고성능 GPU의 무중단 운영을 위해 전력 효율도 극대화했다. 기존 다른 데이터센터의 전력밀도는 서버 랙 당 평균 4.8킬로와트(㎾)로 고성능 GPU를 운영하는 데 턱없이 부족하다는 설명이다. 이에 최신 기종 GPU의 원활한 운영을 위해 NHN클라우드는 서버 랙 당 전력밀도를 15㎾로 설계했다.

김동훈 NHN클라우드 대표는 "오래된 데이터센터의 전력밀도는 2.2㎾까지 내려가고 최근 만들어진 곳도 5㎾가 대부분"이라며 "(국가 AI 데이터센터 외에) 15㎾를 제공하는 곳은 아직 현존하지 않고, AI 인프라 설계를 감안한 데이터센터라는 점이 가장 큰 차별점"이라고 말했다.

국가 AI 데이터센터는 NHN클라우드의 2.0 전략에서 핵심 역할을 수행한다.

현재 NHN클라우드는 국가 AI 데이터센터를 포함, 판교 데이터센터(NCC1) 등 자사 데이터센터에 H100 1000개 이상을 비롯 엔비디아 기반 77.3PF, 그래프코어 기반 11.2PF, 사피온 기반 11PF까지 총 99.5PF에 달하는 AI GPU 팜을 구축해 AI 인프라를 선도할 수 있는 기반을 마련한 상태다.
김 대표는 "(AI 서비스의 기반이 되는) 하단 인프라에 대한 부분에 집중하는 기업이 되고 싶고, 이를 통해 글로벌 경쟁력을 갖춘 회사로 성장할 수 있을 것"이라고 전했다.

soup@fnnews.com 임수빈 기자

fnSurvey