구글·엔비디아, 전력 공급 맞춰 작동하는 AIDC 만든다[글로벌AI브리핑]

[파이낸셜뉴스] 구글·엔비디아등 글로벌 인공지능(AI)기업들이 AI데이터센터(AIDC) 확장의 병목으로 부상하고 있는 전력 확보의 문제를 해결하기 위해 전력 공급 상황에 맞춰 유연하게 작동을 조절하는 AIDC 운영기술 개발과 글로벌 표준 마련에 나서기로 했다.

AIDC가 매순간 전기먹는 하마로 작동하는 것이 아니라, 전력망 상황에 맞춰 스스로 전력 사용량을 조절하는 시설로 운영하자는 것이다.

16일(현지시간) 구글과 엔비디아, AI 데이터센터 전력관리 기업 에메랄드AI는 내셔널그리드, AES, NRG 등 AI·데이터센터·전력 분야 18개 기업·기관이 참여하는 'AI에너지 관리연합(AEMA)'을 출범한다고 공식 발표했다.

AMEA는 AIDC의 운영방식을 전력 유연형으로 바꾸는 기술을 개발하고, 표준을 정립해 나간다고 설명했다.

지금까지 AIDC는 24시간 안정적으로 전력을 사용하는 대형 전력 소비자였는데, AMEA는 전력 공급이 여유로운 시간이나 지역에서는 AIDC가 알아서 AI 연산을 늘리고, 전력 수요가 급증하는 시간에는 중요도가 낮은 학습이나 연산을 늦추는 방식으로 전력 사용량을 낮추는 방식이다. 또 배터리를 사용하거나 자체 발전을 활용해 전력망에서 가져오는 전력도 줄일 수 있도록 하겠다는 구상이다.

엔비디아는 이미 전력 유연형 GPU 운영방식을 실제 AIDC에 적용하고 있다고 설명했다.

전력회사가 전력 사용량을 줄여달라는 신호를 보내면 소프트웨어가 우선순위가 낮은 작업을 자동으로 늦추고 핵심 AI 추론 작업은 계속하는 방식이다. 엔비디아는 실제 실증에서 4MW의 전력 사용량을 3MW로 자동 낮추면서 우선순위가 높은 작업을 유지했고, 200차례 이상의 전력 조절 신호에 매번 대응했다고 밝혔다.

AEMA는 앞으로 AID가 실제로 얼마나 빨리, 얼마나 많이 전력 사용량을 줄일 수 있는지를 측정하는 기준도 마련할 계획이다. AIDC가 실제로 얼마나 빨리, 얼마나 안정적으로 전력 사용량을 조절할 수 있는지 공통 기준을 만들고 이를 입증한 시설에 빠른 전력망 접속을 허용하는 정책도 추진하겠다고 덧붙였다.

AMEA는 미국 뿐 아니라 전세계적으로 전력망 확보가 어려워 AIDC 구축이 지연되거나, 지역주민 반발이 정치적 문제로 비화되는 등 AI인프라 구축에 전력 확보가 병목으로 작용하고 있는 점을 해결하기 위한 전략으로 풀이된다.

미국에서는 대규모 AIDC가 전력망에 연결되기까지 5~10년 이상 기다리는 사례가 나오고 있다. 전력회사는 데이터센터가 최대 전력을 요구하는 순간에도 공급할 수 있도록 발전소와 송전망을 미리 확보해야 하기 때문이다.
반면 실제 전력망은 연중 24시간 내내 최대 용량으로 사용되지는 않기 때문에, 전력 수요에 맞춰 AIDC의 전력사용을 조절하는 것으로 AIDC 구축을 위해 발전소를 새로 짓거나 변전시설을 구축하는 부담을 줄이겠다는 것이다.

AEMA는 미국 전력망의 평균 이용률이 약 50%라고 분석했다.

업계전문가들은 향후 AIDC 산업 경쟁이 단순 용량 확대 뿐 아니라 전력 유연성 등 운영기술 확보가 경쟁력의 척도가 될 것으로 관측하고 있다.

[email protected] 이구순 기자