AI 투자 비용·자금조달 우려…해법으로 'GPU·AI 인프라 효율화' 관심

엔비디아·오픈라우터부터 아크릴·노타·래블업까지 최적화 사업 전개
삼성전자·SK하이닉스도 HBM 전력 효율 개선 강조

[파이낸셜뉴스] 인공지능(AI) 투자 과열 논란과 대규모 인프라 구축에 따른 자금조달 우려가 커지면서 GPU 활용도 개선과 AI 모델 최적화 기술이 비용 절감 수단으로 주목받고 있다. 신규 장비 도입에 앞서 기존 GPU의 유휴 자원을 줄이고 작업에 적합한 AI 모델을 선택해 인프라 투자 효율을 높이려는 움직임이다.

15일 주요 외신들은 지난 12일 혹 탄 브로드컴 최고경영자(CEO)가 AI 산업 발전 과정에서 자본이 기업들이 직면할 가장 큰 제약 요인이 될 것이라고 밝혔다고 보도했다. 탄 CEO는 일부 투자자들이 투자 대상을 충분히 이해하지 못한 채 과도한 기대를 품고 있다며 AI 분야의 투기적 투자 행태도 지적했다.

인공지능(AI) 인프라 투자 부담이 커지면서 해외 기업들은 GPU 자원 관리와 모델 최적화 기술을 앞세우고 있다. 엔비디아는 GPU 자원 관리 플랫폼 'Run'을 통해 작업량과 우선순위에 따라 GPU를 배분하고 여러 작업이 자원을 공유하도록 지원한다. GPU 유휴 용량과 대기 시간을 줄여 기존 인프라의 처리량과 투자 효율을 높이는 방식이다.

AI 모델 최적화 기업에는 투자금도 유입되고 있다. 비즈니스인사이더에 따르면 오픈라우터는 지난 5월 말 1억1300만달러의 투자 유치를 발표했다. 콘센트레이트 AI도 500만달러 이상의 자금을 확보했다. 오픈라우터는 작업 유형과 모델 성능, 비용 등을 고려해 적합한 AI 모델을 선택할 수 있도록 지원한다.

국내에서도 AI 인프라 효율화 기술을 확보한 기업들이 관련 시장을 공략하고 있다.

아크릴은 AI 플랫폼 '조나단'과 연계한 GPU 운영·최적화 플랫폼 'GPUBASE'를 공급하고 있다. GPU 자원 분할과 작업 배치, 통신 최적화, 통합 관제 등을 지원하는 것이 특징이다. 회사 측은 구글 클라우드(GCP), 마이크로소프트 애저(Azure), 아마존웹서비스(AWS) 환경에서 대규모 성능 검증을 진행했으며 국내 모듈형 데이터센터 등에도 GPUBASE를 공급했다고 설명했다. 노타는 AI 모델 최적화 플랫폼 '넷츠프레소(NetsPresso)'를 통해 하드웨어 환경에 맞춘 모델 경량화를 지원한다. 양자화와 가지치기 기술로 모델 크기와 연산 부담을 줄이고, 실제 기기에서 최적화 전후의 성능과 품질을 비교할 수 있도록 했다.

래블업은 AI 인프라 운영 플랫폼 '백엔드에이아이(Backend.AI)'를 공급하고 있다. GPU 가상화 기술을 활용해 하나의 물리적 GPU를 여러 사용자와 작업이 공유하도록 지원한다. 기존 장비의 활용도를 높여 추가 GPU 구매 부담을 줄이는 것이 핵심이다.

반도체 업계에서는 메모리의 전력 효율 개선에 무게를 두고 있다. SK하이닉스는 HBM4의 전력 효율을 이전 세대보다 40% 이상 높였다고 밝혔다. 데이터 처리 병목현상을 완화하고 데이터센터 전력비를 절감할 수 있다는 설명이다.
삼성전자 역시 HBM4에 저전압 설계와 전력 분배 최적화 기술을 적용해 이전 세대 대비 에너지 효율을 약 40% 개선했다고 밝혔다. 이를 통해 GPU 연산 성능을 뒷받침하면서 서버와 데이터센터의 전력·냉각 비용을 낮출 수 있을 것으로 기대하고 있다.

업계 한 관계자는 "AI 인프라 투자 확대가 지속되는 가운데 GPU 활용률과 전력 효율이 투자 경제성을 좌우하는 주요 변수로 떠오르는 모습"이라며 "단순한 연산 능력 확충을 넘어 기존 인프라에서 얼마나 많은 작업을 처리하고 운영비용을 줄일 수 있는지가 AI 기업들의 경쟁력을 가르는 요소로 부상하고 있다"라고 덧붙였다.

[email protected] 김경아 기자