AI 병목 뚫어라… 삼성·SK, 차세대 메모리 전략 맞붙었다
美 OCP 글로벌 서밋 나란히 참가
삼성, 8세대 HBM5 등 개발 집중
AMD와 메모리 확장 솔루션 협력
SK, 서버 효율 향상 시스템 제시
메모리·SSD 중심 재설계 강조
삼성전자가 차세대 고대역폭메모리(HBM)와 컴퓨트익스프레스링크(CXL), 고성능 스토리지를 앞세워 인공지능(AI) 인프라의 처리 속도와 메모리 용량 한계 동시 극복에 나섰다. HBM5·맞춤형 HBM으로 연산 효율을 높이고, AMD 등 글로벌 파트너와 메모리 확장 및 시스템 최적화 협력을 강화해 AI 메모리·스토리지 전반으로 경쟁력을 넓힌다는 전략으로 풀이된다. 이에 맞서 SK하이닉스도 AI 붐에 따른 메모리 부족 장벽을 해결할 방안으로 메모리를 AI 랙 시스템 중심에 두는 시스템 설계방안을 공개했다.
■속도·메모리 확장·영속성 초점
심호준 삼성전자 반도체(DS)부문 메모리사업부 AE팀 상무는 12일(현지시간) 미국 캘리포니아주 새너제이컨벤션센터에서 열린 오픈컴퓨트프로젝트(OCP) 글로벌 서밋에서 AI 모델 대형화와 추론 데이터 증가에 대응하기 위한 핵심 기술 방향으로 △속도 △메모리 확장성 △데이터 영속성 등 세 가지를 제시했다.
심 상무는 AI 추론 과정에서 처리해야 할 데이터와 KV캐시 용량이 급증하면서 기존 메모리 대역폭 확대만으로는 AI 시스템의 성능을 높이는 데 한계가 있다고 설명했다. 데이터 처리 속도뿐 아니라 메모리 용량 확장과 대규모 데이터의 저장·관리 효율을 함께 높이는 것이 중요해진 것이다.
이를 위해 삼성전자는 HBM5(8세대)와 맞춤형 HBM, 연산칩 위에 메모리를 적층하는 zHBM, 메모리 내부에서 일부 연산을 수행하는 PIM 등 차세대 기술 개발에 주력하고 있다. 메모리 용량의 한계를 극복하기 위해서는 CXL 기반 확장 기술을 활용하고, 차세대 솔리드스테이트드라이브(SSD)를 통해 대규모 AI 데이터의 저장·관리 효율을 높인다는 전략이다.
글로벌 AI 반도체 기업과의 협력도 구체화하고 있다. 삼성전자는 이번 행사에서 AMD와 CXL 기반 메모리 확장 솔루션을 공동 시연했다. 여러 시스템이 메모리 자원을 공유하는 '메모리 풀링' 기술을 활용해 AI 추론 과정에서 급증하는 메모리 수요에 대응하는 방식이다. 엔비디아의 '그록 3 LPX' 시스템과 그록의 언어처리장치(LPU) 웨이퍼, 삼성전자의 2나노 게이트올어라운드(GAA) 웨이퍼 등도 전시하며 메모리와 파운드리를 아우르는 기술 협력 사례를 소개했다.
특히 삼성전자와 AMD는 최근 최고경영진 간 회동을 비롯해 협력 접점을 넓히고 있다. 리사 수 AMD 최고경영자(CEO)는 지난 7일 방한해 전영현 삼성전자 DS부문장(부회장)을 만나 AI 반도체 분야 협력 방안을 논의했다.
■메모리 효율성 극대화
SK하이닉스는 같은 날 열린 'OCP 글로벌 서밋'에서 메모리를 중심으로 AI 서버 효율을 높이는 시스템 구조를 제시했다.
김호식 SK하이닉스 부사장은 "지금이 메모리 중심 랙 시스템을 이야기할 적기"라며 "컴퓨팅 시스템은 분리형(disaggregated) 메모리와 SSD 시스템을 중심으로 재설계되어야 한다"라고 말했다.
실제 추론형 에이전트 시대로 넘어오면서 빠르고 경제적인 연산이 중요해졌고 AI 업계에서는 서버 랙 구성을 통해 효율성을 높이는 경쟁이 전개되고 있다. 하지만 생성형 AI와 데이터센터의 폭발적인 성장은 CPU·GPU 중심으로 설계된 서버에서 심각한 병목 현상을 낳았고 전력 소비량이 폭증했다. 이에 SK하이닉스는 메모리 효율성을 극대화하는 방식으로 서버를 만드는 발상의 전환을 한 것으로 해석된다. 김 부사장은 "AI 분야에서 메모리 수요는 급격히 증가하고 있지만 그래픽처리장치(GPU) 메모리, 즉 HBM은 물리적·경제적 제약에 직면해 있다"면서 "차세대 AI 성능을 구현하려면 데이터의 저장과 접근, 공유 방식을 근본적으로 재검토해야 한다"고 강조했다.
[email protected] 임수빈 박소현 기자
