산업 산업일반

"AI 에이전트가 인류보다 많아진다"…메모리도 '용량 시대' 끝난다

김경민 기자
파이낸셜뉴스

엔비디아 "AI끼리 대화하는 시대 온다"
메모리 처리속도 경쟁 본격화
삼성·마이크론 "GB당 가격 아닌 성능당 가격으로 기준 바뀐다"

인파 몰린 'FMS 2026' 삼성전자 부스. 연합뉴스
인파 몰린 'FMS 2026' 삼성전자 부스. 연합뉴스

[파이낸셜뉴스] 앞으로 인공지능(AI) 에이전트가 전 세계 인구보다 많아지고, 이에 따라 메모리 반도체의 가치도 저장 용량이 아니라 처리 성능으로 평가받는 시대가 올 것이라는 전망이 나왔다. AI 시장의 중심이 학습에서 추론으로 이동하면서 고대역폭 메모리(HBM)와 고대역폭 낸드플래시(HBF)를 결합한 새로운 메모리 구조가 차세대 표준으로 자리 잡을 것이라는 분석도 제시됐다.

"AI끼리 대화하는 시대…메모리 평가 기준도 바뀐다"

비크람 메일소디 엔비디아 수석연구원은 6일(현지시간) 미국 캘리포니아주 샌타클래라 컨벤션센터에서 열린 'FMS 2026' 특별 패널토의에서 "앞으로 AI 에이전트 수가 전 세계 인구를 넘어설 것"이라며 "미래에는 사람이 아니라 AI 에이전트가 다른 AI에 질문하는 시대가 된다"고 말했다.

그는 AI 에이전트가 생성하는 요청이 폭증하면 데이터베이스와 애플리케이션의 처리 속도도 지금보다 훨씬 빨라져야 한다며 이를 위해 컴퓨팅 전반의 구조 혁신이 필요하다고 설명했다.

이 같은 변화는 메모리 반도체를 평가하는 기준도 바꿀 것으로 전망됐다.

기양석 삼성전자 DS부문 상무는 "그동안 메모리는 GB(기가바이트)당 가격이 가장 중요한 기준이었다"며 "하지만 AI는 가격을 평가하는 방식을 완전히 바꿀 기회를 제공하고 있다"고 말했다.

용량이 얼마나 큰지가 아니라 AI가 얼마나 빠르게 데이터를 처리하고 토큰을 생성할 수 있는지가 새로운 경쟁력이 된다는 의미다.

기 상무는 "사내 엔지니어들은 '토큰을 더 쓸 수 없느냐'는 불만을 자주 제기한다"며 "비용을 줄이기 위해 사내 AI에서 처리할 업무와 유료 챗GPT에 맡길 업무를 구분해 사용하는 사례도 늘고 있다"고 소개했다. 이어 "이 두 환경이 자연스럽게 연결되도록 만드는 것이 앞으로 메모리 업계의 새로운 기회가 될 것"이라고 전했다.

제러미 워너 마이크론 부사장도 "이제는 GB당 가격이 아니라 입출력(I/O)당 가격으로 경쟁하는 시대가 올 것"이라며 "성능과 전력 효율이 차세대 메모리의 핵심 경쟁력이 될 것"이라고 전망했다.

인파 몰린 'FMS 2026' SK하이닉스 부스. 연합뉴스
인파 몰린 'FMS 2026' SK하이닉스 부스. 연합뉴스

HBM만으로 부족…HBF·D램 묶는 '계층형 메모리' 부상

AI 수요가 폭증하면서 HBM만으로는 미래 AI 인프라를 감당하기 어렵다는 데 패널들은 공감했다.

기 상무는 "메모리를 계속 늘리는 것만으로는 해결되지 않는다"며 HBM과 D램, 낸드플래시를 유기적으로 연결하는 '계층형 메모리(Hierarchical Memory)' 구조가 AI 시스템의 핵심이 될 것으로 내다봤다.

이날 열린 HBF 패널토의에서도 같은 전망이 이어졌다.

톰 코글린 FMS 의장은 "현재 AI 인프라는 D램만으로는 한계에 도달했다"며 "이를 보완하기 위해 고대역폭 낸드플래시(HBF)라는 새로운 계층이 등장했다"고 설명했다.
샤오위 마 구글 딥마인드 연구원은 "AI 산업이 학습보다 추론 중심으로 빠르게 이동하고 있다"면서 "대용량과 고속 처리를 동시에 요구하는 추론 시장에서는 HBF가 가장 적합한 해법"이라고 평가했다.

임의철 SK하이닉스 부사장은 HBM의 높은 속도와 HBF의 대용량을 결합하는 '하이브리드 메모리 아키텍처'를 제안했다.

그는 "HBF를 실제 AI 시스템에 적용하려면 아직 해결해야 할 과제가 많다"며 "AI 칩(xPU) 설계자와 대형언어모델(LLM) 개발자, 소프트웨어 엔지니어가 함께 표준과 사양을 만들어 가야 한다"고 강조했다.

[email protected] 김경민 기자


#고대역폭 메모리 #메모리 반도체 #낸드플래시 #인공지능 에이전트
※ 저작권자 © 파이낸셜뉴스, 무단전재-재배포 금지

기자 정보