삼성전자 '연산도 가능한 저전력 D램' 세계 첫 공개
온디바이스 AI 시장 선점나서
삼성전자가 메모리 자체에서 인공지능(AI) 연산을 수행하는 차세대 저전력 메모리 솔루션을 세계 최초로 선보였다. 메모리와 프로세서 간 데이터 이동을 줄여 AI 연산의 병목을 해소하는 기술로, 온디바이스 AI 시대를 겨냥한 차세대 메모리 시장 선점에 나선다는 전략이다.
황가람 삼성전자 책임은 25일(현지시간) 미국 스탠퍼드대에서 열린 반도체 학술대회 '핫칩스 2026'에서 저전력 메모리인 LPDDR 기반 '메모리 내 연산(PIM)' 상용화 제품인 'LPDDR5X-PIM'의 아키텍처와 사양, 검증 결과 등을 발표했다.
LPDDR5X-PIM는 이달 초 열린 메모리 콘퍼런스 'FMS 2026'에서 '차세대 메모리상'을 받은 제품으로, 세부 사양이 공개된 것은 이번이 처음이다.
PIM은 데이터를 메모리에서 중앙처리장치(CPU)나 그래픽처리장치(GPU) 등 프로세서로 옮겨서 계산한 뒤 다시 메모리에 전송하던 기존 구조와 달리, 간단한 연산은 메모리 내부의 연산장치가 직접 처리한다. 이 경우 프로세서는 복잡한 연산만 처리하면 돼 효율이 높아지고, AI 연산에서 주로 병목 지점이었던 메모리와 프로세서 간 데이터 전송을 최소화함으로써 시간과 전력 소모를 아낄 수 있다.
삼성전자가 파라미터 80억 개 규모인 메타의 경량 오픈소스 모델 '라마 3.1'을 대상으로 시험한 결과 LPDDR5X-PIM을 적용한 처리 시간은 5.4초로, 기존 일반 LPDDR5X의 12.3초와 견줘 약 2.3배 빠른 속도를 보였다. 초당 토큰 처리량(TPS)도 81.3TPS로, 기존의 27TPS의 3배에 달했다.
[email protected] 임수빈 기자
