"반갑다, 챗GPT" 삼성이 꺼내든 AI용 반도체 '비밀병기'는

최진혁 삼성전자 미주법인 메모리연구소장이 29일 미국 캘리포니아 마운틴뷰에서 열린 'MemCon 2023'에서 기조연설하고 있다. 삼성전자 제공

[파이낸셜뉴스] 삼성전자가 올해 첫 개최된 '멤콘(MemCon) 2023'에 참가해 '챗GPT' 등 초거대 인공지능(AI)에 활용할 최신 메모리반도체 솔루션을 대거 공개했다.

29일 관련 업계에 따르면 지난 28일(현지시간) 미국 캘리포니아 마운틴뷰에서 멤콘 2023이 열렸다. 멤콘은 AI 관련 메모리 솔루션을 보다 심층적으로 다루기 위해 올해 처음으로 개최된 학회다. 글로벌 정보기술(IT) 기업들을 중심으로 메모리, 디바이스 및 서버 업계를 이끄는 다양한 업체들이 참여했다.

삼성전자 DS(반도체) 부문 최진혁 미주 메모리연구소장(부사장)은 다양한 범위의 D램과 낸드플래시의 메모리 월 문제를 해결할 혁신 솔루션을 제시했다.

메모리 월은 프로세서 속도와 메모리 접근 시간 사이의 격차 증가로 인해 발생하는 성능 병목 현상이다. 이로 인해 프로세서가 메모리로부터 데이터를 기다리는데 더 많은 시간을 소비해 시스템 효율이 감소한다.

삼성전자의 HBM-PIM

삼성전자 반도체는 초거대 AI 모델을 지원하는 지능형반도체(HBM-PIM), 컴퓨트익스프레스링크(CXL) 기반 프로세싱니어메모리(PNM)를 비롯해 스마트 솔리드스테이트드라이브(SSD), 메모리시멘틱 SSD, 메모리 익스팬더 등 다양한 메모리 제품을 공개했다.

HBM-PIM 와 CXL-PNM은 AI 응용처에 적용했을 때 기존 솔루션 대비 그래픽처리장치(GPU) 가속기의 성능을 획기적으로 향상시킬 수 있다. 챗GPT와 같은 AI 챗봇에 사용되는 GPT-3 언어 모델의 경우 전체 연산 기능 가운데 PIM을 적용해 가속할 수 있는 부분이 80% 이상인 것으로 예측됐다. 삼성전자는 HBM-PIM을 적용해 성능 개선 효과를 계산해 본 결과 HBM을 사용한 GPU 가속기를 활용했을 때보다 AI 모델의 성능이 약 3.4배 이상 향상됐다고 설명했다.

CXL 기반 PNM 솔루션은 메모리 용량 추가가 용이한 CXL 인터페이스를 활용해 기존 GPU 가속기 대비 4배 용량으로 제공 가능하다.

2세대 스마트 SSD는 1세대 대비 2배 이상 향상된 연산 성능을 바탕으로 데이터 연산처리 시간과 에너지 소모량을 줄일 수 있다.

메모리시멘틱 SSD는 일반 SSD 대비 20배에 달하는 임의 읽기 속도와 응답속도를 제공해 데이터센터 AI와 머신러닝에 적합한 제품이다.

[e-mail] 장민권 기자