‘AI 메모리’ 한계 넘는다… 삼성, HBM5 8배 성능 ‘zHBM’ 첫선

FMS 2026서 차세대 메모리 공개
AI 가속기 상단에 메모리 수직 적층
병목 완화, 대역폭·전력효율 극대화
中 CXMT 2Q 매출 716% 늘며 추격
SK하닉도 HBF 첫 표준 규격 선보여

삼성전자가 차세대 3D 메모리 아키텍처를 업계 최초로 공개했다. AI 가속기 상단에 메모리를 수직으로 적층하는 구조를 적용해 차세대 고대역폭메모리(HBM5) 대비 최대 8배 높은 성능과 최대 3배 높은 전력효율을 구현하는 것이 핵심이다. 이는 HBM 중심 메모리 구조만으로는 대응하기 어려운 AI 시스템의 데이터 처리 요구에 맞춰 새로운 메모리 구조를 제시했다는 점에서 주목받는다.

앞서 SK하이닉스도 HBM과 저장장치(SSD) 사이에 새로운 메모리 계층을 추가하는 HBF를 공개하며 , AI 데이터 처리 과정에서 발생하는 메모리 계층 간 병목을 완화하는 전략을 제시한 바 있다. 양사는 HBM 성능 경쟁을 넘어 AI 시스템 전체의 데이터 이동 효율을 높이기 위한 차세대 메모리 구조 경쟁에 나선 모습이다. 최근 중국 업체 등의 범용 D램 시장 추격이 거세지는 가운데, 삼성전자와 SK하이닉스는 새로운 메모리 아키텍처를 기반으로 AI 인프라 시대의 주도권을 지켜나간다는 전략이다.

4일(현지시간) 삼성전자는 미국 캘리포니아주 산타클라라컨벤션센터에서 열린 FMS(Futere of Memory and Storage)2026에서 차세대 메모리 아키텍처를 업계 최초로 공개했다. 핵심 제품은 zHBM으로, AI 가속기 옆에 HBM을 배치하는 현재의 방식에서 나아가 가속기 상단에 수직으로 HBM을 적층하는 구조다.

zHBM이 적용된 차세대 인터페이스 시스템은 차세대 고대역폭메모리인 HBM5 대비 최대 8배 높은 성능을 제공한다는 설명이다. AI 가속기와 메모리 간 데이터 이동 거리를 최소화해 대역폭과 전력효율을 높이고, 대규모 AI 모델의 학습과 추론에 필요한 초고속 데이터 처리를 지원할 수 있기 때문이다.

또 고객 맞춤형 설계가 가능한 3D 솔루션으로, 메모리와 AI 가속기 사이에 있는 인터레이어에 맞춤형 설계 블록을 추가해 메모리 용량 확장이나 가속기 성능 강화 등을 구현할 수 있다.

삼성전자는 낸드에서도 수직 메모리 아키텍처 비전을 제시했다. zNAND-O는 삼성전자가 개발 중인 차세대 고성능 낸드플래시 솔루션으로, 기존 V-NAND의 수직 적층 기술을 활용하고 TSV 기술을 결합해 4단 또는 8단 반도체 칩을 3D 패키징한 제품이다. 온디바이스 AI에 최적화된 제품으로, 빠른 응답속도 및 데이터 처리가 필요한 환경에서 고성능을 구현할 수 있다는 설명이다.

이러한 새로운 아키텍처는 메모리·로직·파운드리·첨단 패키징을 아우르는 삼성전자의 종합 반도체(IDM) 역량을 기반으로 한다는 평가다. 삼성전자는 메모리 설계부터 AI 가속기와의 최적화, 패키징까지 아우르는 통합 솔루션을 제공할 수 있어 고객 맞춤형 AI 반도체 구현에 강점을 갖췄다.

AI 모델이 고도화되면서 GPU 연산 성능을 뒷받침하는 메모리의 데이터 공급 능력이 시스템 성능을 좌우하는 핵심 요소로 떠오르자, 이를 해결하기 위한 새로운 메모리 아키텍처를 제시한 것이다.

앞서 SK하이닉스 또한 HBM 성능을 확장할 수 있는 새로운 개념의 HBF를 공개한 바 있다. HBM과 SSD 사이에 새 메모리 계층을 추가하는 계층형 메모리를 통해 메모리 성능을 고도화, 현재의 병목을 극복하겠다는 구상이다. 삼성전자의 zHBM이 AI 가속기와 메모리 간 연결 구조를 개선하는 방식이라면, HBF는 HBM과 저장장치 사이에 새로운 계층을 추가하는 방식이다.

방식은 다르지만 양사 모두 AI 시대의 데이터 이동 병목을 해결하기 위한 차세대 메모리 아키텍처를 제시하며 시장 주도권을 둘러싼 경쟁이 HBM공급을 넘어, 메모리 구조 혁신으로 확대되고 있는 것이다.

이와 함께 중국 등 후발 업체들과의 기술 초격차를 유지하려는 전략으로도 읽힌다. 특히 최근 CXMT는 대규모 자금 조달에 기반해 생산시설을 대폭 확대할 계획을 제시하는 등 거세게 추격해 오고 있다. 시장조사업체 카운터포인트리서치에 따르면 CXMT는 올해 2분기 D램 매출이 전년 동기 대비 716% 증가하며 글로벌 D램 업체 가운데 가장 높은 성장률을 기록했다.

범용 D램에서는 중국의 추격이 거세지고 있지만, AI 시대의 경쟁은 메모리 아키텍처 혁신으로 옮겨가고 있다는 게 업계의 평가다. 삼성전자와 SK하이닉스는 차세대 메모리 기술을 앞세워 AI 인프라 주도권을 이어간다는 전략이다.