AI 시대 메모리의 진화, 더 빠르게·더 촘촘하게… 삼성전자, FMS 2026에서 차세대 3D 메모리 비전 공개

AI는 질문에 답하는 생성형 AI를 넘어 스스로 계획을 세우고 추론하며 행동하는 에이전틱 AI(Agentic AI)로 빠르게 진화하고 있다. 이에 따라 AI가 처리해야 하는 데이터의 규모도 이전보다 훨씬 커지고 있다. 대화와 추론 과정이 길어질수록 AI가 새롭게 생성하는 데이터는 물론, 이전 대화 내용과 중간 계산 결과를 저장해 다음 작업에 활용하는 KV 캐시(KV Cache)의 크기도 함께 증가하고 있다.

AI가 다뤄야 하는 데이터가 급격히 늘어나면서 AI 시스템의 성능을 결정하는 요소도 변화하고 있다. 이제는 프로세서의 연산 성능뿐 아니라 방대한 데이터를 얼마나 효율적으로 저장하고, 필요한 데이터를 AI 가속기에 얼마나 빠르고 안정적으로 전달할 수 있는지가 AI 인프라의 핵심 경쟁력으로 떠오르고 있다.

이러한 변화에 대응하기 위해서는 단순히 메모리의 속도와 용량을 높이는 것만으로는 충분하지 않다. 메모리와 프로세서를 연결하는 구조부터 메모리 칩을 적층하는 방식, 데이터를 저장하는 셀 구조까지 메모리 아키텍처 전반을 새롭게 설계해야 한다.

삼성전자가 FMS 2026에서 공개한 zHBM, zNAND-O, V10 BV-NAND는 이러한 요구에 대응하기 위해 제안한 차세대 3D 메모리 기술이다. 각각의 기술은 AI 데이터센터와 온디바이스 AI 환경에서 발생하는 다양한 병목 현상을 해결하고, 더 높은 성능과 전력 효율을 구현하기 위한 새로운 방향을 제시한다.

AI 성능을 좌우하는 것은 연산만이 아니다… 데이터를 더 가까이 전달하는 ‘zHBM’

AI 반도체의 성능은 연산 능력만으로 결정되지 않는다. 아무리 뛰어난 프로세서라도 필요한 데이터를 제때 공급받지 못하면 전체 시스템의 성능은 제한될 수밖에 없다. AI 모델의 규모가 커질수록 메모리와 프로세서 사이에서 오가는 데이터가 급격히 늘어나면서, 두 장치 간 거리를 줄이는 기술의 중요성도 함께 커지고 있다.

삼성전자가 공개한 zHBM은 이러한 문제를 해결하기 위해 기존 HBM과 다른 구조를 제안했다. 기존에는 메모리를 AI 가속기(xPU) 옆에 배치했다면, zHBM은 메모리를 프로세서 상단에 직접 적층하는 구조를 적용했다. 데이터가 이동하는 거리가 짧아지면서 더 높은 대역폭과 향상된 전력 효율을 구현할 수 있는 것이 특징이다.

이를 위해 칩을 더욱 정밀하게 연결하는 하이브리드 구리 본딩(Hybrid Copper Bonding, HCB) 기술과 여러 장의 웨이퍼를 하나처럼 연결하는 멀티 웨이퍼 본딩(Multi-Wafer Bonding) 기술을 적용했다. 이를 통해 신호 전달 속도를 높이는 동시에 열 저항을 줄여 안정적인 구동 환경을 구현하도록 설계했다.

이러한 기술은 앞으로 초거대 AI 모델의 학습과 추론 성능을 높이고, AI 서비스의 응답성을 향상시키는 기반 기술로 활용될 것으로 기대된다.

AI가 기기 안으로 들어오는 시대… 온디바이스 AI를 위한 ‘zNAND-O’

AI 활용 방식도 변화하고 있다. 과거에는 대부분의 AI 연산을 클라우드 서버에서 처리했지만, 최근에는 스마트폰이나 PC와 같은 기기 안에서 AI 기능을 직접 실행하는 온디바이스 AI가 빠르게 확산되고 있다.

온디바이스 AI 환경에서는 제한된 공간 안에서도 높은 성능과 전력 효율을 구현할 수 있는 저장장치가 필요하다.

삼성전자가 공개한 zNAND-O는 이러한 요구를 반영한 차세대 낸드 솔루션이다. 여러 개의 V-낸드 칩을 TSV를 통해 수직 적층하는 3D 패키징 기술을 적용해 높은 저장 밀도와 데이터 로딩 대역폭을 구현하도록 설계됐다.

이를 통해 사용자는 AI 서비스에 필요한 기능을 클라우드 연결 없이 기기 안에서 모두 구현할 수 있다. 고사양 모델 사용 시에도, 데이터를 외부 서버로 보내지 않고 기기 내부에서 처리할 수 있어 개인 정보 보호 측면에서도 장점을 발휘한다.

더 높이 쌓고 더 많이 저장하다… 400단 시대를 연 ‘V10 BV-NAND’

AI 시대에는 저장해야 하는 데이터의 양도 빠르게 증가하고 있다. 같은 크기의 저장장치에서도 더 많은 데이터를 담기 위해서는 메모리 셀을 더욱 촘촘하게 쌓는 기술이 필요하다.

삼성전자가 공개한 10세대 V-낸드 ‘V10 BV-NAND’는 400단 이상의 초고적층 구조를 구현하며 이러한 방향성을 제시했다. 메모리 셀을 400층 이상 수직으로 쌓아 동일한 면적에서도 더 많은 데이터를 저장할 수 있도록 한 것이다.

이를 가능하게 한 핵심은 Bonding 구조이다. 기존에는 메모리 셀과 주변 회로를 하나의 웨이퍼에서 함께 제조했지만, V10 BV-NAND는 각각 별도의 웨이퍼에서 제작한 뒤 정밀하게 접합하는 방식을 적용했다. 이를 통해 적층 과정에서 발생할 수 있는 구조적 한계를 줄이고, 전 세대(V9) 대비 약 58% 높은 메모리 집적도를 구현했다. 또한, 주변 회로 제작에 적합한 공정 도입을 통해 동작 상에서의 전력 소비를 최소화하고 성능 향상을 꾀했다.

향후 V10 BV-NAND가 SSD 등 다양한 제품에 적용되면 더 얇고 가벼운 기기에서도 대용량 저장 공간을 제공할 수 있을 것으로 기대된다. 특히, 데이터센터에서는 동일한 공간에 더 많은 데이터를 저장하면서도 전력 소비와 발열을 줄여 운영 효율 향상에도 기여할 수 있다.

AI 시대 메모리의 경쟁력은 ‘더 가깝게, 그리고 수직으로’

이번 FMS 2026에서 삼성전자가 공개한 세 가지 기술은 각각 적용 분야는 다르지만 공통된 방향성을 갖고 있다. 메모리와 프로세서의 거리를 줄여 데이터 이동을 최소화하고, 제한된 공간에서도 저장 용량과 성능을 극대화하기위한 3차원의 Z축을 지향한다는 것이다.

AI 기술이 발전할수록 메모리는 단순한 저장장치를 넘어 컴퓨팅 성능을 결정하는 핵심 요소로 자리 잡고 있다. 삼성전자가 제시한 차세대 3D 메모리 기술은 AI 인프라부터 온디바이스 AI까지 다양한 컴퓨팅 환경에서 요구되는 새로운 메모리 아키텍처의 방향을 보여준다.

앞으로도 삼성전자는 메모리, 파운드리, 첨단 패키징 기술을 바탕으로 제품 설계부터 양산까지 아우르는 통합 역량을 지속적으로 고도화하며, AI 시대에 최적화된 차세대 반도체 기술 개발을 이어갈 계획이다.