AI 시대를 이끌 차세대 D램, ‘CXL 메모리’의 모든 것

디지털 전환이 가속화되며 AI 기술에 대한 수요도 증가하고 있습니다. AI 기술은 자동차, 금융, 헬스케어, 교육 등 주요 산업과 접목해 자율주행차, 챗봇 등의 서비스에 적용되고 있는데요. 이처럼 다양한 영역에서 AI 기술이 적용되면서, AI 데이터 처리량은 1년에 10배 가량 증가하는 추세 에 이르렀는데요. 이에 따라 기존의 컴퓨팅 성능은 한계에 봉착하게 되었습니다. 특히, 현재 서버 시스템에서 CPU 당 꽂을 수 있는 D램 모듈은 오직 16개, 최대 8TB 용량으로 급증하는 데이터를 처리하기엔 역부족인 상황에 이르렀습니다.

이러한 상황과 맞물려, 다가오는 AI 시대에는 고속 인터페이스를 사용하고 용량 확장이 가능한 메모리 개발이 화두로 떠오르고 있습니다. 그 중, 메모리에 AI 프로세서 기능을 탑재한 PIM(Processing-in-Memory), Computing Storage 등과 함께 CXL(Compute Express Link) 기반 D램 모듈이 차세대 메모리 솔루션으로 주목받고 있습니다.

CXL, 메모리 용량 한계와 서버의 유연성을 ‘확장’하는 인터페이스

기존 메모리의 한계를 극복하는 차세대 메모리, CXL 메모리가 주목받는 이유는 바로 ‘확장성’ 때문입니다. CXL은 컴퓨팅 시스템에서 중앙처리장치(CPU)와 메모리, 그래픽 처리장치(GPU), 저장장치 등을 보다 효율적으로 활용하기 위한 새로운 인터페이스입니다. 기존에는 CPU를 중심으로 메모리와 저장 장치 등 각 장치에 별도 인터페이스가 존재했는데요. 각 장치 간 통신을 할 때 다수의 인터페이스를 통과하는 과정에서 지연 문제가 발생했습니다. 특히 AI, 머신러닝 등 데이터 처리량이 폭발적으로 증가하며 이러한 지연 문제는 더욱 심화됐습니다.

CXL은 PCIe 5.0에 적용되는 차세대 인터페이스의 일환으로 기존의 여러 인터페이스를 하나로 통합해 각 장치를 직접 연결하고 메모리를 공유하게 하는 핵심기술을 갖추고 있습니다. 이를 통해 기존에 제한적이었던 데이터 처리 길(pathway)을 빠르고, 효율적으로 확장했다는 점에서 차세대 메모리 솔루션을 위한 인터페이스로 주목받고 있습니다.

획기적인 용량부터 데이터 처리, 지연 현상 최소화까지… CXL 메모리의 가능성

삼성전자는 지난해 5월 CXL 기반의 소프트웨어 개발 솔루션인 ‘CXL 메모리 익스팬더(CXL Memory Expander)’를 업계 최초로 출시하며 CXL 메모리 솔루션을 본격적으로 알리기 시작했습니다.

CXL의 대표적인 장점 중 첫 번째는 바로 ‘획기적인 용량 확장’입니다. 외장형 저장 장치인 SSD(Solid State Drive)와 유사한 형태인 ‘CXL 메모리 익스팬더’는 실제로도 SSD를 꽂는 자리에 장착 시 D램 용량을 확장할 수 있습니다. 기존 서버 구조를 통째로 바꾸거나 교체하지 않고도 인터페이스 개선만으로 시스템 내 D램 용량을 늘릴 수 있는 셈이죠.

두 번째로 ‘효율적인 데이터 처리’도 가능합니다. 고대역폭을 획기적으로 확장, 서로 다른 기종의 메모리 공유가 가능해 효과적으로 자원을 활용할 수 있기 때문입니다. 즉, 공용 메모리 공간을 공유함으로써 가속기의 메모리를 메인 메모리처럼 쓸 수 있고, 자체 메모리가 없는 장치는 메인 메모리를 끌어다 쓸 수 있습니다.

뿐만 아니라 데이터 처리량의 증가로 심화된 ‘지연 현상 최소화’에도 기여합니다. 가속기와 CPU가 함께 활용돼 시스템 연산 속도를 활성화 시킴으로써, 데이터 처리 속도가 훨씬 매끄럽고 빨라지기 때문입니다.

빠르게 다가오는 AI 시대. 삼성전자는 CXL 메모리 하드웨어뿐만 아니라 소프트웨어 솔루션인 ‘SMDK(Scalable Memory Development Kit)’까지 차례로 선보이며 CXL 생태계 확대를 돕고, 진화하는 데이터 처리 환경에 적합한 차세대 메모리를 통해 시장을 선도해 나갈 예정입니다.