최근 빅데이터 기반의 서비스가 확장되면서 메모리 성능에 대한 요구가 끝없이 늘어나고 있다. ‘반도Chat’ 시리즈 다섯 번째 이야기의 주제는 기존 메모리의 한계를 극복하고, 미래 메모리 기술 개발에 핵심이 될 새로운 인터페이스, ‘CXL’이다.

.

MAP 1. 빅데이터 시대 속 데이터 처리의 새로운 길

인공 지능, 머신 러닝 등의 기술 발전으로 처리해야 할 데이터양이 폭증하면서, 고성능 CPU는 빠른 데이터 처리를 위해 단일 칩에 점점 더 많은 코어(Core)를 통합하고 있다. 특히 AI 서비스를 위한 고성능 CPU에는 100개가 넘는 코어가 존재한다. 코어 수가 증가할수록 각 코어를 담당할 충분한 메모리가 필요한데, 현재 위와 같은 상황으로 인해 고속 인터페이스를 사용하고 용량 확장이 용이한 메모리 제품에 대한 수요가 급증하고 있다.

그러나 기존에 사용되어 온 DDR 인터페이스 기반의 D램은 한정된 범위 내에서만 용량을 확장할 수 있어 AI 서비스에 필요한 성능을 충족시키지 못했다.

이로 인해 기존 메모리 성능과 고성능 CPU 간에 격차가 생기면서 병목 현상이 발생하게 되었고, 이 한계를 넘어서기 위해서는 완전히 새로운 인터페이스가 필요했다. 그렇게 삼성전자 반도체는 ‘CXL’이라는 차세대 인터페이스를 메모리 설계에 도입하기 시작했다.

.

MAP 2. CXL이란 무엇인가?

빠르게 연결해서 연산한다’는 의미를 지닌 CXL(Compute Express Link)은 CPU, GPU, 스토리지 등의 다양한 장치를 효율적으로 묶어, 보다 빠른 연산 처리를 가능하게 하는 차세대 인터페이스다.

기존에는 각 장치마다 별도의 인터페이스가 존재해 서로 다른 인터페이스 간의 효율적인 연결이 어려웠으며, 각 장치 간 통신 시 다수의 인터페이스를 통과하는 과정에서 지연 현상이 발생했다.

반면 CXL은 다수의 장치를 하나의 인터페이스로 통합해 여러 장치가 한 번에 연결되게 함으로써 데이터 처리 속도를 높이고, 시스템 용량과 대역폭을 확장할 수 있는 기반을 제공한다. 이러한 획기적인 기술은 무수히 많은 양의 데이터가 막힘없이 효율적으로 오갈 수 있는 고속도로가 되어주고 있다.

.

MAP 3. CXL 기반 D램의 탄생

2021년, 삼성전자 반도체는 업계 최초로 CXL 기반 D램인 CMM-D를 개발했다. CMM-D에는 여러 가지 특성이 있는데, 가장 괄목할 특징 중 하나는 유연한 확장성이다. 기존의 데이터센터나 서버에서 외장형 저장 장치인 SSD(Solid State Drive)를 꽂던 자리에 그대로 꽂아 사용 가능하며, 이때 시스템 내 D램 용량을 TB급까지 확장할 수 있다. 서버를 교체하거나 서버 구조를 변경하지 않고도 용량을 손쉽게 확장할 수 있는 것이다.

또한, CMM-D는 다양한 대역폭에 대응할 수 있어 고속 데이터 처리가 가능하다. 이는 CXL이 PCIe(Peripheral Component Interconnect Express)를 기반으로 하는 인터페이스이기 때문이다. PCIe는 주로 컴퓨터의 다양한 하드웨어와 디바이스 간에 데이터를 전송하기 위한 연결 표준으로, 여러 개의 데이터 비트를 한 번에 전송하는 병렬 통신(Parallel Communication) 대신 한 번에 하나의 비트씩 데이터를 순차적으로 전송하는 직렬 통신(Serial Communication)을 사용한다.

한 번에 하나의 데이터 비트만 전송하지만, 높은 주파수의 신호를 사용하기 때문에 빠른 전송 속도를 자랑하며, 다양한 대역폭에도 효율적으로 대응한다. 또한 적은 수의 선으로 데이터를 전송하므로 신호 간 간섭이 적어 비교적 데이터 처리 과정이 매끄러우며 이로써 지연 현상도 최소화할 수 있다. 새로운 장치를 추가할 때 하나의 선만 연결하면 되기에 상대적으로 시스템을 확장하거나 변경하기에도 용이하다. CMM-D는 이러한 특성을 통해 메모리 관리의 유연성을 제공한다.

.

MAP 4. 유연성을 한층 더 높인 차세대 메모리 CMM-D

삼성전자 반도체는 CXL 기반 메모리 기술 개발의 첫 결과물인 CXL 1.1에 이어 2023년 5월에는 CXL 2.0을 지원하는 CMM-D를 선보였다. CXL 2.0은 이전 버전인 CXL 1.1에서 메모리 관리의 유연성을 획기적으로 향상한 것으로, 필요에 따라 메모리를 효과적으로 공유하고 확장할 수 있는 기능을 제공한다. 더불어 강력한 보안 기능까지 갖춘 D램으로, 이를 데이터센터에 적용하면 보다 효율적인 메모리 사용이 가능해져 결과적으로 서버 운영비 절감에도 기여할 수 있다.

.

MAP 5. 메모리 용량 확장에 숨은 기술

CXL 2.0만의 특성 구현에는 여러 기술이 기반이 되었는데, 특히 두 가지 기술이 용량 확장의 직접적인 토대가 되었다. 바로 메모리 풀링과 스위칭이다. CXL 2.0은 특히 메모리 풀링 기능을 세계 최초로 지원한다.

‘메모리 풀링(Pooling)’은 서버 플랫폼에서 여러 개의 CXL 메모리를 묶어 풀(Pool)을 만들고, 여러 호스트가 풀(Pool)을 공유하며 필요에 따라 메모리를 효과적으로 할당하고 해제하는 기술이다. 이를 통해 프로그램이나 작업에 필요한 메모리양에 따라 리소스를 효율적으로 관리할 수 있다.

예를 들면, 5명의 인원이 각각 1L의 물을 갖는 대신, 5명의 인원이 5L의 물을 공유함으로써 누군가 1L 이상의 물이 필요하더라도 옆 사람에게 별도로 요청하지 않고 바로 물을 사용할 수 있게 되는 것이다. 이로써 CXL 메모리의 전 용량을 유휴 영역 없이 사용할 수 있게 한다. 더불어 CXL 2.0은 스위칭 기능을 통해 프로세서, 가속기, 스토리지 등의 다양한 디바이스 간에 데이터를 효율적으로 전송하고 공유함으로써 메모리 리소스를 확장할 수 있다.

또한, CXL 2.0은 메모리 풀링과 스위칭 기능 외에도, 전원이 켜진 상태에서 장치를 연결하거나 분리할 수 있는 핫플러그 기능을 지원한다. 해당 기술 적용으로, 시스템을 재부팅 하지 않아도 디바이스를 추가하거나 교체할 수 있게 함으로써 편리성을 더했다.

.

MAP 6. CXL과 함께 만들어 갈 메모리의 미래

삼성전자 반도체는 CMM-D, CMM-DC, CMM-H, CMM-HC 등 CXL 인터페이스를 기반으로 한 다양한 메모리 제품군을 연이어 공개하며 CXL 기반 메모리 제품의 범용성을 높여가고 있다. 여기에서 한 걸음 더 나아가 고성능 컴퓨팅 플랫폼용 신규 인터페이스인 CXL을 적극 활용해, 메모리 대역폭과 용량을 원하는 만큼 확장하는 미래를 꿈꾸고 있다.

이러한 꿈을 실현하기 위해 CXL 기반 메모리 기술의 생태계 구축에도 앞장서 왔다. CXL 기반 메모리 개발 초기 단계부터 글로벌 주요 데이터센터, 서버, 칩셋(Chipset) 업체들과의 개발 협력을 진행해 왔으며, CXL 소프트웨어 도구인 SMDK(Scalable Memory Development Kit)를 오픈 소스로 공개했다. 이로써 메모리 업계뿐 아니라 대학교, 연구기관 등을 대상으로 차세대 메모리 기술 연구·개발에 대한 관심도를 높임으로써 차세대 메모리 기술의 탄생을 가속화하고 있다.

빅데이터 시대에서, 메모리의 한계점을 없앨 새로운 인터페이스 ‘CXL’에 대해 보다 자세하게 알고 싶다면 반썰어 ‘CXL’편을 참고하길 바란다.

The post [반도Chat Ep.5] 메모리 사용성을 유연하게 확장하는 새로운 인터페이스 ‘CXL’ first appeared on 삼성전자 반도체 뉴스룸.

AI, 챗봇, 메타버스, 클라우드 컴퓨팅 등 빅데이터를 활용한 기술이 연이어 등장하면서, 기하급수적으로 폭발하는 데이터를 효율적으로 처리할 수 있는 기능이 그 어느때보다 중요해지고 있습니다. 이렇게 많은 양의 데이터를 매끄럽게 처리하기 위해서는 더욱 효율적인 인터페이스가 필요한데요. 이를 해결해 줄 새로운 솔루션이 바로 ‘CXL(Compute Express Link)’입니다.

CXL은 각각의 인터페이스로 나누어져 있던 CPU, GPU, 메모리 스토리지 등의 컴퓨팅 시스템들을 효율적으로 묶어, 보다 빠른 연산 처리가 가능한 차세대 인터페이스입니다. 시스템 연산과 데이터 처리 속도를 높일 뿐 아니라 시스템 용량 확장까지 가능하다고 하니, ‘Compute Express Link’ 즉, ‘빠르게 연결해서 연산한다’는 이름에 걸맞지 않나요?

현재 삼성전자 반도체는 이 CXL 기술을 기반으로 한 DRAM을 선도적으로 만들어 가고 있는데요. 차세대 컴퓨팅 시장의 생태계를 구축하는 CXL에 대해 더 알아보고 싶다고요? 그렇다면 지금 바로 영상을 통해 확인해 보세요!

The post [반썰어 Ep.5] 범람하는 데이터 홍수 속, 데이터 처리의 길을 확장시켜 줄 차세대 인터페이스 ‘CXL’! first appeared on 삼성전자 반도체 뉴스룸.

삼성전자가 업계 최초로 CXL 2.0을 지원하는 128GB CXL D램을 개발했습니다.

*CXL(Compute Express Link, 컴퓨트 익스프레스 링크): 고성능 서버 시스템에서 CPU와 함께 사용되는 가속기, D램, 저장장치 등을 보다 효율적으로 활용하기 위한 차세대 인터페이스

삼성전자는 지난해 5월 세계 최초로 CXL 1.1 기반 CXL D램을 개발한데 이어, 1년 만에 CXL 2.0을 지원하는 128GB D램을 개발해 차세대 메모리의 상용화 시대를 앞당겼습니다.

이번 제품은 PCIe 5.0(x 8레인)을 지원하며, 최대 35GB/s의 대역폭을 제공합니다.

*PCIe(Peripheral Component Interconnect Express): 기존 SATA 전송 속도의 성능 한계를 극복한 고속 인터페이스 규격

삼성전자는 ‘CXL 2.0 D램’을 연내 양산할 계획이며, 차세대 컴퓨팅 시장 수요에 따라 다양한 용량의 제품도 적기에 선보여 CXL 생태계 확장을 가속화할 예정입니다.

CXL D램은 메인 D램과 공존하면서 대역폭과 용량을 확장할 수 있어 인공지능, 머신러닝 등 고속의 데이터 처리가 요구되는 차세대 컴퓨팅 시장에서 주목받고 있습니다.

삼성전자의 ‘CXL 2.0 D램’은 업계 최초로 ‘메모리 풀링(Pooling)’ 기능을 지원합니다.

‘메모리 풀링(Pooling)’은 서버 플랫폼에서 여러 개의 CXL 메모리를 묶어 풀(Pool)을 만들고, 여러 호스트가 풀(Pool)에서 메모리를 필요한 만큼 나누어 사용할 수 있는 기술입니다.

이 기술은 CXL 메모리의 전 용량을 유휴 영역 없이 사용할 수 있게 해줍니다.

고객이 이 기술을 데이터센터에 적용하면 보다 효율적인 메모리 사용이 가능해 서버 운영비를 절감할 수 있습니다.

또한 절감한 운영비를 서버의 메모리에 재투자하는 등 선순환 구조가 이어질 것으로 기대됩니다.

삼성전자 메모리사업부 신사업기획팀장 최장석 상무는 “삼성전자는 CXL 컨소시엄의 이사회(Board of Director, BoD) 멤버로서 CXL 기술을 선도하고 있다”라며, “데이터센터/서버/칩셋 등 글로벌 기업들과의 협력으로 CXL 생태계를 더욱 확장해 나갈 것”이라고 밝혔습니다.

인텔의 기술 이니셔티브 부문 책임자인 짐 파파스(Jim Pappas)는 “CXL 생태계 확대를 위해 삼성과 협력하게 되어 기쁘다”라며, “삼성과 지속 협력해 업계 전반에 걸쳐 혁신적인 CXL 제품의 성장과 채용이 확대될 수 있도록 힘쓸 것”이라고 밝혔습니다.

몬타지 테크놀로지(Montage Technology) 스테판 타이(Stephen Tai) 사장은 “몬타지는 CXL 2.0을 지원하는 컨트롤러를 업계 최초로 양산할 계획”이라며, “CXL 기술 발전과 생태계 확산을 위해 삼성전자와 적극적으로 협력해 나갈 것”이라고 말했습니다.

The post 삼성전자, 업계 최초 ‘CXL 2.0 D램’ 개발 first appeared on 삼성전자 반도체 뉴스룸.