어떤 질문이든 척척 답을 내어주는 ‘챗GPT’처럼, 삼성전자 반도체 뉴스룸은 ‘반도Chat’ 시리즈를 통해 어려운 반도체 용어도 단번에 쏙쏙 알기 쉽게 전하고 있다. 반도Chat 시리즈 세 번째 이야기 주제는 초거대 AI 기술 발전의 핵심인 메모리 반도체, ‘HBM’이다.

.

MAP 1. 메모리, 초거대 AI를 마주하다

초거대 AI란 딥러닝으로 대용량 데이터를 스스로 학습해 인간처럼 종합적 추론이 가능한 차세대 AI를 말한다. 챗GPT가 인간과 유사한 수준으로 질문에 적절하게 응답하는 것도 파라미터(parameter, 매개 변수)가 1,750억 개에 달하는 수많은 데이터를 학습한 언어모델이기 때문이다.

‘챗GPT’, ‘DALL·E’, ‘Bard’의 등장과 같이 AI 서비스 종류가 다양해지고 고도화될수록, 메모리 반도체가 수행해야 할 역할도 더욱 확장되고 있다. AI 서비스를 원활하게 구현하려면 대량의 데이터를 기반으로 여러 연산을 동시에 빠르게 수행하는 능력이 필요하기 때문이다.

이러한 상황에서 반도체 업계는 ‘AI 서비스와 함께 폭발적으로 증가하는 데이터를 어떻게 효율적이고, 빠르게 처리할 것인가’에 대한 해답을 찾게 된다. 차원이 다른 고성능 기술을 제공하는 AI 시대의 핵심 반도체, ‘HBM’이 바로 그것이다.

.

MAP 2. HBM이란 무엇인가

HBM(High Bandwidth Memory)은 이름 그대로 넓은 대역폭을 지닌 메모리를 뜻한다. 여기서 ‘대역폭’이란 주어진 시간 내에 데이터를 전송하는 속도나 처리량, 즉 데이터 운반 능력을 의미한다. HBM은 현재 메모리 시장에서 가장 넓은 대역폭을 지닌 메모리 반도체인데, 간단히 이야기하면 메모리 중 데이터를 가장 빠르게 처리하고 전송할 수 있다는 것이다. 이로써 HBM은 응용처의 성능과 전력 효율 향상에 기여할 수 있게 된다.

.

MAP 3. 처리 속도, 전력 효율 모두 잡은 HBM 속 숨은 기술

주로 게임이나 그래픽 작업과 같은 고성능 그래픽 분야에 활용되는 GDDR은 비교적 낮은 비용으로 높은 성능과 용량을 제공할 수 있다. 한편, HBM은 GDDR 대비 상대적으로 제조 과정이 복잡하고 비용이 높을 수 있지만, 더 높은 에너지 효율을 기반으로 HPC·AI 응용 수준의 높은 대역폭을 제공할 수 있다.

이는 HBM에 TSV(Through Silicon Via)라는 기술이 적용됐기 때문이다. TSV는 메모리 칩을 수직으로 쌓고, 적층된 칩 사이에 얇은 금속 터널을 만들어 전기적 신호가 칩 간 직접 전달되게 하는 패키징 기술이다. 이로써 데이터 전송 속도의 지연을 최소화하고, 적은 전력으로 많은 양의 데이터를 처리할 수 있게 된다. 한편, HBM에는 CoW(Chip on Wafer)  기술과 TCB(Thermal Compression Bonding) 기술도 적용되었다. CoW는 이름 그대로 웨이퍼 위에 칩을 붙이는 기술을 의미하며, TCB는 TSV가 적용된 얇은 칩이 전기적으로 연결될 수 있게 정밀하게 쌓아 올리는 패키징 기술을 말한다.

.

MAP 4. 초거대 AI 시대 속, 기술 발전의 씨앗이 될 메모리 반도체

삼성전자 반도체는 2016년에 업계 최초로 HPC 향 HBM 사업화를 시작하며, AI 메모리 시장을 개척해 왔다. 이를 이어, 2017년 업계 최초로 8단 적층 HBM2를 상용화하며, 당시 가장 빠른 메모리인 GDDR5 대비 8배 빠른 속도를 제공했다. 이후 HBM2E, HBM3를 개발했고, 2023년 10월에는 ‘HBM3E 샤인볼트’를 공개하기에 이르렀다.

HBM3E D램 ‘샤인볼트’는 데이터 입출력 핀 1개당 최대 9.8Gbps의 고성능을 제공하는데, 이는 현재 존재하는 메모리 반도체 중 가장 빠른 수준이다. 1초에 최대 1.2TB(테라바이트) 이상의 데이터를 처리할 수 있음을 의미하며, 더 쉽게 예를 들면 30GB 용량의 UHD 영화 40편을 1초 만에 처리하는 것과 같다.

.

MAP 5. 메모리의 무한한 가능성을 위한 차세대 기술

삼성전자 반도체는 웨이퍼를 제조하고 회로를 만드는 전공정뿐 아니라, 완성된 칩에 데이터 이동과 전기 전달을 가능하게 하고, 외부 환경으로부터 보호하는 패키징 공정도 지속 개발 중이다. 현세대 제품에서 칩 적층 시 적용 중인 NCF(Non-conductive Film, 비전도성 접착 필름)와 차세대 제품 적용을 목표로 개발 중인 HCB(Hybrid Copper Bonding, 하이브리드 접합) 기술이 바로 그것이다.

NCF는 적층된 칩 사이를 절연시키고 충격으로부터 연결 부위를 보호하기 위해 사용하는 고분자 물질이다. NCF를 활용하면 열전도를 극대화하고 열 특성을 개선할 수 있다. 한편 HCB 기술은 칩을 접합할 때 ‘범프’라는 매개체를 없애고, 각 칩 표면에 드러난 구리를 직접 연결한다. 이로써 범프를 사용할 때보다 칩 적층 시 안정성을 향상하고, 열성능을 최적화할 수 있을 것으로 기대된다.

머지않은 미래에는 AI에 특화된 기술과 제품이 시장을 주도할 중요한 역할을 할 것이다. 최근 HBM3E D램 ‘샤인볼트’를 공개한 삼성전자 반도체는 앞으로도 최고 성능의 HBM을 제공하고, 고객 맞춤형 HBM 제품까지 확장하여 AI 시대에 최상의 솔루션을 제공할 계획이다.

AI 서비스의 가능성을 확장할 메모리 반도체, ‘HBM’에 대해 보다 자세하게 알고 싶다면 삼반뉴스 ‘AI 반도체’ 편을 참고하길 바란다.

The post [반도Chat Ep.3] 초거대 AI 시대를 이끌 메모리 반도체 ‘HBM’ first appeared on 삼성전자 반도체 뉴스룸.

.

지속가능한 미래를 향한 삼성전자의 차세대 반도체 기술

삼성전자 반도체 부스는 크게 최첨단 반도체 기술의 정수를 보여 주는 Tech Zone, 경영 및 인재 운영 철학을 소개하는 People Zone, 지속가능경영 활동의 성과를 확인할 수 있는 Sustainability Zone 그리고 반도체 전문가와 업계 기술 트렌드에 대해 소통할 수 있는 Live Zone의 네 공간으로 이루어졌다.

Tech Zone 입구에 들어서자 실물 크기의 자동차 모형이 관람객의 시선을 사로잡았다. 차량 내부에는 LPDDR5X, Auto Processor V920, ADAS SoC 등 다양한 차량용 반도체 솔루션이 배치되어 있었는데, 이를 통해 삼성전자 반도체의 폭넓은 전장향 포트폴리오를 확인할 수 있었다.

이어 내부로 들어가자 ‘삼성 메모리 테크 데이 2023’에서 최초 공개된 HBM3E(High Bandwidth Memory) D램 ‘샤인볼트(Shinebolt)’를 직접 확인할 수 있었다. ‘샤인볼트’는 AI 기술 혁신을 이끌 초고성능 HBM으로 데이터 입출력 핀 1개당 최대 9.8Gbps의 성능을 제공하는데, 이를 통해 30GB 용량의 UHD 영화 40편을 1초 만에 처리할 수 있다.

이 외에도 업계 최대 용량의 DDR5 32Gb, 고성능 컴퓨팅 플랫폼용 신규 인터페이스 제품군인 CMM(CXL Memory Module)도 함께 만날 수 있었다. AI 시대를 겨냥한 제품들이 준비된 해당 부스에서는, ‘선행적 AI’로 더 나은 미래를 창조하겠다는 삼성전자 반도체의 목표 의식과 차세대 기술력이 돋보여 많은 관람객들의 흥미를 일으켰다.

메모리 제품 외에도 고성능 게임 유저를 위한 차세대 모바일 프로세서, 업계 최선단 3나노 GAA 구조 기술을 선보인 Foundry/AVP 부스 등 시스템LSI와 파운드리의 최첨단 기술과 반도체 제품들도 전시되어 각양각색의 솔루션을 확인할 수 있었다.

SSD Station 부스에서는 관람객이 메모리 제품을 직접 만져 보고, 구매까지 가능한 자리가 마련되었다. 이달 초 신규 출시된 초고속 포터블 SSD ‘T9’을 포함해 삼성전자의 브랜드 메모리 제품을 특별한 가격에 만나 볼 수 있어 현장의 열기가 뜨거웠다.

각 전시존에는 제품의 세부 정보를 확인하고, 이벤트 참여 스탬프를 적립할 수 있게 만든 QR 코드가 있어 사람들의 발길을 사로잡았다. 해당 QR코드를 스캔하면 전시된 제품과 기술에 대한 정보를 손쉽게 접할 수 있었다. 또한 경품 참여의 기회까지 얻을 수 있어 관람객의 참여와 흥미를 유발했다.

.

반도체 생태계를 견인하여 새로운 미래로 연결하다

부스 중심부에 위치한 Sustainability Zone에서는 패턴 웨이퍼 지원, 소부장 컨설팅 등 반도체 공급망 생태계 강화를 위한 삼성전자 반도체의 활동과, 프로그램의 수혜자가 직접 들려주는 생생한 이야기도 들어 볼 수 있었다. 또한, 지속가능한 미래를 위한 삼성전자의 여정을 압도적인 스케일의 영상으로 만나 볼 수 있는 코너에 관람객들의 발걸음이 이어졌다.

.

‘인간형 반도체’, 인류를 위한 삼성전자 반도체의 미래 기술

26일에는 시스템LSI사업부 박용인 사장의 ‘AI 시대, 인간을 이롭게 하는 반도체’를 주제로 한 키노트 스피치를 만나 볼 수 있었다. 박용인 사장은 “현재 AI는 클라우드 서버 형태로 주로 구현되고 있으며, 클라우드의 TCO(Total Cost of Ownership) 요구와 개인 맞춤 서비스 요구로 최근 온디바이스 AI(On-device AI)가 최적화된 솔루션으로 제시되고 있다. 향후에는 스스로 의사결정할 수 있는 선행적 AI(Proactive AI)로 그 모습과 활용이 확장될 것이다”라고 말하며 “삼성전자 반도체는 최고 성능의 SoC, 지역 간 경계를 허물 UWB 기술 및 비지상 네트워크(NTN)와 같은 통신기술 그리고 인간의 오감을 모방한 ‘인간형 반도체’ 구현과 플랫폼 제공을 통해 인간의 삶을 이롭게 만들 것”이란 비전을 제시했다.

.

‘세상을 변화시킬 반도체 기술과 열정’을 공유한 Live Talk

이 외에도 3일 동안 삼성전자 반도체 임직원과 외부 인사가 진행하는 다양한 주제의 강연이 진행되어 반도체 업계에 취업을 희망하는 학생과 업계 관계자들의 발걸음이 이어졌다.

행사 첫날(25일)에는 메모리사업부 상품기획팀 조현덕 상무가 ‘The Leap into the Future’라는 주제로 라이브 토크의 문을 열었다. 해당 강연에서는 메모리 반도체의 주요 응용처인 클라우드, 에지 디바이스(Edge Devices), 오토모티브 영역에서 메모리 솔루션 트렌드의 변화와 관련 전략이 소개됐다.

이후 SAIT 김동욱 프로의 ‘혁신 기술과 협력을 통한 삼성 반도체의 탄소 저감 노력’ 세션이 진행되었다. 김동욱 프로는 공정 가스 처리 효율 극대화, 재생 에너지 사용, 저전력 반도체 제품 개발 등 삼성전자의 넷제로(Net Zero) 달성 전략에 대해 알기 쉽게 소개했다.

마지막 라이브 토크 세션을 담당한 메모리사업부 D램설계팀 손교민 마스터는 ‘Near Memory Tech Trends’를 주제로 생성형 AI, XR과 같은 새로운 애플리케이션 등장과 함께 Computing Trend가 변화하는 이유를 설명했다. 생성형 AI에 대한 관심이 뜨거운 만큼, 세 번째 강연은 특히 관람객의 높은 주목을 받았다.

이번 ‘SEDEX 2023’에서 삼성전자 반도체는 AI 시대에 필요한 차세대 반도체 기술과 함께 업계 동반 성장을 추구하는 지속가능경영 활동을 선보이며 많은 관람객의 관심을 모았다. 업계를 주도하며 새로운 혁신을 만들어 가는 삼성전자 반도체. 10월 27일까지 진행되는 이번 행사에서는 삼성전자 반도체의 다양한 프로그램들이 예정되어 있으니 많은 관심을 부탁드린다.

The post [SEDEX 2023] 삼성전자 반도체가 연결하는 새로운 미래! AI 반도체 기술로 혁신을 더 가까이 first appeared on 삼성전자 반도체 뉴스룸.

지난 10월 20일(현지 시각), 미국 캘리포니아 실리콘밸리가 들썩이기 시작했다. 메모리 반도체 시장 트렌드와 최신 기술력이 모여있는 ‘삼성 메모리 테크 데이 2023’ 현장을 방문하기 위함이다.

‘메모리 역할의 재정의(Memory Reimagined)’라는 주제로 진행된 이번 행사에서는 최초로 공개되는 HBM3E D램 ‘샤인볼트’ 제품을 포함, 다양한 응용처별 차세대 메모리 기술력을 선보였다. 초거대 AI 시대를 대비하는 삼성전자 반도체만의 차별화된 메모리 솔루션은 무엇일까? 영상을 통해 그 무한한 가능성을 확인해보자.

The post 초거대 AI 시대를 맞이하는 법! ‘삼성 메모리 테크 데이 2023’에서 선보인 차세대 메모리 솔루션 first appeared on 삼성전자 반도체 뉴스룸.

삼성전자가 20일(현지시간) 미국 실리콘밸리에 위치한 맥에너리 컨벤션 센터(McEnery Convention Center)에서 ‘삼성 메모리 테크 데이(Samsung Memory Tech Day) 2023’을 개최하고, 초거대 AI 시대를 주도할 차세대 메모리 솔루션을 대거 공개했다.

‘메모리 역할의 재정의(Memory Reimagined)’라는 주제로 열린 이번 행사는 글로벌 IT 고객과 파트너, 애널리스트 등 600여 명이 참석한 가운데 삼성전자 메모리사업부 이정배 사장, 미주총괄 짐 엘리엇(Jim Elliott) 부사장, 업계 주요 인사 등이 반도체 시장의 트렌드와 주요 제품을 소개했다.

삼성전자는 이날 클라우드(Cloud), 에지 디바이스(Edge Devices), 차량(Automotive) 등 응용처별 기술 트렌드를 공유하고 ▲ AI 기술 혁신을 이끌 초고성능 HBM3E D램 ‘샤인볼트(Shinebolt)’ ▲차세대 PC·노트북 D램 시장의 판도를 바꿀 ‘LPDDR5X CAMM2’ ▲스토리지 가상화를 통해 분할 사용이 가능한 ‘Detachable AutoSSD(탈부착 가능한 차량용 SSD)’ 등 차별화된 메모리 솔루션을 공개했다.

* 에지 디바이스: 데이터를 생성, 활용, 소비하는 모든 기기를 뜻함(스마트폰을 포함한 모바일 기기, 웨어러블, 센서를 활용한 사물인터넷 기기, 생활 가전, 사무용 전자기기 등을 포함)
* HBM3E: 삼성전자의 5세대 HBM D램 제품
* CAMM: LPDDR 패키지 기반 모듈 제품

삼성전자 메모리사업부 이정배 사장은 “초거대 AI 시대는 기술 혁신과 성장의 기회가 교차하는 지점으로, 업계에 더 큰 도약과 함께 도전의 시간이 될 것”이라며, “무한한 상상력과 담대한 도전을 통해 혁신을 이끌고, 고객·파트너와의 밀접한 협력으로 한계를 뛰어넘는 확장된 솔루션을 제공해 메모리 시장을 지속 선도해 나갈 것”이라고 밝혔다.

또한 이정배 사장은 이날 행사에서 새로운 구조와 소재 도입을 통해 초거대 AI 시대에서 직면한 난제를 극복해 나가겠다고 강조했다.

지난 5월 12나노급 D램 양산을 시작한 삼성전자는 차세대 11나노급 D램도 업계 최대 수준의 집적도를 목표로 개발 중이라고 밝혔다.

삼성전자는 10나노 이하 D램에서 3D 신구조 도입을 준비하고 있으며, 이를 통해 단일 칩에서 100Gb(기가비트) 이상으로 용량을 확장할 계획이다.

삼성전자는 9세대 V낸드에서 더블 스택(Double Stack) 구조로 구현할 수 있는 최고 단수를 개발 중이며, 내년 초 양산을 위한 동작 칩을 성공적으로 확보했다고 밝혔다.

삼성전자는 셀의 평면적과 높이를 감소시켜 체적을 줄이고, 단수를 높이는 핵심 기술인 채널 홀 에칭으로 1,000단 V낸드 시대를 준비해 나가겠다고 강조했다.

* 채널 홀 에칭(Channel Hole Etching): 적층된 셀층에 미세한 원통형 구멍을 뚫어 전자가 이동할 수 있는 채널 홀을 형성하는 건식 식각(드라이 에칭) 기술
* 더블 스택(Double Stack): ‘채널 홀’ 공정을 두 번 진행해 만든 구조

.

☐ AI 기술 혁신을 이끌 초고성능 HBM3E D램 ‘샤인볼트(Shinebolt)’

클라우드 시스템은 컴퓨팅 자원을 최적화해 사용할 수 있는 구조로 변화하고 있다. 이에 따라 시스템의 고성능화를 지원할 수 있는 고대역폭, 저전력 메모리와 다중 접속을 위한 스토리지 가상화 등이 요구되고 있다.

2016년 업계 최초로 고성능 컴퓨팅(HPC)용 HBM2를 상용화하며 HBM 시대를 연 삼성전자는 이번에 차세대 HBM3E D램 ‘샤인볼트(Shinebolt)’를 처음 공개했다.

‘샤인볼트’는 데이터 입출력 핀 1개당 최대 9.8Gbps의 고성능을 제공하며, 이는 초당 최대 1.2TB 이상의 데이터를 처리할 수 있는 속도이다.

* 1.2TB는 30GB 용량의 UHD 영화 40편을 1초 만에 처리할 수 있는 속도

삼성전자는 NCF(Non-conductive Film) 기술 최적화를 통해 칩 사이를 빈틈없이 채워 고단 적층을 구현했으며, 열전도를 극대화해 열 특성을 또한 개선했다.

* NCF(Non-conductive Film, 비전도성 접착 필름): 적층된 칩 사이를 절연시키고 충격으로부터 연결 부위를 보호하기 위해 사용하는 고분자 물질

삼성전자는 현재 HBM3 8단, 12단 제품을 양산 중이며, 차세대 제품인 HBM3E도 고객들에게 샘플을 전달하고 있다고 밝혔다.

또한 차세대 HBM D램과 최첨단 패키지 기술, 파운드리까지 결합된 맞춤형 턴키 서비스도 제공할 예정이다.

이외에도 ▲현존 최대 용량 ’32Gb DDR5(Double Data Rate) D램’▲업계 최초 ’32Gbps GDDR7(Graphics Double Data Rate) D램’ ▲저장 용량을 획기적으로 향상시켜 최소한의 서버로 방대한 데이터를 처리할 수 있는 ‘PBSSD(Petabyte Storage)’ 등을 소개했다.

.

☐ 고성능·저전력과 다양한 폼팩터로 에지 디바이스 혁신 주도

최근 AI 기술은 폭증하는 데이터를 원활하게 처리하기 위해 클라우드와 에지 디바이스 간에 워크로드를 분산, 조정하는 하이브리드 형태로 발전하고 있다.

삼성전자는 사용자 기기단에서 고성능·고용량·저전력·작은 폼팩터 등을 지원하는 솔루션을 공개했다.

특히 업계 최초로 개발한 7.5Gbps LPDDR5X CAMM2(Compression Attached Memory Module)은 차세대 PC·노트북 D램 시장의 판도를 바꿀 제품으로 참석자들의 이목을 집중시켰다.

이외에도 ▲9.6Gbps LPDDR5X D램 ▲온디바이스 AI(On-Device AI)에 특화된 LLW(Low Latency Wide I/O) D램 ▲차세대 UFS 제품 ▲PC용 고용량 QLC SSD BM9C1 등을 공개했다.

.

☐ 2025년 전장 메모리 시장 1위 달성을 위한 차량용 핵심 솔루션 공개

자율 주행 시스템의 고도화에 따라 차량용 메모리 시장에서는 고대역폭, 고용량 D램과 여러 개의 SoC(System on Chip)와 데이터를 공유할 수 있는 Shared SSD 등이 요구되고 있다.

삼성전자는 스토리지 가상화를 통해 하나의 SSD를 분할해 여러 개의 SoC가 사용할 수 있는 ‘Detachable AutoSSD(탈부착 가능한 차량용 SSD)’를 공개했다.

이 제품은 최대 6,500MB/s의 연속 읽기 속도를 지원하며, 4TB 용량을 제공한다. 또한 탈부착이 가능한 폼팩터로 구현돼 손쉽게 SSD를 교체할 수 있어 성능 업그레이드 등이 용이한 제품이다.

삼성전자는 이외에도 차량용 ▲고대역폭 GDDR7 ▲패키지 크기를 줄인 LPDDR5X 등을 선보였으며, 최적의 메모리 솔루션을 통해 모빌리티 혁신에 기여하겠다고 밝혔다.

한편 삼성전자는 데이터센터 내 에너지 효율성을 높여 환경 영향을 최소화하려는 시장 트렌드에 맞춰 다양한 혁신 기술을 발표했다.

삼성전자는 초저전력 기술 확보를 통해 데이터센터, PC/모바일 기기 등에서 사용되는 메모리의 전력 소비량을 절감하고, 포터블 SSD 내 재활용 소재 적용 등을 통해 탄소를 저감할 계획이다.

또한 PBSSD 등 차세대 솔루션으로 서버 시스템의 공간 효율성과 랙 용량을 증대시켜 고객의 에너지 절감에 기여하겠다고 밝혔다.

* 랙(Rack): 서버, 통신 장비 등 시스템을 구성하는 장비들을 보관하는 프레임

삼성전자는 전 반도체 공급망 내에서 고객, 협력사 등 이해관계자와의 협력을 강조하며, 기술을 지속 가능하게 하는 기술을 통해 글로벌 기후위기 극복에 적극 동참하겠다고 밝혔다.

The post 삼성전자, 미국 실리콘밸리서 ‘삼성 메모리 테크 데이 2023’ 개최 first appeared on 삼성전자 반도체 뉴스룸.