Behind the CHIP
삼성전자 반도체 뉴스룸에서 새롭게 진행하는 ‘Behind the CHIP’ 시리즈.
이번 시리즈는 9월부터 내년 1월까지 총 10회에 걸쳐 연재되며, 
5명의 IT/테크/지식 콘텐츠 전문 인플루언서가 직접 칼럼을 통해 반도체 생태계와
미래 산업을 통찰하는 흥미진진한 이야기를 전한다.
우리 일상과 밀접하게 맞닿아 있는 기술 트렌드를 인플루언서의 시선을 통해 알아보자.

인공지능(AI) 기술이 우리의 일상과 산업 전반에 큰 변화를 일으키고 있는 가운데 이 혁신의 중심에는 반도체 기술이 핵심으로 자리 잡고 있다. AI 연산을 최적화해 성능과 효율성을 극대화하는 데 반도체가 필수적인 요소이기 때문! 우리의 일상 속, 인공지능의 영향력이 커지는 만큼, 그 중심에 있는 AI 전용 반도체의 특징과 일반 CPU와의 차이점, 그리고 AI 학습과 추론 과정에서 반도체의 역할에 대해 자세히 알아보도록 하자.

AI 전용 반도체의 특징과 일반 CPU와의 차이점

CPU는 범용 프로세서로 다양한 작업을 처리할 수 있도록 설계되었지만, AI 연산은 주로 대규모 병렬 연산을 필요로 하기 때문에 AI 작업에는 비효율적이다. 이러한 한계를 보완하기 위해 만들어진 것이 바로 AI 전용 반도체인 NPU이다.

NPU는 AI 연산을 최적화한 프로세서로, 일반적인 중앙처리장치(CPU)와는 근본적으로 다른 설계와 기능을 가지고 있다. 인공 신경망 연산을 고속으로 처리할 수 있도록 설계되어 초당 1.9조 개의 연산(TOPS, Tera Operations Per Second)을 수행할 수 있음은 물론, 일반 CPU와 비교할 때 더 많은 병렬 처리 유닛을 가지고 있어 대량의 데이터를 동시에 처리할 수 있다.

이에 따라 AI 알고리즘의 실시간 처리가 가능해지며, 전력 효율성도 높아 실시간 AI 추론 작업을 처리하는 데 유용하다. 예를 들어, 삼성전자의 모바일 프로세서 ‘엑시노스’에 내장된 NPU는 이미지 인식과 품질 향상, 음성 인식 등의 AI 작업을 처리하는 데 활용되고 있다. 순차적인 명령을 실행하는 데 적합한 CPU와 데이터 중심의 구조로 설계되어 병렬 처리를 통해 대량의 데이터를 동시에 처리하는 NPU의 구조적 차이는 AI 연산의 속도와 효율성에 큰 영향을 미친다.

.

AI 반도체의 핵심: GPU와 NPU

병렬식 구조의 반도체 중에서 NPU보다 선행된 것이 바로 GPU(Graphics Processing Unit)이다. 1990년대 중반부터 본격적으로 개발되기 시작한 GPU는 처음에는 주로 그래픽 렌더링 작업을 가속화하기 위해 설계되었지만, 그래픽 연산뿐만 아니라 벡터와 행렬 연산에도 뛰어난 성능을 발휘하면서 병렬 처리의 가능성을 보여주게 되었다. 이후 2000년대 후반부터 AI 및 병렬 처리 활용에 적극적으로 사용되기 시작해 최근 인공지능 붐과 함께, GPU의 부가가치는 더욱 높아졌다. 대표적으로 엔비디아의 A100 GPU는 약 542억 개의 트랜지스터를 가지고 있으며, 정밀도와 유형에 따라 조금씩 차이가 있지만 초당 624 테라플롭스의 성능을 제공한다. 이러한 성능은 복잡한 신경망 모델을 빠르게 훈련시키고 추론하는 데 큰 도움이 되기 때문에 데이터센터와 클라우드 환경에서 대규모 딥러닝 모델의 학습에 사용되고 있다. 반면 NPU는 AI와 딥러닝의 발전에 맞추어 등장한 최근 기술로, 스마트폰, 태블릿, IoT 디바이스 등 엣지 디바이스에서 실시간 AI 추론 작업을 처리하는 데 사용된다.

그렇다면 GPU와 NPU 중 AI 반도체에서 우위를 따진다면 어떤 것이 더 우선적일까?

GPU와 NPU 엄밀히 따지면 그 역할에 조금씩 차이가 있다. GPU는 대규모 데이터셋을 사용한 모델 학습에 강점을 가지고 있으며, NPU는 학습된 모델을 바탕으로 실시간 추론 작업을 수행하는 데 최적화되어 있다. 그 때문에 두 반도체는 AI 작업에서 상호 보완적인 역할을 한다. 이처럼 AI 전용 반도체는 AI 연산을 위한 최적화된 설계와 구조를 통해 일반 CPU보다 뛰어난 성능과 효율성을 제공하며 앞으로 그 중요성은 점점 더 부각될 것으로 예측된다.

.

AI 시스템의 학습과 추론 과정에서 반도체의 역할은?

AI 시스템에서 반도체의 역할이 중요한 이유는 AI 시스템이 제대로 작동하기 위해 반드시 학습(Training)과 추론(Inference)이라는 두 가지 주요 과정을 거치기 때문이다.

학습 과정

AI 시스템의 학습 과정에서는 대량의 데이터를 사용해 AI 모델이 스스로 규칙과 패턴을 익혀야 한다. 예를 들어, 이미지 인식 AI 모델을 학습시키기 위해 수백만 장의 이미지를 모델에 입력하고, 각 이미지가 무엇을 나타내는지(예: 고양이, 개, 자동차 등)를 알려준다. 이 과정은 매우 많은 연산이 필요하며, 이때 중요한 역할을 하는 것이 바로 GPU이다.

추론 과정

반면 추론 과정에서는 학습된 AI 모델을 사용해 새로운 데이터를 분석하고 예측한다. 이는 학습한 내용을 실제로 적용하는 단계로, 예를 들어, 모델이 새로운 사진을 보고 그것이 고양이인지 개인지 판단하는 과정이다. 여기서 주목할 만한 것이 바로 NPU이다. NPU는 특히 추론 과정에서 빠른 반응 속도와 높은 에너지 효율성을 제공하기 때문에 실시간 데이터 처리를 할 수 있게 도와준다.

그러나 AI 연산에서 반도체의 역할이 중요해진 이유는 단순히 연산 속도를 높이는 것뿐만 아니라, 에너지 효율성을 극대화하는 것도 포함한다. AI 모델은 갈수록 복잡해지고, 처리해야 할 데이터가 증가함에 따라 연산량도 기하급수적으로 늘어나게 될 것이다. 이에 따라 전력 소모량이 매우 높아지는데, 이때 효율적인 반도체 설계는 AI 시스템의 성능을 높이는 동시에 에너지 소비를 줄이는 데 핵심적인 역할을 하게 된다.

.

엣지 AI를 위한 저전력 고성능 반도체 기술

엣지 AI는 데이터를 클라우드로 전송하지 않고 디바이스 자체에서 처리하는 기술을 의미한다. 데이터가 로컬에서 처리되기 때문에, 데이터 유출의 위험이 줄어들고 프라이버시가 강화된다는 장점이 있다. 엣지 AI 기술은 현재 스마트 홈, 자율주행차, 헬스케어 등 다양한 분야에서 응용되고 있다.  

스마트 홈에서는 IoT 디바이스가 엣지 AI를 통해 실시간으로 사용자 명령을 처리하고, 자율주행차는 주변 환경을 빠르게 인식해 안전한 주행을 가능하게 한다. 헬스케어 분야에서는 웨어러블 디바이스가 실시간으로 사용자 상태를 모니터링하고, 이상 징후를 감지해 경고를 보낼 수 있다.

반도체 기술은 엣지 AI 분야에서 실시간 AI 연산 처리와 보안을 강화하는 데 중요한 역할을 수행 중이다. 특히 모바일 프로세서는 사진이나 동영상의 화질을 개선하고, 실시간으로 텍스트 기반의 이미지를 생성하는 기능 등을 실현하면서, 전력 소모는 줄이고 성능은 향상시키는 방향으로 발전하고 있다. 엣지 AI를 위한 저전력, 고성능 반도체 기술은 우리의 일상과 다양한 산업 분야에 혁신을 가져올 것이다.

.

뇌를 모방한 새로운 반도체: 뉴로모픽 칩

뉴로모픽 칩은 인간의 뇌 구조와 신경망을 모방한 반도체이다. 이는 기존의 반도체 아키텍처와는 다른 접근 방식을 취해, 보다 효율적이고 자연스러운 AI 연산을 가능하게 한다. 뉴로모픽 칩은 전통적인 디지털 연산 방식 대신 아날로그 신호 처리를 활용해 에너지 효율성을 극대화한다. 이는 뇌의 뉴런과 시냅스의 작동 방식을 모방한 것으로, 뉴런의 발화 패턴을 흉내 내 데이터를 처리한다. 이러한 방식은 특히 비정형 데이터 처리에 강점을 가지고 있으며, 딥러닝 알고리즘의 효율성을 크게 향상시킬 수 있다.

또한, 뉴로모픽 칩은 학습과 추론을 동시에 수행할 수 있는 능력을 갖추고 있어, 실시간 적응과 자율적인 데이터 처리가 가능하다. 이는 자율주행차, 드론, 로봇 등 실시간 반응이 중요한 응용 분야에서 큰 잠재력을 가지고 있다.

.

AI 반도체 발전이 가져올 미래 변화

AI 반도체의 발전은 다양한 분야에서 혁신을 일으킬 것이며 특히 고성능 AI 반도체의 실시간 데이터 처리와 높은 연산 능력으로 많은 산업과 일상생활에 큰 변화를 불러올 것이다. 삼성전자 반도체의 기술력은 이러한 변화를 가속화하는 데 중요한 역할을 하고 있다.

자율주행차

자율주행차는 고성능 AI 반도체를 통해 실시간으로 주변 환경을 분석하고 안전한 주행을 가능하게 한다. 자율주행차의 센서와 카메라가 수집하는 대량의 데이터를 실시간으로 처리하기 위해서는 높은 연산 성능과 저전력 소비가 중요하다. 자율주행차에는 반도체 2~3천개 이상이 탑재되고 있으며, 극한 환경에서도 안정적으로 동작할 수 있는 높은 안전성 또한 요구된다.

삼성전자의 LPDDR(Low Power Double Data Rate) D램, GDDR(Graphics Double Data Rate) D램, AutoSSD(Solid State Drive), UFS(Universal Flash Storage) 등 차량용 반도체는 대량의 자율주행 데이터를 빠르게 처리하고, 저장해 보다 안전한 드라이빙 환경을 제공하고 있다. 또한 운전자에게 실시간 운행 정보와 고화질의 멀티미디어 재생, 고사양 게임 구동과 같이 엔터테인먼트적 요소를 지원해 최적의 모빌리티 경험을 제공한다.

의료 분야

우리는 AI 반도체를 통해 실시간으로 질병을 진단하고, 환자 데이터를 분석하여 맞춤형 치료를 제공받을 수 있다. 예를 들어, 웨어러블 디바이스에 탑재된 AI 반도체는 사용자의 건강 상태를 실시간으로 모니터링하고, 이상 징후를 감지하여 조기에 경고를 보낼 수 있다.

삼성전자는 헬스케어 분야에서도 AI 반도체 기술을 활용하고 있다. 삼성의 웨어러블 디바이스인 갤럭시 워치 시리즈는 심박수, 혈압, ECG(심전도) 등을 실시간으로 측정하고 분석할 수 있는 기능을 제공한다. 갤럭시 워치7은 3나노 공정을 적용한 엑시노스 W1000 탑재를 통해 빠르게 데이터를 처리한다.

스마트 홈과 IoT

삼성전자의 스마트싱스(SmartThings) 플랫폼은 가정 내 다양한 IoT 기기를 연결하고 제어하는 데 AI를 활용한다. 프로세서에 내장된 고성능 AI 엔진은 이러한 기기들이 실시간으로 데이터를 처리하고 사용자 명령에 즉각적으로 반응할 수 있게 한다.

예를 들어, 삼성전자의 패밀리 허브 냉장고는 내부 카메라로 음식물을 인식하고, AI를 통해 유통기한을 관리하거나 레시피를 추천할 수 있다. 또한, Neo QLED TV는 AI 업스케일링 기술을 사용하여 낮은 해상도의 콘텐츠를 선명하게 감상할 수 있도록 해주고, 사용자의 시청 습관을 분석하여 맞춤형 콘텐츠를 제공하는 등 이러한 기능은 고성능 반도체의 강력한 성능을 통해 가능해진 것이다.

‘Behind the CHIP’ ‘비하인드 더 칩’ Behind the CHIP

※ 본 칼럼은 외부 필진의 견해로, 삼성전자 DS부문의 공식 입장과 다를 수 있습니다.

The post [Behind the CHIP] AI와 반도체: 인공지능 시대를 여는 핵심 기술 first appeared on 삼성전자 반도체 뉴스룸.

GPU가 최상의 능력을 발휘하기 위해선 단짝인 그래픽용 D램, GDDR(Graphics Double Data Rate)의 성능 향상이 필수적이다. 삼성전자는 GDDR7에 데이터 전송 효율이 뛰어난 PAM3(Pulse Amplitude Modulation-3 level) 신호 방식을 그래픽 D램 최초로 적용하여 성능을 한층 끌어올렸다. 덕분에 이전 세대 대비 30% 향상된 성능은 물론, 코인 채굴, 초현실 그래픽, AI, 자동차 등 첨단 기술이 골머리를 앓는 대량의 데이터를 초고속으로 완.벽.하.게 처리한다는 사실! 작은 게임기부터 커다란 자동차까지 두루두루 맹활약 중인 GDDR7을 위 영상으로 낱낱이 살펴보자.

The post [삼교시 탐구생활 Ep.11] 미래 기술 난제를 해결할 속도 특화 레전더리 아이템! first appeared on 삼성전자 반도체 뉴스룸.

스마트폰, 태블릿으로 언제 어디서나 게임을 즐길 수 있게 된 요즘, 사용자들은 모바일 기기에서도 PC나 콘솔 게임과 같은 높은 수준의 그래픽을 기대하게 되었습니다. 게이머들에게 가장 중요한 생생하고 끊김 없는 그래픽을 구현하기 위해 삼성전자가 특별한 기술을 탑재한 모바일 GPU, ‘엑스클립스(Xclipse)’를 선보였습니다.

엑스클립스는 삼성전자가 그래픽 분야 강자인 AMD와의 파트너십을 바탕으로 개발한 모바일에 특화된 GPU입니다. 복잡한 그래픽의 게임도 끊김 없이 부드럽게 이어지도록 높은 성능을 갖췄을 뿐만 아니라, 레이 트레이싱(Ray Tracing) 기술을 활용해 게임 속에서 빛의 반사와 그림자를 더욱 실감나게 표현했습니다. 여기에 배터리 사용 효율을 높이고 안정적으로 게임을 할 수 있는 저전력 기술까지 탑재했다고 하는데요.

모바일 그래픽의 새로운 지평을 열고 있는 엑스클립스의 비밀이 궁금하다면, 지금 ‘반도체어 썰어드립니다(반썰어)’에서 만나보세요!

The post [반썰어 Ep.4] 초현실 그래픽 게임, 스마트폰에서도 몰입감 넘치게 즐길 수 있는 비결은? 모바일 GPU ‘엑스클립스(Xclipse)’! first appeared on 삼성전자 반도체 뉴스룸.

삼성전자와 AMD(Advanced Micro Devices, Inc.)가 차세대 고성능·저전력 그래픽 설계자산(IP) 분야 전략적 파트너십을 확대합니다.

삼성전자는 AMD의 초저전력·고성능 라데온(Radeon) 그래픽 설계자산을 기반으로 개발하는 차세대 그래픽 솔루션을 엑시노스(Exynos) 라인업에 확대 적용합니다.

* 라데온(Radeon): AMD가 개발한 그래픽 처리장치(GPU) 브랜드

이를 통해 삼성전자는 콘솔 게임 수준의 고성능·고화질 게이밍 경험을 스마트폰 외 다양한 기기에서도 제공하고, 차세대 그래픽 솔루션 연구개발 생태계를 확장해 나갈 계획입니다.

삼성전자 시스템LSI사업부 이석준 부사장은 “삼성전자는 업계 최초로 ‘광선 추적(Ray Tracing)’ 기능을 모바일AP에 적용하는 등 AMD와 함께 모바일 그래픽 기술의 혁신을 주도하고 있다”며, “저전력 솔루션 개발 노하우와 기술 경쟁력으로 차별화된 모바일 그래픽 솔루션을 지속 확보해 나가겠다”고 밝혔습니다.

*광선 추적: 빛이 사물에 반사되어 형성되는 이미지까지 실감나게 표현하는 기술

AMD 라데온 테크놀로지 그룹 수석 부사장인 데이비드 왕(David Wang)은 “삼성전자가 차세대 엑시노스 솔루션의 혁신을 위해 여러 세대의 고성능 라데온 그래픽 기술을 적용하는 것에 대해 매우 기쁘다”며 “이번 협력 확대는 모바일 사용자에게 최고의 그래픽 경험을 제공하기 위한 양사의 노력을 입증하는 것이다”라고 말했습니다.

한편 삼성전자와 AMD는 지난 2019년, 고성능 그래픽 설계자산 아키텍쳐(RDNA) 활용 라이선스를 체결하고, 2022년 모바일AP에 탑재되는 GPU(Graphics Processing Unit) ‘엑스클립스(Xclipse)’를 RDNA2 기반으로 공동 개발한 바 있습니다.

* RDNA(Radeon DNA): AMD의 차세대 고성능 게이밍 그래픽 아키텍쳐(회로)

The post 삼성전자-AMD, 차세대 그래픽 설계자산 파트너십 확대 first appeared on 삼성전자 반도체 뉴스룸.

어느새 우리의 일상에 깊이 들어와 있는 인공지능 (Artificial Intelligence, 이하 AI). 우리가 사용하고 있는 많은 서비스들은 음성 인식, 기계 번역과 같은 AI 응용을 활용하고 있으며, 앞으로 더욱 성장할 자율주행, 메타버스 이미지 분류 등의 분야도 AI의 발전에 기반하고 있습니다. 이와 같은 AI 기술을 구현하는 숨은 공신이 바로 메모리 반도체 기술입니다.

현재 AI 응용은 이미지 분류, 음성 인식, 기계 번역 분야에서 널리 활용되고 있는데, 이들 인공지능 시스템의 성능과 에너지 효율을 끌어올리기 위해서는 메모리 솔루션 기술의 발전과 성능 향상이 필수적입니다.

왜 그럴까요? 이 배경을 이해하기 위해서는 폰 노이만 구조에 대한 이해가 필요합니다. 폰 노이만 구조는 오늘날 대부분의 컴퓨팅 시스템에서 사용하는 방식으로, CPU가 주 기억장치인 메모리로부터 명령어를 불러오고 실행하며 그 결과를 다시 기억장치에 저장하는 작업을 순차적으로 진행합니다. 이 과정에서 CPU와 메모리 간 주고받는 데이터가 많아지면 작업 처리가 지연되는 현상이 생깁니다. 이를 ‘폰 노이만 병목현상’이라고 합니다. 따라서 이러한 구조 하에서는 성능 향상에 한계가 있기 때문에, IT 업계에서는 이를 획기적으로 극복할 수 있는 다양한 방안이 논의되고 있습니다.

삼성전자는 이러한 시장의 요구에 부응하고, 메모리 산업이 지속적으로 발전할 수 있도록 하기 위해, 메모리 관점에서 이를 해결할 수 있는 솔루션을 활발하게 개발하고 있습니다. 그러한 노력을 바탕으로 개발된 솔루션 중 하나는, 앞으로 메모리 패러다임을 바꿔나갈 것으로 기대되는 PIM(Processing in memory) 기술입니다.

PIM은 Processing in memory라는 말 그대로 메모리 내에 데이터의 연산 처리를 할 수 있는 logic unit을 탑재한 것입니다. 메모리 내부의 각 뱅크에 인공지능 엔진을 장착하고 데이터의 병렬 처리를 극대화하는 것인데요. 이를 통해 CPU와 메모리 간의 데이터 이동을 줄일 수 있기 때문에 컴퓨팅 시스템, AI 가속기 시스템 등의 전체 성능을 높이고 에너지 효율도 함께 제고할 수 있습니다.

차세대 메모리의 혁신을 이끄는 삼성전자 반도체

이렇게 PIM을 필두로, 삼성전자 반도체는 AI 응용처에 쓰일 다양한 차세대 메모리 솔루션을 활발히 개발하고 상용화하고 있는데요. 이렇게 인류의 미래를 더욱 편리하게 열어나가는 일을 하고 있는 전문가들은 어떤 분들일까요?

삼성전자 반도체 뉴스룸이 차세대 메모리 PIM의 개발과 상용화를 담당하고 있는 전문가들을 직접 만나보았는데요. D램 설계를 담당한 이석한 님, 소프트웨어와 응용 분야를 담당한 노유환 님, 그리고 PIM 제품의 사업화를 담당한 김진현 님과 함께 차세대 메모리의 동향에 대해 이야기를 나눠보았습니다.

Q. 폰 노이만 구조의 한계를 극복하기 위해 반도체 업계가 수십 년간 노력해온 것으로 알고 있습니다. PIM 솔루션이 중장기적으로 폰 노이만 병목현상을 해결하는 데 어떻게 기여할 수 있을까요?

A. PIM은 70년대 이미 컴퓨팅 구조 학계에서 제안되었을 정도로 필요성과 목적이 명확했습니다. 데이터 연산을 위해 메모리 데이터를 CPU에 자주 이동해야만 하는 기존의 폰 노이만 구조에서 CPU와 메모리의 성능 차이에 의한 병목현상은 이미 예견되어 있었기 때문이죠. 다만 이제까지는 메모리의 괄목할 만한 속도 증가와 CPU/GPU들의 병렬 연결을 이용하여 이를 극복해왔지만, 최근에는 인공지능 서비스를 위해 구축한 전체 시스템에서 전력 소모가 감당할 수 없을 정도로 증가하게 됨에 따라 다른 솔루션이 필요했던 상황입니다. PIM은 이러한 문제를 해결할 수 있는 혁신적인 기술인데요, 중장기적인 관점에서는 기하급수적으로 규모가 증가하고 있는 초거대 AI 응용에서 에너지 효율을 높이는데 크게 기여할 것으로 기대하고 있습니다.

Q. 말씀해 주신대로 AI, 빅데이터 처리를 위한 반도체 기술들이 주목을 받고 있는데요. 삼성전자 반도체는 고성능 컴퓨팅에 최적화된 HBM-PIM, LPDDR-PIM, GDDR-PIM 등 PIM(Processing in memory) 기술을 활용한 다양한 솔루션들을 선보이고 있습니다. 삼성전자의 PIM 기술이 기존에 다른 업체들이 해왔던 PIM 기술과 비교해 갖는 차별화 포인트가 있을까요?

A. 삼성전자는 2021년에 업계 최초로 HBM-PIM을 개발했습니다. 이후에도 부품 수준의 성능에 머무르지 않고, 가속기 카드 수준, 그 다음은 가속 서버 레벨, 더 나아가서는 데이터센터를 구성하는 클러스터 레벨까지 기술을 확장하여 왔습니다. 또한 PIM과 같은 새로운 기술 적용에 다소 보수적이었던 데이터센터 및 슈퍼컴퓨팅 업체를 위해, 고객이 바로 사용할 수 있는 실제 인공지능 응용에 PIM 기술을 적용하여 최종 고객 레벨에서 어떠한 성능을 기대할 수 있는지를 시현했습니다.

그동안 반도체 업계에서 제시되어 온 PIM 기술은 CPU 또는 GPU의 기능을 단순히 메모리로 옮겨서 데이터의 이동을 최소화한 것이 대부분이었는데요. 이는 시스템 수준의 비약적인 성능 향상을 가져오거나, 컴퓨팅 구조를 변경시킬 정도의 영향을 끼치지는 못했었습니다. 삼성전자 PIM 기술만이 가진 차별성은 △ 메모리 병렬처리 극대화 △ 인공지능 전용 가속 △ PIM을 지원하는 소프트웨어 제공 △ 현재 업계에서 상용되고 있는 CPU/GPU와 함께 바로 적용 가능한 호환성 (CPU나 GPU의 변경이 필요하지 않음) △ 메모리 셀에 가장 가까운 연산기 배치에 따른 에너지 효율 극대화로 요약할 수 있습니다.

Q. 삼성전자는 2021년 ISSCC 학회에서 PIM을 적용한 HBM을 처음 발표한 바 있는데요. PIM을 본격적으로 개발하기 시작한 시기와 개발 과정에서의 에피소드가 궁금합니다.

A. 우리 회사가 처음 PIM을 개발할 당시에는 어떤 응용을 타겟으로 어떻게 개발할 지에 대한 논의를 위해 상품기획, 개발자들이 모여 많은 시간을 할애하여 치열한 논쟁을 펼쳤습니다. 당시 논의했던 인공지능, 네트워크, 모바일, HPC(High-performance computing) 등의 응용 분야는 아직도 많은 고객들의 요청사항이 접수되고 그들과의 협력이 진행되고 있습니다.

PIM을 처음 개발하던 당시에 저희가 절대 타협하지 않은 부분은, 초기 PIM 제품은 기존 CPU/GPU를 변경하지 않고도 적용이 가능하도록 해야 한다는 것이었고 성능을 위해 D램 셀 가장 근처에 가속 엔진을 병렬로 위치시켜야 한다는 것이었습니다. 또한 외부적인 요인보다도 사업화 측면에서, 이런 중장기적인 기술을 제품에 적용하는 것이 맞는지에 대한 논의가 지속되어 왔지만, 삼성전자만이 할 수 있다는 의지와 함께 PIM 기술이 메모리 기술의 미래가 될 것이라는 신념에는 변함이 없었습니다.

Q. 삼성전자가 PIM을 개발하는 과정에서 학계와의 협력을 비롯해 다른 기업, 연구 기관들과도 적극적인 교류를 해 온 것으로 알고 있습니다. 기술 개발 과정에서 다양한 주체들과 협력한 것이 어떠한 효과를 가져왔는지 설명해주실 수 있으실지요?

A. PIM은 단순히 메모리에 가속 엔진을 넣는 것으로 완성되는 기술이 아닙니다. 메모리에 연산기가 들어가는 순간, 기존에 생각하지 못했던 많은 일들이 일어나기 때문이죠. 또한 PIM을 효과적으로 사용하기 위해서는 가장 적합한 응용을 중심으로 성능 향상과 응용 서비스 생태계가 구축되어야 합니다. 삼성전자는 차세대 IT 시스템들에 PIM의 적용과 확산을 앞당기고 PIM 생태계를 구축하기 위해, 이미 개발된 HBM-PIM로부터 얻은 결과와 PIM 개발 환경을 모두 개방하고, 외부 기업, 국책연구소 등과 다양하게 교류하고 있습니다. PIM의 성공은 훌륭한 제품뿐만 아니라 잘 구축된 생태계에 달려 있기 때문입니다.

Q. 현재까지 PIM 기술은 주로 데이터센터를 운영하는 플랫폼 기업들과 고성능 컴퓨팅이 필요한 슈퍼컴퓨터 등에 활용되고 있습니다. 한편, 삼성전자는 PIM 기술을 HBM뿐 아니라 LPDDR, GDDR 등의 제품으로도 확장하고 있는데요, 이와 같은 기술들이 활용될 수 있는 또 다른 영역은 어떤 것들이 있다고 보시는지요?

A. PIM은 단순한 메모리 제품이 아니라, 컴퓨팅 구조 차원의 메모리 기술이자 솔루션입니다. 사업화 초기에는 응용처를 HPC와 데이터센터로 타겟했기 때문에 HBM에 우선 적용했지만 추후 모바일, 그래픽 영역에도 적용하는 것이 당연한 순서라 볼 수 있습니다.

데이터를 이용하는 응용은 성능 측면에서 컴퓨팅 성능이 중요한 응용과, 메모리 성능을 더 요구하는 응용으로 크게 나눠볼 수 있는데요. PIM이 주목하는 응용은 메모리 성능을 필요로 하는 응용이고, 이런 응용은 빅데이터와 인공지능 시대에는 대부분을 차지하게 될 것입니다. 논리적으로 계산하는 응용보다는 모든 데이터를 모아놓고 답을 얻는 방법이 더 정확하고 빠르다는 것에 주목하고 있기도 하고요. 이러한 메모리 중심의 PIM 응용 사례로는, 인간의 뇌와 같은 저전력 초거대 AI 모델을 활용한 챗봇과 각종 추천 서비스, 실시간 번역 및 음성 인식, 기후나 생명 등 과학 연구를 위한 슈퍼컴퓨팅, 저전력 On-device AI mobile 응용 등 많은 데이터를 저전력으로 활용하여 빠른 연산 처리가 필요한 모든 영역이 될 것으로 예측됩니다.

가까운 미래에 우리의 일상이 될 인공지능 서비스들. AI가 만들어나갈 좀 더 편리하고 스마트한 세상의 핵심에는 메모리 반도체가 있습니다. 상상을 현실로 만들기 위해 오늘도 노력하고 있는 삼성전자 반도체에 많은 응원 부탁드립니다.

The post 삼성전자 전문가에게 직접 듣다! 차세대 메모리 반도체가 본격적으로 열어갈 AI 시대 first appeared on 삼성전자 반도체 뉴스룸.

기술집약적 시스템반도체 SoC, ‘엑시노스’

삼성전자 AP 브랜드 엑시노스(Exynos)의 7대 IP 개발 리더들을 본격적으로 만나기 앞서, SoC(System-on-Chip, 시스템온칩) 설계를 총괄하는 시스템LSI사업부 SoC개발실장 김민구 부사장을 만났다.

먼저 SoC의 개념, 즉 여러 기능이 하나의 칩으로 통합되는 근본적인 이유부터 물었다. 김민구 부사장은 “칩이 나눠져 있으면 통합적인 전력 제어가 어렵고, 개별로 전력을 소모하면 배터리 효율이 낮아진다. 또한 칩들 사이에서 데이터 전송을 위한 대역폭 제한과 전송 시간 지연 등이 발생해 성능 저하를 불러오게 된다”고 설명했다. 스마트폰은 데스크탑처럼 전력을 계속 공급받으면서 사용하는 제품이 아니기에 저전력 특성이 매우 중요한 것.

이어 김 부사장은 “SoC는 통합 전력 제어로 효율성이 높을 뿐 아니라 단일 칩 형태로 면적이 크게 줄어 공간 확보에 용이하다”며 “단일 칩 내부에서 모든 기능을 수행하므로 성능도 크게 향상된다”고 덧붙였다. 휴대 전화가 단순히 전화, 문자 송수신의 기능을 넘어 지금의 비디오, 게임, 금융 서비스 등 수준 높은 다양한 기능으로 확장된 데에는 엄지 손톱보다 작은 SoC의 역할이 컸다.

김민구 부사장은 SoC를 ‘시스템 반도체의 꽃’에 비유했다. 현존하는 주요 IT 기술들이 집약된 결정체라는 이유에서다. 그는 “SoC는 쉽지 않은 영역이지만 엔지니어라면 누구나 도전해보고 싶은 유망한 분야일 것”이라며 “앞으로 SoC의 역할은 메타버스, 자율주행, 6G 등 미래 산업에서 더욱 무궁무진하다”고 강조했다.

삼성전자는 GPU, NPU, ISP, 모뎀, RF 등 독자 IP 개발에 박차를 가할 계획이며, 칩 설계 분야에서 한 발 더 나아가 플랫폼 솔루션 업체로 거듭나고자 노력하고 있다. 김 부사장은 “SoC의 경쟁력을 앞세워 ‘엑시노스’를 전 세계인들이 믿고 쓰는 최고의 모바일 AP 브랜드로 인정받게 할 것”이라며 “이번 기획 시리즈를 통해 SoC의 역할과 중요성, 나아가 엑시노스의 특장점과 개발 방향이 보다 많은 사람들에게 공유되길 바란다”고 전했다.

모바일 게이밍의 가능성을 확장하다: 한층 강화된 그래픽을 제공하는 GPU

그래픽 처리는 일반적으로 대규모 단순 연산이 필요하며, 병렬로 처리할 경우 더 빠르고 효율적이다. 하지만 CPU는 고속의 순차 처리에 특화된 구조이기에, CPU로 그래픽 처리를 하면 단순 연산을 수없이 수행하느라 정작 중요한 연산은 구동을 대기하게 되는 경우가 생긴다. 예를 들면, 게임을 구동했는데 화면에 그림을 나타내느라 터치 입력이 지연돼 내 캐릭터가 적을 피하지 못하는 상황이 생길 수도 있다는 것.

이런 문제를 해결하기 위해 등장한 것이 GPU(Graphics Processing Unit, 그래픽처리장치)다. GPU가 없던 과거에는 CPU가 모든 일을 처리했으나, 점차 자주 사용하는 유사한 연산에 대해서 별도의 가속기를 만들어 효율을 높이고자 만들어졌다. CPU가 범용 계산기라면, GPU는 그래픽 처리에 특화된 대규모 병렬 계산기인 셈이다. 이렇게 탄생한 GPU는 그래픽 처리를 위한 핵심 부품 중 하나로 CPU의 명령을 받아 모니터 상에 사물들의 모양, 위치, 색상, 질감 등을 표현해낸다.

엑시노스 2200에 탑재된 GPU ‘엑스클립스 920(Xclipse 920)’은 삼성전자가 PC·콘솔 게임기향 GPU 업체인 美 AMD와 공동 개발한 첫 결과물이다. 삼성의 GPU 브랜드 ‘엑스클립스’는 ‘Exynos’의 ‘X’와 일식을 뜻하는 영어 단어 ‘Eclipse’의 합성어로 모바일 게이밍의 한계를 넘어 콘솔 게임 수준의 성능을 통해 새로운 시대를 연다는 의미.

이처럼 삼성전자는 AMD와 협업해 콘솔급 GPU를 저전력화해 모바일에 이식했다. AMD의 GPU가 원래는 PC나 콘솔급 이상을 위해 제작된 것이다 보니 모바일 환경에 맞춰주는 재설계가 필요했고, 모바일에서 상대적으로 제약된 메모리 대역폭과 방열 상황에 맞춘 설계가 새롭게 진행됐다. GPU 개발을 총괄하는 모바일 프로세서 설계 전문가 박성범 상무는 “그동안 모바일 SoC를 개발하며 확보한 저전력 설계에 관한 많은 노하우를 기반으로 첫 세대만에 ‘소형화’, ‘저전력화’에 성공할 수 있었다”며 “콘솔 게임기와 달리 팬(fan)이 없는 환경에서 프레임이 끊기지 않도록 성능을 유지하면서 발열을 최소화하는 데 집중했다”고 말했다.

엑시노스에 탑재된 GPU의 주요 역할은 3D 가상 공간에 있는 사물들을 스마트폰 2D 스크린에 그리는 일. 따라서 화려한 그래픽이 포함된 모바일 게임을 할 때 그 역할이 두드러진다. 특히, 엑스클립스 920(Xclipse 920)은 ‘광선 추적(Ray Tracing)’ 기능을 하드웨어에서 지원하는 최초의 모바일 AP다. 이 기능은 빛이 사물에 반사되어 형성되는 이미지까지 실감나게 표현하는 기술로서 소프트웨어가 아닌 하드웨어에서 자체적으로 지원하기 때문에 더욱 빠른 실시간 연산이 가능하다. 또 화면 내 물체들의 색상, 음영, 움직임 등의 변화 정도에 따라 GPU의 연산량을 조절하는 ‘가변 레이트 쉐이딩(Variable Rate Shading)’ 기술을 도입해 GPU의 과부하를 줄여준다.

게임 유저가 많아지고 그래픽이 화려해지면서 GPU에서의 중요한 개발 방향은 ‘콘솔에서 느낄 수 있는 수준의 고성능 구현’과 ‘저전력’이다. 이 두 가지는 앞으로 콘솔 게임에서 느끼는 화려한 그래픽의 감동을 모바일에서 재현하기 위해 반드시 필요한 요건이다. 박 상무는 “통상적으로 모바일 분야가 콘솔 분야의 기술을 5년 정도 후행해서 쫓아가는 경향이 있는데, AMD와의 협업을 통해 콘솔에서의 최신 기술들을 단숨에 Exynos 2200에 탑재했고, 해당 SoC는 갤럭시 S22에 적용됐다”며 “앞으로도 AMD와의 협업을 통해, RDNA 시리즈에 있는 다른 기능들도 지속 도입할 계획”이라고 언급했다.

모바일 GPU의 향후 성장성을 묻자, 박성범 상무는 “스마트폰의 성능이 상향 평준화되면서, 소비자가 체감할 만한 성능 차이를 만들어내는 것이 쉽지 않은 것이 사실”이라며 “앞으로 플래그십 스마트폰 사용자가 최신 스마트폰을 구입해야 할 이유가 있다면, 그것은 게임 성능 때문일 확률이 높을 것”이라고 말했다. 그만큼 스마트폰의 게임 성능을 좌우하는 GPU의 발전 가능성이 높다는 의미.

또한 그는 증강현실(AR)이나 가상현실(VR) 분야에서도 모바일 GPU가 더욱 중요해질 것으로 내다봤다. 박 상무는 “증강현실 분야의 GPU는 안경처럼 가벼운 기기에 탑재되어야 하므로 저전력 설계가 매우 중요하고, 가상현실 분야에서는 눈에 보이는 온 세상을 그래픽으로 빠르게 표현해야 하므로 성능 요구 사항이 훨씬 높은 편”이라며 “이처럼 다양한 개발 요구 사항을 맞추는 동시에 현재 구현 가능한 수준보다 훨씬 더 빠르고 실감나게 이미지를 그려 내기 위해서 모바일 GPU가 성장해가야 할 길은 앞으로도 무궁무진하다”고 강조했다.

기본 카메라의 만족도를 높이다: 한층 자연스럽고 선명한 이미지 보여주는 ISP

ISP(Image Signal Processor, 이미지신호처리)는 이미지센서에서 전송된 가공되지 않은 데이터(raw data)를 보정하여 소비자가 선호하는 형태의 사진이나 영상을 만들어내는 역할을 한다. 광학계와 이미지센서로 이루어진 카메라 모듈에서 발생할 수 있는 물리적 한계점들을 보정하고, R/G/B 값들을 보간, 노이즈를 제거한다. 또 영상의 부분적인 밝기를 조절하고, 디테일한 부분을 강조하는 등의 후처리를 수행한다. 쉽게 말해, 화질 튜닝 및 보정 과정을 자체적으로 거쳐 소비자가 좋아할 만한 결과물을 만드는 것.

초창기 스마트폰에는 ISP가 별도의 칩으로 탑재됐었지만, 시장의 요구에 따라 점차 내장 ISP가 활발히 사용되기 시작했다. 20년 넘게 영상 처리 분야에서 몸담고 있는 Multimedia개발팀의 최종성 PL은 “처음에는 디지털 카메라에 사용할 수 있을 정도의 고성능 ISP를 개발하기 위해 해외연구소와 협업했고, 그 결과 갤럭시 S4에서 갤럭시 시리즈 최초로 메인 카메라에 내장 ISP를 사용했다”고 회상했다. 엑시노스는 2012년부터 DSLR급 ISP의 AP 내재화를 통해 스마트폰 카메라의 화질을 비약적으로 발전시키는데 기여했다.

고성능 ISP를 통해 소비자가 체감할 수 있는 기능은 크게 두 가지로 ‘더 나은 화질’과 ‘더 빠른 처리’다. 최종성 PL은 “사진이 잘 나왔다는 것은 주관적인 판단이어서 구체적인 수치로 제시하기는 어렵지만, 자연스럽고 선명한 사진과 영상을 구현하기 위해 딥러닝을 활용한 영상 평가, ISP 튜닝 기법 등 다양한 연구를 하고 있다”고 설명했다. 또한 사진의 연사 속도를 결정하거나 고해상도의 사진과 비디오를 빠르게 처리하는 것도 ISP의 몫이다.

최신 엑시노스에 탑재된 고성능 ISP는 최대 2억 화소까지 처리할 수 있다. 최대 7개의 이미지센서를 지원하며, 4개의 이미지센서에서 입력되는 영상과 이미지의 동시 처리가 가능하다. 또한, NPU의 도움을 받아 촬영 중인 장면의 부분들을 인식·분류하는 장면 세분화(scene segmentation) 기술을 탑재함으로써 하늘, 수풀, 피부 등에 각기 다른 파라미터를 적용해 처리하는 기능도 포함됐다. AI 기능을 통해 촬영 시, 사람 얼굴을 감지해서 표시하거나 그 얼굴의 좌표와 정보를 이용해서 영상의 밝기, 초점, 색상을 조절하기도 한다.

ISP의 향후 개발 방향을 묻자, 최종성 PL은 ‘저전력’과 ‘영상 화질 개선’을 꼽았다. 저전력을 유지하는 동시에 영상 화질을 개선하는 것에 집중하고 있다는 것. 최 PL은 “이미지센서에서 전송되는 데이터들을 ISP에서 실시간으로 처리해야 하는데, 그 양이 기하급수적으로 증가하는 추세라 메모리에 저장했다 다시 읽어올 때 발생하는 전력 소모가 상당 수준으로 늘어난다”며 “엑시노스는 단 한 번만 메모리에 저장하는 방식으로 전력 소모를 최소화하고 있다”고 강조했다.

이어 영상 화질과 관련해서는 “예상보다 빠르게 비디오의 시대가 열리면서, 영상 화질을 개선하는데 주력하고 있다”며 “특히, 어두운 저조도 환경에서도 비디오 화질을 높여 차별화된 강점으로 경쟁력을 높이고자 노력하고 있다”고 전했다.

※ 기사 내 삽입된 이미지는 이해를 돕기 위해 연출된 것으로 실제 제품에 의한 결과물과 일치하지 않을 수 있습니다.

The post [‘엑시노스’ 개발 리더들이 SoC를 말하다] ① GPU, ISP 알아보기 first appeared on 삼성전자 반도체 뉴스룸.