1초라는 짧은 시간에도 전 세계에서는 방대한 양의 데이터 처리가 동시에 일어난다. 1초당 약 6,000개의 트윗이 올라오고, 약 48,600개의 인스타그램 ‘좋아요’가 눌리며, 약 58,000회의 유튜브 조회가 발생한다. 이 모든 기록 뒤에는 보이지 않는 칩, 반도체가 있다. 찰나의 순간에도 쉼 없이 연산을 이어가는 반도체 덕분에 세상은 더 빠르고, 다채롭게 진화하고 있다. ‘1초’가 담아내는 반도체의 놀라운 기록, 지금 바로 영상을 통해 확인해보자.

The post [Zoom into Chips Ep.4] 1초 동안 벌어지는 일상 속 반도체의 놀라운 기록 first appeared on 삼성전자 반도체 뉴스룸.

Behind the CHIP
삼성전자 반도체 뉴스룸에서 새롭게 진행하는 ‘Behind the CHIP’ 시리즈.
이번 시리즈는 9월부터 내년 1월까지 총 10회에 걸쳐 연재되며, 
5명의 IT/테크/지식 콘텐츠 전문 인플루언서가 직접 칼럼을 통해 반도체 생태계와
미래 산업을 통찰하는 흥미진진한 이야기를 전한다.
우리 일상과 밀접하게 맞닿아 있는 기술 트렌드를 인플루언서의 시선을 통해 알아보자.

인공지능(AI) 기술이 우리의 일상과 산업 전반에 큰 변화를 일으키고 있는 가운데 이 혁신의 중심에는 반도체 기술이 핵심으로 자리 잡고 있다. AI 연산을 최적화해 성능과 효율성을 극대화하는 데 반도체가 필수적인 요소이기 때문! 우리의 일상 속, 인공지능의 영향력이 커지는 만큼, 그 중심에 있는 AI 전용 반도체의 특징과 일반 CPU와의 차이점, 그리고 AI 학습과 추론 과정에서 반도체의 역할에 대해 자세히 알아보도록 하자.

AI 전용 반도체의 특징과 일반 CPU와의 차이점

CPU는 범용 프로세서로 다양한 작업을 처리할 수 있도록 설계되었지만, AI 연산은 주로 대규모 병렬 연산을 필요로 하기 때문에 AI 작업에는 비효율적이다. 이러한 한계를 보완하기 위해 만들어진 것이 바로 AI 전용 반도체인 NPU이다.

NPU는 AI 연산을 최적화한 프로세서로, 일반적인 중앙처리장치(CPU)와는 근본적으로 다른 설계와 기능을 가지고 있다. 인공 신경망 연산을 고속으로 처리할 수 있도록 설계되어 초당 1.9조 개의 연산(TOPS, Tera Operations Per Second)을 수행할 수 있음은 물론, 일반 CPU와 비교할 때 더 많은 병렬 처리 유닛을 가지고 있어 대량의 데이터를 동시에 처리할 수 있다.

이에 따라 AI 알고리즘의 실시간 처리가 가능해지며, 전력 효율성도 높아 실시간 AI 추론 작업을 처리하는 데 유용하다. 예를 들어, 삼성전자의 모바일 프로세서 ‘엑시노스’에 내장된 NPU는 이미지 인식과 품질 향상, 음성 인식 등의 AI 작업을 처리하는 데 활용되고 있다. 순차적인 명령을 실행하는 데 적합한 CPU와 데이터 중심의 구조로 설계되어 병렬 처리를 통해 대량의 데이터를 동시에 처리하는 NPU의 구조적 차이는 AI 연산의 속도와 효율성에 큰 영향을 미친다.

.

AI 반도체의 핵심: GPU와 NPU

병렬식 구조의 반도체 중에서 NPU보다 선행된 것이 바로 GPU(Graphics Processing Unit)이다. 1990년대 중반부터 본격적으로 개발되기 시작한 GPU는 처음에는 주로 그래픽 렌더링 작업을 가속화하기 위해 설계되었지만, 그래픽 연산뿐만 아니라 벡터와 행렬 연산에도 뛰어난 성능을 발휘하면서 병렬 처리의 가능성을 보여주게 되었다. 이후 2000년대 후반부터 AI 및 병렬 처리 활용에 적극적으로 사용되기 시작해 최근 인공지능 붐과 함께, GPU의 부가가치는 더욱 높아졌다. 대표적으로 엔비디아의 A100 GPU는 약 542억 개의 트랜지스터를 가지고 있으며, 정밀도와 유형에 따라 조금씩 차이가 있지만 초당 624 테라플롭스의 성능을 제공한다. 이러한 성능은 복잡한 신경망 모델을 빠르게 훈련시키고 추론하는 데 큰 도움이 되기 때문에 데이터센터와 클라우드 환경에서 대규모 딥러닝 모델의 학습에 사용되고 있다. 반면 NPU는 AI와 딥러닝의 발전에 맞추어 등장한 최근 기술로, 스마트폰, 태블릿, IoT 디바이스 등 엣지 디바이스에서 실시간 AI 추론 작업을 처리하는 데 사용된다.

그렇다면 GPU와 NPU 중 AI 반도체에서 우위를 따진다면 어떤 것이 더 우선적일까?

GPU와 NPU 엄밀히 따지면 그 역할에 조금씩 차이가 있다. GPU는 대규모 데이터셋을 사용한 모델 학습에 강점을 가지고 있으며, NPU는 학습된 모델을 바탕으로 실시간 추론 작업을 수행하는 데 최적화되어 있다. 그 때문에 두 반도체는 AI 작업에서 상호 보완적인 역할을 한다. 이처럼 AI 전용 반도체는 AI 연산을 위한 최적화된 설계와 구조를 통해 일반 CPU보다 뛰어난 성능과 효율성을 제공하며 앞으로 그 중요성은 점점 더 부각될 것으로 예측된다.

.

AI 시스템의 학습과 추론 과정에서 반도체의 역할은?

AI 시스템에서 반도체의 역할이 중요한 이유는 AI 시스템이 제대로 작동하기 위해 반드시 학습(Training)과 추론(Inference)이라는 두 가지 주요 과정을 거치기 때문이다.

학습 과정

AI 시스템의 학습 과정에서는 대량의 데이터를 사용해 AI 모델이 스스로 규칙과 패턴을 익혀야 한다. 예를 들어, 이미지 인식 AI 모델을 학습시키기 위해 수백만 장의 이미지를 모델에 입력하고, 각 이미지가 무엇을 나타내는지(예: 고양이, 개, 자동차 등)를 알려준다. 이 과정은 매우 많은 연산이 필요하며, 이때 중요한 역할을 하는 것이 바로 GPU이다.

추론 과정

반면 추론 과정에서는 학습된 AI 모델을 사용해 새로운 데이터를 분석하고 예측한다. 이는 학습한 내용을 실제로 적용하는 단계로, 예를 들어, 모델이 새로운 사진을 보고 그것이 고양이인지 개인지 판단하는 과정이다. 여기서 주목할 만한 것이 바로 NPU이다. NPU는 특히 추론 과정에서 빠른 반응 속도와 높은 에너지 효율성을 제공하기 때문에 실시간 데이터 처리를 할 수 있게 도와준다.

그러나 AI 연산에서 반도체의 역할이 중요해진 이유는 단순히 연산 속도를 높이는 것뿐만 아니라, 에너지 효율성을 극대화하는 것도 포함한다. AI 모델은 갈수록 복잡해지고, 처리해야 할 데이터가 증가함에 따라 연산량도 기하급수적으로 늘어나게 될 것이다. 이에 따라 전력 소모량이 매우 높아지는데, 이때 효율적인 반도체 설계는 AI 시스템의 성능을 높이는 동시에 에너지 소비를 줄이는 데 핵심적인 역할을 하게 된다.

.

엣지 AI를 위한 저전력 고성능 반도체 기술

엣지 AI는 데이터를 클라우드로 전송하지 않고 디바이스 자체에서 처리하는 기술을 의미한다. 데이터가 로컬에서 처리되기 때문에, 데이터 유출의 위험이 줄어들고 프라이버시가 강화된다는 장점이 있다. 엣지 AI 기술은 현재 스마트 홈, 자율주행차, 헬스케어 등 다양한 분야에서 응용되고 있다.  

스마트 홈에서는 IoT 디바이스가 엣지 AI를 통해 실시간으로 사용자 명령을 처리하고, 자율주행차는 주변 환경을 빠르게 인식해 안전한 주행을 가능하게 한다. 헬스케어 분야에서는 웨어러블 디바이스가 실시간으로 사용자 상태를 모니터링하고, 이상 징후를 감지해 경고를 보낼 수 있다.

반도체 기술은 엣지 AI 분야에서 실시간 AI 연산 처리와 보안을 강화하는 데 중요한 역할을 수행 중이다. 특히 모바일 프로세서는 사진이나 동영상의 화질을 개선하고, 실시간으로 텍스트 기반의 이미지를 생성하는 기능 등을 실현하면서, 전력 소모는 줄이고 성능은 향상시키는 방향으로 발전하고 있다. 엣지 AI를 위한 저전력, 고성능 반도체 기술은 우리의 일상과 다양한 산업 분야에 혁신을 가져올 것이다.

.

뇌를 모방한 새로운 반도체: 뉴로모픽 칩

뉴로모픽 칩은 인간의 뇌 구조와 신경망을 모방한 반도체이다. 이는 기존의 반도체 아키텍처와는 다른 접근 방식을 취해, 보다 효율적이고 자연스러운 AI 연산을 가능하게 한다. 뉴로모픽 칩은 전통적인 디지털 연산 방식 대신 아날로그 신호 처리를 활용해 에너지 효율성을 극대화한다. 이는 뇌의 뉴런과 시냅스의 작동 방식을 모방한 것으로, 뉴런의 발화 패턴을 흉내 내 데이터를 처리한다. 이러한 방식은 특히 비정형 데이터 처리에 강점을 가지고 있으며, 딥러닝 알고리즘의 효율성을 크게 향상시킬 수 있다.

또한, 뉴로모픽 칩은 학습과 추론을 동시에 수행할 수 있는 능력을 갖추고 있어, 실시간 적응과 자율적인 데이터 처리가 가능하다. 이는 자율주행차, 드론, 로봇 등 실시간 반응이 중요한 응용 분야에서 큰 잠재력을 가지고 있다.

.

AI 반도체 발전이 가져올 미래 변화

AI 반도체의 발전은 다양한 분야에서 혁신을 일으킬 것이며 특히 고성능 AI 반도체의 실시간 데이터 처리와 높은 연산 능력으로 많은 산업과 일상생활에 큰 변화를 불러올 것이다. 삼성전자 반도체의 기술력은 이러한 변화를 가속화하는 데 중요한 역할을 하고 있다.

자율주행차

자율주행차는 고성능 AI 반도체를 통해 실시간으로 주변 환경을 분석하고 안전한 주행을 가능하게 한다. 자율주행차의 센서와 카메라가 수집하는 대량의 데이터를 실시간으로 처리하기 위해서는 높은 연산 성능과 저전력 소비가 중요하다. 자율주행차에는 반도체 2~3천개 이상이 탑재되고 있으며, 극한 환경에서도 안정적으로 동작할 수 있는 높은 안전성 또한 요구된다.

삼성전자의 LPDDR(Low Power Double Data Rate) D램, GDDR(Graphics Double Data Rate) D램, AutoSSD(Solid State Drive), UFS(Universal Flash Storage) 등 차량용 반도체는 대량의 자율주행 데이터를 빠르게 처리하고, 저장해 보다 안전한 드라이빙 환경을 제공하고 있다. 또한 운전자에게 실시간 운행 정보와 고화질의 멀티미디어 재생, 고사양 게임 구동과 같이 엔터테인먼트적 요소를 지원해 최적의 모빌리티 경험을 제공한다.

의료 분야

우리는 AI 반도체를 통해 실시간으로 질병을 진단하고, 환자 데이터를 분석하여 맞춤형 치료를 제공받을 수 있다. 예를 들어, 웨어러블 디바이스에 탑재된 AI 반도체는 사용자의 건강 상태를 실시간으로 모니터링하고, 이상 징후를 감지하여 조기에 경고를 보낼 수 있다.

삼성전자는 헬스케어 분야에서도 AI 반도체 기술을 활용하고 있다. 삼성의 웨어러블 디바이스인 갤럭시 워치 시리즈는 심박수, 혈압, ECG(심전도) 등을 실시간으로 측정하고 분석할 수 있는 기능을 제공한다. 갤럭시 워치7은 3나노 공정을 적용한 엑시노스 W1000 탑재를 통해 빠르게 데이터를 처리한다.

스마트 홈과 IoT

삼성전자의 스마트싱스(SmartThings) 플랫폼은 가정 내 다양한 IoT 기기를 연결하고 제어하는 데 AI를 활용한다. 프로세서에 내장된 고성능 AI 엔진은 이러한 기기들이 실시간으로 데이터를 처리하고 사용자 명령에 즉각적으로 반응할 수 있게 한다.

예를 들어, 삼성전자의 패밀리 허브 냉장고는 내부 카메라로 음식물을 인식하고, AI를 통해 유통기한을 관리하거나 레시피를 추천할 수 있다. 또한, Neo QLED TV는 AI 업스케일링 기술을 사용하여 낮은 해상도의 콘텐츠를 선명하게 감상할 수 있도록 해주고, 사용자의 시청 습관을 분석하여 맞춤형 콘텐츠를 제공하는 등 이러한 기능은 고성능 반도체의 강력한 성능을 통해 가능해진 것이다.

‘Behind the CHIP’ ‘비하인드 더 칩’ Behind the CHIP

※ 본 칼럼은 외부 필진의 견해로, 삼성전자 DS부문의 공식 입장과 다를 수 있습니다.

The post [Behind the CHIP] AI와 반도체: 인공지능 시대를 여는 핵심 기술 first appeared on 삼성전자 반도체 뉴스룸.

실시간 통역, 회의 내용 요약, 사진 보정 등 나의 요구에 맞춰 문제를 즉각 해결해 주는 전담 비서가 있다면 어떨까? 삼성전자 반도체 NPU가 이러한 고민을 해결해 줄지도 모른다. NPU는 사용자의 데이터를 의미 있게 해석하는 데 최적화된 프로세서로, 온디바이스 AI의 성능을 결정하는 핵심 기술이다. 빠른 병렬연산으로 초고속 저전력을 가능케 하는 NPU가 궁금하다면, 위 영상을 통해 확인해 보자.

The post [삼교시 탐구생활 Ep.6] 실시간 통역부터 자동 요약까지! 온디바이스 AI 성능을 좌우하는 멋짐 폭발, NPU first appeared on 삼성전자 반도체 뉴스룸.

.

컴퓨터를 능가하는 두뇌를 탑재하다: Arm社와의 협력 강화하는 CPU

컴퓨터에서 CPU(Central Processing Unit, 중앙처리장치)는 사람의 ‘대뇌’에 비유되곤 한다. 기억, 해석, 연산, 제어라는 4대 주요 기능을 담당하는 가장 핵심적인 장치로서 PC의 전반적인 성능을 좌우한다. 모바일 CPU 역시, 운영체제(OS) 위에서 모든 소프트웨어(애플리케이션)를 실행하고 다른 하드웨어 장치들을 제어하는 역할을 한다.

CPU의 성능은 클럭[1] 속도, IPC[2], 코어[3] 수 등에 따라 결정된다. 과거 피처폰에 들어가던 CPU는 단순한 파이프라인 구조의 단일 코어로 병렬 처리가 제한돼 최대 주파수가 수백 MHz 수준에 불과했다. 하지만 오늘날 스마트폰의 CPU는 슈퍼스칼라[4] 구조로 여러 개의 명령어를 병렬 처리하고 최대 주파수는 3GHz(초당 30억 번의 신호를 생성한다는 의미)에 이르며, 멀티 코어 구조를 갖는다. 모바일 CPU가 이제 데스크탑 CPU 이상의 고성능 마이크로 아키텍처를 구현하는 것.

엑시노스에 탑재된 CPU는 소형화·저전력화를 위해 ‘빅코어(Big Core)’에서 ‘빅리틀(Big-Little)’로, 다시 ‘빅미드리틀(Big-Mid-Little)’ 구조로 발전해왔다. ‘빅리틀’은 전력 소모가 적게 필요한 곳에는 작은 코어(Little Core)를 돌려서 조금만 전류를 소모해 배터리를 절약하는 개념이다. 예를 들면, 문자를 쓸 때와 3D 게임을 할 때에 필요한 CPU 성능이 다르기 때문에, 문자를 보내기 위해 굳이 고성능의 CPU 코어를 돌리는 것이 불필요하다는 것이다.

엑시노스에 탑재되는 CPU 관련 모든 업무를 총괄하는 SoC설계2팀 정우경 PL은 “CPU는 SoC 등 모든 시스템의 경쟁력을 크게 좌우할 뿐 아니라, 반도체의 첨단 기술 적용에 있어 가장 최우선 순위에 있는 중추적인 분야”라며 입사 이래 20여년 간 몸담은 CPU에 대해 설명했다.

이어 그는 “개발 핵심은 제한된 전력 한도(power budget) 내에서 고성능을 내는 것”이라며 “다양한 시나리오에서 최대의 효율을 내기 위해 종류가 다른 CPU 코어들(Big-Mid-Little Core)을 적절히 조합해 운영하는 것이 중요하다”고 말했다. 엑시노스의 CPU는 게임, 카메라 등 고성능을 요하는 다양한 모바일 시나리오에서 최고의 경험을 제공할 수 있도록 동작 코어 조합을 최적화시킨다.

삼성전자는 반도체 설계 기업 Arm의 IP를 활용해 CPU 성능을 끌어올리고 있다. 내부 개발진의 구체적인 업무 영역에 대해 물었다. 정우경 PL은 “제품에 들어갈 CPU의 목표 성능을 결정하고, CPU IP를 입수, 성능을 예측 및 검토, 검증 작업을 거치며, 양산 전 디버깅[5] 등 CPU 성능 향상을 위한 전반적인 개발 업무를 수행한다”며 “Arm에서 RTL[6]로 제공된 CPU 설계를 최적의 반도체 칩으로 구현하는 것과 CPU 성능을 최대로 낼 수 있도록 적합한 메모리 서브시스템 등 CPU 주변 회로를 설계·구현하는 것 모두 SoC설계팀의 업무”라고 덧붙였다.

정우경 PL은 앞으로의 개발 방향에 대해 “Arm CPU를 채용하면서 ‘칩 레벨(Chip Level)’이 아닌 ‘세트 레벨(Set Level)’까지 소프트웨어 최적화를 하여 모바일 업계 최고 CPU를 만들 것이며, ‘E2E(End-to-End) Total Solution Provider’를 향한 비전을 갖고 있다”면서 “이러한 목표 달성을 위해 CPU 개발진들은 제품의 초기 개발 단계에서부터 Arm, 세트 업체, 파운드리 공정 등과 One Team으로 매우 긴밀하게 협력하고 있으며, 성능 향상을 위해 차세대 패키징(Advanced Packaging) 기술 활용 등 다양한 방안을 모색하고 있다”고 밝혔다.

특히, 정 PL은 앞으로 AR, 메타버스 등 미래 기술과 관련해서 CPU, GPU, NPU와 같은 모든 프로세서를 적절히 활용한 SoC 레벨의 통합 머신러닝(Machine Learning) 처리 성능이 중요한 핵심 경쟁력이 될 것으로 내다봤다. 이어 그는 “CPU도 머신러닝 처리 성능을 강화하여 경쟁력 확보에 힘쓸 것”이라고 강조했다.

.

상상하는 것, 기술을 통해 이룬다: 6세대에 걸친 고도화된 독자 기술력 기반의 NPU

NPU(Neural Processing Unit, 신경망처리장치)는 딥러닝 알고리즘 연산에 최적화된 프로세서로, 빅데이터를 사람의 신경망처럼 빠르고 효율적으로 처리할 수 있다. 이러한 특징 때문에 인공지능(이하 AI) 연산에 주로 활용되는 반도체다. 설명은 다소 어렵게 들리지만, 이미 우리 생활에서 흔히 사용되고 있다. 스마트폰 카메라로 사진을 찍을 때 배경 안의 사물·환경·인물을 인식해 자동으로 초점을 조정하는 것, 음식 사진 촬영 시 카메라가 음식 모드로 자동 전환되는 것, 촬영된 결과물에서 불필요한 피사체만 지울 수 있는 것도 모두 NPU 덕분.

NPU가 없던 과거에는 주로 GPU로 AI 연산을 수행했는데, 하드웨어의 구조적인 차이로 인해 연산 효율이 떨어졌다. 이제는 AI 연산을 주로 NPU가 담당해 모바일 기기에서도 더 효율적으로 데이터를 처리할 수 있다. 데이터의 병렬 연산 처리에 최적화돼 AI 기반의 애플리케이션이 저전력으로 빠르게 동작하기 때문이다.

엑시노스의 NPU 개발 역사는 2016년 시작됐다. NPU를 탑재한 최초 제품은 엑시노스 9820으로 2019년 출시된 갤럭시 S10에 처음 들어갔다. SoC의 하드웨어 디자인 설계를 담당하다가 2세대 NPU부터 함께했다는 권석남 PL은 “6년 전 첫 TF가 구성될 때만 하더라도 20여명에 불과했던 연구원이 현재 해외 연구소까지 포함하면 10배 이상 늘었다”며 “지금은 NPU가 매우 관심이 높은 분야이지만, 당시만해도 해외 대학의 동영상 강의 등을 찾으며 공부해야 할 정도로 낯설고 새로웠다”고 회상했다.

과거 NPU를 활용하는 영역은 이미지 기반의 객체 검출 등 비교적 단순했다. 하지만 인공지능 시대로 접어들면서 최근에는 카메라 화질 개선, 음성 서비스 등 점차 더 많은 연산량을 필요로 하는 고성능 IP에 대한 시장 요구가 커지고 있다. 게다가 SoC에 들어가는 각 IP의 성능이 높아질수록 면적과 전력이 증가하다 보니, 가장 효율적인 아키텍처를 선정하는 것이 관건.

고성능 NPU일수록 인식 속도와 사진 결과물이 달라진다. 최신 엑시노스에 탑재된 NPU는 전작에 비해 성능이 두 배 이상 개선됐다. 6세대에 걸쳐 NPU 솔루션을 독자 개발해온 만큼, SoC설계팀의 기술과 노하우는 이미 고도화됐다. 권석남 PL은 “엑시노스의 NPU는 MLPerf 등의 벤치마크 성능, 파워 효율성, 면적 경쟁력 등 전반적인 분야에서 절대적인 경쟁력을 갖춘 IP 솔루션”이라며, “성능을 위한 아키텍처 최적화와 파워 효율성 개선을 통해 엑시노스의 경쟁력을 확보하고 있다”고 말했다.

앞으로 NPU와 관련된 기술은 어떤 방향으로 발전하게 될까? 이에 대해 권석남 PL은 “스마트폰에서 민감한 개인정보 유출 사고 위험을 최소화하기 위해 서버를 거치지 않고 개인 폰에서 AI 연산을 수행하는 온디바이스(On-device) AI가 확산될 것으로 예상된다. 이를 위해서는 한 단계 향상된 모바일 NPU의 성능이 필요하다”고 설명했다. 또한 “지금은 하나의 NPU가 여러 연산에 범용적으로 사용되지만, 미래에는 응용 프로그램별 특화된 AI 알고리즘을 동작 시키고자 하는 요구도 예상돼 각 도메인에 특화된 NPU를 개발하는 것도 중요해질 것”이라고 강조했다.

다가오는 자율주행 시대와 관련해서는 “가까운 시기에 현실화될 첨단 운전자 보조 시스템(ADAS)은 방대한 데이터의 자율주행 알고리즘을 실시간으로 수행할 수 있는 하드웨어가 반드시 필요하다. 이를 위해 더욱 높은 성능의 NPU가 요구되고 있고, 삼성전자도 시장 요구에 맞춰 자율주행 기기를 위한 강력한 성능의 NPU를 준비하고 있다”고 권 PL은 덧붙였다.

마지막으로 개발 과정에서 보람 있었던 순간을 묻자, 권석남 PL은 “엑시노스에 매년 향상된 성능의 NPU를 탑재하고 있다는 사실 자체가 큰 보람”이라고 말했다. 이어 “미래 시장의 핵심 IP로 성장할 분야이기에 개인적으로 NPU의 개발 업무는 개인과 기업 차원의 발전은 물론, 나아가 국가 경쟁력에도 일조하는 일이라는 자부심을 갖고 있다”며 ‘상상하는 것을 이룰 수 있는 최고의 분야’라고 전했다.

※ 기사 내 삽입된 이미지는 이해를 돕기 위해 연출된 것으로 실제 제품에 의한 결과물과 일치하지 않을 수 있습니다.

[1] 클럭(clock): 연산 작업을 위해 0 또는 1의 전기적 진동을 지속적으로 생성하는 것. Hz(헤르츠) 단위로 표기하며, 기본적으로 클럭 수치가 높을수록 처리 속도가 빠르다는 의미
[2] IPC(Instructions Per Cycle): 클럭 당 명령어 처리 횟수. 명령어 하나를 처리하는데 클럭이 얼마나 필요한지를 측정하므로CPU가 얼마나 효율적으로 작동하는지를 평가하는 단위
[3] 코어(core): CPU 내부에 있는 물리적인 처리 회로의 핵심 부분. 코어 개수가 많을수록 여러 가지 작업을 동시에 수행하는데 유리. 코어가 1개면 싱글코어, 2개면 듀얼코어, 4개면 쿼드코어, 6개면 헥사코어, 8개면 옥타코어 등으로 말함
[4] 슈퍼스칼라(superscalar): 파이프라인과 병렬 처리의 장점을 모은 것으로, 여러 개의 파이프라인에서 명령들이 병렬로 처리되도록 한 아키텍처. 여러 명령어들이 대기 상태를 거치지 않고 동시에 실행될 수 있으므로 처리속도가 빠름
[5] 디버깅(debugging): 설계된 프로그램을 확인하고, 프로그래밍 상의 오류를 찾아 고치는 작업
[6] RTL(Register Transfer Level): 디지털 회로 설계의 첫 단계로 일종의 소스코드

The post [‘엑시노스’ 개발 리더들이 SoC를 말하다] ② CPU · NPU 알아보기 first appeared on 삼성전자 반도체 뉴스룸.

AI 시대 선도할 핵심 기술로 NPU(신경망처리장치) 선정해 집중 육성

삼성전자는 2030년까지 NPU 분야 인력을 2,000명 규모로 10배 이상 확대하고 ‘차세대 NPU 기술’ 강화를 위해 전사적인 역량을 집중한다는 방침입니다.

삼성전자는 독자적인 NPU 기술 육성을 통해 2030년까지 시스템 반도체 분야에서도 글로벌 1위를 목표로 한 ‘반도체 비전 2030’ 달성에 박차를 가할 계획입니다.

‘NPU(Neural Processing Unit)’는 인공지능의 핵심인 딥러닝(Deep Learning) 알고리즘 연산에 최적화된 프로세서입니다.

딥러닝 알고리즘은 수천 개 이상의 연산을 동시에 처리해야 하는 병렬 컴퓨팅 기술이 요구되는데, NPU는 이러한 대규모 병렬 연산을 효율적으로 할 수 있어 AI 구현을 위한 핵심 기술로 꼽히고 있습니다.

2030년까지 시스템반도체 글로벌 1위 목표 달성에 박차

삼성전자는 NPU 기술 역량 강화를 위해 시스템 LSI사업부와 종합기술원에서 선행 연구와 제품 개발을 지속 해오고 있으며, 그 첫 결과물로 모바일 SoC(System on Chip) 안에 독자 NPU를 탑재한 ‘엑시노스 9(9820)’을 작년에 선보였습니다.

이 제품은 기존에 클라우드 서버와 데이터를 주고받으며 수행하던 인공지능 연산 작업을 모바일 기기가 자체적으로 할 수 있도록 ‘온 디바이스 AI(On-Device AI)’를 구현했습니다.

삼성전자는 향후 모바일부터 전장, 데이터센터, IoT 등까지 IT 전분야로 NPU 탑재를 확대할 계획입니다.

삼성전자는 모바일용 플래그십 SoC 제품부터 순차적으로 NPU를 탑재를 확대 적용할 계획이며, 인포테인먼트 시스템(IVI, In-Vehicle Infotainment), 첨단 운전자 보조 시스템(ADAS, Advanced Driver Assistance Systems) 등 NPU를 탑재한 차량용 SoC 제품 개발에도 집중한다는 전략입니다.

또한 데이터센터의 빅데이터 처리 성능을 높일 수 있는 딥러닝 전용 NPU를 개발해 AI 연산을 강화하는 등 활용 범위를 넓혀 나갈 방침입니다.

삼성전자는 또 글로벌 연구 기관 및 국내 대학들과의 지속 협력을 확대하고, 핵심 인재 발굴 등에도 집중 투자할 계획입니다.

삼성전자는 지난 5월 ‘종합기술원 몬트리올 AI랩’을 딥러닝 전문 연구기관인 캐나다 밀라연구소로 확장 이전하며, 세계적 석학인 요슈아 벤지오(Yoshua Bengio) 교수를 주축으로 몬트리올대(University of Montreal), 맥길대(McGill University) 연구진 등과 협업하고 있습니다.

또한 2017년부터 뉴럴프로세싱연구센터(NPRC, Neural Processing Research Center)를 통해 국내 대학들과도 인공지능 관련 공동 연구를 진행하고 있으며, 미래 인재 양성에도 힘쓰고 있습니다.

삼성전자 시스템 LSI사업부 강인엽 사장은 “딥러닝 알고리즘의 핵심인 NPU 사업 강화를 통해 앞으로 다가올 AI 시대에서 주도권을 잡겠다”라며, “향후 차별화된 기술과 글로벌 기관들과의 협력, 핵심 인재 영입 등을 통해 한 차원 더 진화된 혁신적인 프로세서를 선보일 것”이라고 밝혔습니다.

삼성전자는 NPU 기술을 더욱 발전시켜 사람 두뇌 수준의 정보처리와 인식을 가능하게 하는 뉴로모픽(Neuromorphic) 프로세서 기술로 확대해 나갈 계획입니다.

[참고]

□ 딥러닝 알고리즘(Deep Learning Algorithm)
 – 사람의 신경계를 모방한 인공신경망을 통해 학습하는 머신 러닝(Machine Learning)의 한 분야 
 – 사람의 개입이 필요한 기존의 지도 학습(Supervised Learning)에 능동적인 비지도 학습(Unsupervised Learning)이 결합되어 컴퓨터가 마치 사람처럼 스스로 학습할 수 있는 인공지능 기술

□ SoC(System on Chip)
 – 다양한 기능을 집약해 하나의 칩에 구현한 시스템반도체

□ 뉴로모픽 프로세서(Neuromorphic Processor)
 – 사람의 뇌 구조, 신경신호 전달방식 등 생물학적 신경 네트워크를 모사하는 기술로 인간 뇌 수준의 정보처리 및 인식이 가능할 것으로 기대됨

The post 삼성전자, 독자 NPU로 ‘반도체 비전 2030’ 달성 가속화 first appeared on 삼성전자 반도체 뉴스룸.

텍스트 위주였던 과거와 달리 이미지와 영상이 범람하는 요즘. 다양한 형태의 대용량 데이터를 수집하고 실시간 처리 하는데 기존 방식의 기술은 한계가 있는데요. 향상된 연산능력과 효율성으로 새로운 데이터 시대를 이끌 차세대 반도체, ‘NPU’에 대해 알아보겠습니다.

AI를 위한 딥러닝 기술을 구현하는 NPU

사람의 몸에서 자극을 받아들여 전달하고, 이에 대해 적절한 판단을 통해 반응 신호를 보내는 체계를 신경계라고 합니다. 그 중 뇌는 감각 기관에서 받아들인 자극을 종합·판단해 명령을 내리는데요. 이렇게 우리의 뇌처럼 정보를 학습하고 처리하는 프로세서를 신경망처리장치(Neural Processing Unit), 일명 NPU라고 합니다. NPU는 셀 수없이 많은 신경세포와 시냅스로 연결되어 신호를 주고받으며 동시에 작업을 진행하는 인간의 뇌 신경세포와 유사한 작업을 진행합니다. 스스로 학습하고 판단할 수 있는 인공지능 (AI) 등이 접목되어 일명 AI 칩이라고 불리기도 하죠.

기존에는 컴퓨터의 경우 중앙처리장치(Central Processing Unit, CPU)가 이와 같은 기능을 수행하며 데이터를 처리했습니다. CPU 또한 모든 데이터를 처리하는 연산 능력을 갖고 있지만 NPU는 동시다발적인 행렬연산에 최적화된 프로세서로 여러 개의 연산을 실시간으로 처리 합니다. 그뿐 아니라 축적된 데이터를 기반으로 스스로 학습하여 최적의 값을 도출해냅니다. 이러한 특성 덕분에 NPU는 컴퓨터가 사람처럼 생각하고 배울 수 있는 기계 학습 기술을 뜻하는 딥러닝에 최적화된 기술로 평가 받고 있습니다.

인간의 뇌를 닮아 빠르고 스마트한 NPU

삼성전자는 지난 11월 프리미엄 모바일 애플리케이션 프로세서(AP, Application Processor) ‘엑시노스 9(9820)’을 공개했습니다. 인공지능 역할을 하는 NPU를 탑재해 인공지능 연산 능력이 기존 제품(9810) 대비 약 7배 향상되었는데요.
이러한 빠른 연산 속도는 증강현실(AR), 가상현실(VR)과 같이 인물과 사물의 특징을 빠르고 정확하게 파악해 역동적이면서도 재미있는 사용자 경험 (User Experience)을 제공하는 기술에서 크게 발휘됩니다. 또한, 서버와 연결을 통해 수행하던 인공지능 연산 작업이 모바일 기기 자체적으로도 가능해져 보안적인 측면도 향상되었습니다.
인공지능을 위해 필수적인 프로세서 NPU는 모바일을 넘어 자율주행차 등 4차 산업 시장에서 더욱 빛을 발할 예정인데요. 인공지능(AI) 시대에서의 NPU의 무궁무진한 발전이 더욱 기대됩니다!

The post 인간의 뇌를 닮은 차세대 반도체, 신경망처리장치 NPU first appeared on 삼성전자 반도체 뉴스룸.