인생맛칩이 새로운 시리즈로 돌아왔습니다. 어렵고 익숙하지 않은 반도체 용어를 쉽고 재미있게 소개하는 ‘반도체어 썰어드립니다(반썰어)’ 시리즈인데요. 오늘 처음으로 파헤쳐 볼 용어는 무엇일까요? 바로 AI의 성능을 획기적으로 높여 줄 지능형 반도체, ‘PIM(Processing In Memory)’입니다.

요즘 어떤 질문에도 척척 대답하는 챗GPT가 연일 화제죠. 질문에 대한 간단한 대답은 물론, 생각을 요하는 광고 문구나 소설까지 작성할 수 있어 4차 산업혁명 시대가 왔다는 것을 실감할 수 있습니다. 그런데, 이 챗GPT에 대해 알아가다 보면, PIM이라는 용어가 종종 함께 등장한다는 사실을 아시나요?

PIM은 메모리 안에 연산장치를 포함한 지능형 반도체로, 메모리와 CPU 간의 데이터 이동을 줄여주는 장치인데요. 지연 현상으로 대답이 단어 단위로 뚝뚝 끊기는 AI에 HBM-PIM*을 더하면 끊김이 없는 대답을 엿볼 수 있다고 합니다. 미래 AI 반도체 산업의 핵심, PIM의 놀라운 잠재력을 더 알고 싶다면, 지금 바로 영상을 시청해보세요.

*HBM-PIM: 삼성전자가 세계 최초로 개발한 기술로 메모리 영역에서 연산 처리가 가능해 CPU와 메모리 간 데이터 이동을 줄여 시스템 성능은 올리고, 에너지 소비는 감소시키는 것이 특징

The post [반썰어 Ep.1] 핵심만 쏙쏙! 어려운 반도체 용어 알기 쉽게 썰어드립니다 – PIM 편 first appeared on 삼성전자 반도체 뉴스룸.

전자·IT분야 미디어 및 산학연 관계자 400여 명이 참석해 최신 산업 트렌드와 미래 전략에 대한 정보를 공유하고 아이디어를 나눴습니다.

이번 기조연설은 △ AI 확산에 따른 지능형 반도체 기술의 발전 전망 △ 모빌리티의 변화에 따른 산업 동향과 진화 방향 △ 인공 지능, 5G 등 새로운 기술을 통한 가전의 진화 이렇게 총 3가지 섹션으로 진행되었습니다.

AI 시대의 도래와 지능형 반도체 시장의 현황

심은수 삼성전자 종합기술원 AI&SW센터장은 두 번째 기조연설자로 나서 AI 시대의 도래와 함께 발전해나가고 있는 지능형 반도체 기술의 현황과 전망을 이야기했습니다. 특히 삼성전자가 지속적으로 개발 중인 NPU(신경망처리장치)를 예시로 들며 지능형 반도체의 필요성을 강조했는데요.

심은수 센터장은 컴퓨터 비전, 이미지 생성, 자연 언어 생성, (컴퓨터의) 자연 언어 이해와 같은 실제 사례를 통해 AI의 발전 단계를 설명하며 과거에는 불가능하다고 여겼던 기술들이 얼마나 우리의 일상에 빠르게 자리잡고 있는지를 보여주었습니다.

폭발적인 성장 잠재력을 가진 AI 반도체 시장

현재 빠른 성장 속도를 보이고 있는 AI 응용 관련 반도체 시장은 2025년에 650억 달러 규모, AI에 특화된 프로세서 관련 규모도 크게 성장할 것으로 예상되는데요. 심은수 센터장은 NPU와 같은 AI에 특화된 프로세서를 사용하면 기존에 사용하던 CPU(중앙처리장치)에 비해 100배 이상의 성능을 낼 수 있다고 말했습니다.

반도체의 집적회로 성능이 24개월마다 2배로 증가하는 ‘무어의 법칙’이 한계에 다다르면서 CPU의 성능을 계속 높이는 것 또한 어려워졌습니다. 현재는 AI 활용에 대해 CPU가 많은 영역에서 사용되고 있지만 보다 복잡한 단계로 들어서게 되면 AI 특화 프로세서인 NPU를 사용하는 것에 비해 전력 효율과 성능이 떨어질 수 밖에 없는데요. 실제로 NPU는 GPU(그래픽처리장치)의 10배의 성능을 낼 수 있고, GPU는 CPU 성능의 10배를 낼 수 있습니다.

심은수 센터장은 또한 이세돌 9단과의 바둑 대전을 펼쳤던 구글 딥마인드의 ‘알파고’ 사례를 들어 설명을 이어 갔는데요.

과거 알파고 1세대는 데이터 처리에 1,920개의 CPU와 280개의 GPU를 사용했는데, 가장 최근 선보인 알파고 제로에는 구글이 데이터분석이나 딥러닝 등 AI에 특화 시켜 자체적으로 개발한 가속기 TPU(Tensor Processing Unit) 단 4개만이 사용되었다고 합니다. TPU는 NPU의 일종으로 데이터 분석, 딥러닝용으로 구글이 자체 개발했습니다.

성능 발전 외에도 눈에 띄는 점은 전력 효율(TOPS/W)이 기존 대비 30~80배 가량 증가했다는 점입니다. 전력 효율을 높이면, 운영비의 상당 부분을 절약할 수 있는데요. 앞으로 데이터 처리량은 더욱 늘어나고 고수준의 AI 기술을 사용해야 하는 만큼 전력 효율을 높이는 것은 필수적입니다.

일상에서 경험할 수 있는 지능형 반도체

NPU(Neural Processing Unit)는 단독으로도 쓰일 수 있고 SoC(System on Chip)안에 하나의 부품으로 들어갈 수도 있는데요. 실제로 우리가 사용하는 AI 응용의 대표적인 예시인 스마트 폰을 보면 이해할 수 있습니다.

삼성전자에서는 지난 해 말 공개한 ‘엑시노트 9(9820)’부터 모바일 프로세서에 자체적으로 인공지능 연산을 수행할 수 있는 NPU를 탑재했는데요. 이를 통해 기존에 클라우드(Cloud) 서버와 데이터를 주고받으며 수행하던 인공지능 연산 작업을 모바일 기기 자체적으로 할 수 있어(On-Device AI) 연산 능력이 강화됐을 뿐 아니라 사용자의 개인 정보를 보호할 수 있는 장점도 있습니다.

지능형 반도체 시장의 미래 전망

심은수 센터장은 이 외에도 전력 효율 향상을 위해 메모리 장치와 처리장치 간의 거리를 줄이는 컴퓨팅 아키텍처(Computing Architecture)에 대한 연구나 스파이킹 뉴럴 네트워크(Spiking Neural Networks)와 같이 지능형 반도체와 관련된 연구·개발 트렌드를 소개하기도 했습니다.

또한 앞으로 새로운 플레이어들이 등장하면서 지능형 반도체 시장의 경쟁은 더욱 심화될 것이라고 예상했는데요. 가깝게는 수년 안에 시장 내에서 여러 합병이 일어나는 것 또한 피할 수 없는 만큼 한국 기업들이 그 안에서 선도적인 기업으로서 자리잡는 것이 관건이자 숙제라고 덧붙였습니다.

심은수 센터장의 오프닝 키노트는 AI 시대의 지능형 반도체에 대한 현황과 발전 전망에 대해 알아보고, 미래 기술에 대한 통찰력을 엿볼 수 있는 시간이었는데요. 새로운 기술을 통해 앞으로의 AI 기술 및 지능형 반도체 시장을 이끌어 갈 삼성전자에 많은 응원 부탁 드립니다.

The post 2019 한국전자전 오프닝 키노트 스피치 ‘AI 확산에 따른 지능형 반도체 기술의 발전 전망’ first appeared on 삼성전자 반도체 뉴스룸.