차세대 딥러닝 기술 ‘온디바이스(On-Device) AI’란?

4차 산업혁명 시대가 도래하면서 인간처럼 학습하고 추론하는 인공지능(AI, Artificial Intelligence)에 대한 관심이 높습니다. 특히 앞으로는 스마트폰이나 로봇청소기, 세탁기 등에서의 사물인터넷까지 광범위하게 AI 기술 적용이 가능해진다고 하는데요. 차세대 딥러닝(Deep Learning)기술로 새롭게 주목 받고 있는 ‘온디바이스(On-Device) AI’에 대해 자세히 알아보겠습니다.

내 손 안에서 경험하는 인공지능

인공지능(AI) 기술은 모바일 등 스마트기기에서 수집한 정보를 중앙 클라우드 서버로 전송해 분석하고 다시 기기에 보내는 방식으로 진행되어 왔습니다. 이와 달리 온디바이스(On-device) AI는 이름 그대로 멀리 떨어진 클라우드 서버를 거치지 않고 스마트기기 자체적으로 정보를 수집하고 연산할 수 있는데요.

이렇듯 온디바이스 AI는 단말 기기 내부에서 정보를 처리하기 때문에 저지연을 통한 빠른 작업이 가능해집니다. 중앙 서버를 통하지 않기 때문에 클라우드 기반 AI의 문제점으로 대두되었던 보안 문제도 해결할 수 있는데요. 또한 별도의 네트워크가 필요 없기 때문에 인터넷 연결이 어려운 상황에서도 실시간 번역과 같은 작업이 가능합니다.

엣지(Edge) 디바이스와 인공지능의 만남

기존에는 클라우드 서버가 정보를 처리하는 뇌라면 휴대폰이나 태블릿 PC 등은 사용자와 접점을 이뤄 정보를 수집하는 눈과 귀와 같은 역할을 담당해왔습니다. 하지만 이러한 처리 방식은 멀리 떨어져 있는 인공지능이 실제 정보가 발생하고 있는 현장을 본질적으로 이해하기는 어렵다는 한계가 있었는데요.

그러나 사용자와 직접 접촉하는 하드웨어인 엣지 디바이스에 AI가 결부된 형태의 온디바이스 AI는 환경을 직접 경험하고 정보를 처리하기 때문에 실제 사용하는 사람에게 더욱 적합한 결정을 내릴 수 있다는 장점이 있습니다.

온디바이스 AI가 가져올 삶의 변화

삼성전자는 딥러닝(Deep Learning) 알고리즘과 온디바이스 AI와 같은 혁신기술 연구에 집중하고 있습니다. 지난 11월에 진행된 ‘삼성 AI포럼 2019’를 통해 서버를 거치지 않고 기기 자체에서 AI 기능을 수행하는 ‘온디바이스 AI 통역 기술’을 선보이기도 했는데요.

삼성전자의 프리미엄 모바일 어플리케이션 프로세서(AP) 엑시노스 9(9820)가 대표적인 온디바이스 AI의 예시라고 할 수 있습니다. 지연 없이 실시간으로 다양한 연산을 처리하는 시스템 반도체 신경망처리장치(NPU, Neural Processing Unit) 탑재로 모바일 기기 자체에서 기존 대비 7배 빠른 인공지능 연산 처리가 가능해졌는데요. 고성능 연산 능력이 필요한 온디바이스 AI를 위해 NPU 성능을 높이기 위한 삼성전자의 노력은 계속될 예정입니다.

온디바이스 AI의 발전을 통해 사용자의 식습관이나 운동 등 생활 습관에 대한 정보를 직접적으로 파악할 수 있게 되면서 스마트 기기의 사용자 맞춤형 서비스도 더욱 강화될 전망인데요. 사용자 중심의 온디바이스 AI의 활성화가 우리의 실제 생활에 미칠 긍정적인 변화를 기대해 봅니다