인공지능 칩 스타트업 동향 · PDF file 2019-05-21 · 구성하였다....

Click here to load reader

  • date post

    19-Jan-2020
  • Category

    Documents

  • view

    0
  • download

    0

Embed Size (px)

Transcript of 인공지능 칩 스타트업 동향 · PDF file 2019-05-21 · 구성하였다....

  • ICT신기술

    정보통신기획평가원 13

    *

    오재섭

    한국인터넷전문가협회 연구소장

    I. 엣지 컴퓨팅, 클라우드, AI 칩

    현재 다수의 인공지능 애플리케이션은 훈련-학습-추론을 위해 인터넷으로 연결된 고성능 서버에

    있으며 클라우드를 통해 서비스된다. 오프라인에서 제품, 디바이스, 기계 등의 지능형 사물(Smart

    Things)에서 훈련-학습-추론을 실행하는 스마트 엣지 컴퓨팅이 중요해지고 있다.

    가트너는 2018년 및 2019년 10대 기술 중 하나로 엣지 컴퓨팅을 선정하였다. 가트너는 엣지

    컴퓨팅을 “정보 처리 및 콘텐트 수집·전달이 엣지 디바이스에 가까이하여(엣지 디바이스 자체 및

    근거리 소형 서버) 처리되는 컴퓨팅 방식”으로 정의한다. 엣지 컴퓨팅을 “메쉬 네트워킹 및 분산

    컴퓨팅에서 파생된 것으로, 클라우드에서 데이터 트래픽 및 대기 시간을 줄이려는 목적으로 트래픽

    처리 및 연산을 중앙이 아닌 로컬에서 수행하는 방식”이라고 설명한다[1],[2].

    엣지 컴퓨팅은 분산 컴퓨팅 측면을 강조하는 클라우드 컴퓨팅으로 이해할 수 있으며, 클라우드

    컴퓨팅과 엣지 컴퓨팅은 상충관계가 아니라 보완 관계로 진화할 것으로 판단된다. 엣지 컴퓨팅을

    통해 클라우드에서 통신 연결 및 대기 시간, 대역폭 제약을 보완하면서 지능형 사물에 탑재되어

    있는 하드웨어(센서, 스토리지, 프로세서 등), 기계학습 내장의 소프트웨어 등의 기능을 활용할 수

    있기 때문이다[3].

    오프라인에 존재하는 사물에 통신, 센서, 스토리지, 프로세서, 기계학습 기능이 탑재되어 단순한

    엣지 다비이스에서 스마트 엣지 디바이스로 진화하고 있다. 인공지능 서비스 제공자, 연결형 제품

    개발사, 스마트 엣지 컴퓨팅 개발사, IoT 디바이스 개발사, 인공지능 칩 개발사들은 인공지능 칩(뉴

    로모픽 프로세서, 딥러닝 프로세서, Vision DSP 등), 단순 디바이스·센서 및 산업용 디바이스에서

    웨어러블 디바이스, 음성인식 스피커, 스마트폰, PC·태블릿PC, 자율주행자동차, 자율주행 드론,

    로봇에 이르기까지 인공지능 능력을 탑재한 스마트 엣지 디바이스와 제품을 출시하고 있다.

    * 본 내용은 오재섭 연구소장(☎ 010-5341-5990, well72@gmail.com)에게 문의하시기 바랍니다.

    ** 본 내용은 필자의 주관적인 의견이며 IITP의 공식적인 입장이 아님을 밝힙니다.

    인공지능 칩 스타트업 동향

  • 14 www.iitp.kr

    주간기술동향 2018. 5. 22.

    센서, 스토리지, 인공지능 칩, 컴퓨팅 파워를 탑재한 스마트 엣지 디바이스는 100만 분의 1초

    지연 시간 내에서 데이터를 처리해야(훈련-학습-추론) 하는 영역과 인터넷 연결이 어려운 영역부터

    시작될 것이다. 인공지능은 스마트 엣지 컴퓨팅을 통해 자율주행자동차, 자율비행 드론, 비전 시스

    템, 스마트 카메라, 산업용 검사 장비, 스마트 가전 등에 응용 및 확대될 것으로 판단된다. 예컨대,

    자율주행자동차 혹은 자율비행 드론의 경우, 가속-제동-방향 전환 등의 결정이 실시간으로 실행되

    어야 하기 때문에, 생성된 데이터가 클라우드를 통하지 않고, 오프라인에서 스마트 엣지 디바이스를

    통해 이벤트를 실시간으로 처리할 수 있어야 한다.

    스마트 엣지 컴퓨팅을 가능하게 하려면 엣지 디바이스에서 생성된 데이터로 훈련하고 학습하고

    추론할 수 있는 기계학습 능력을 가져야 한다. 스마트 엣지 컴퓨팅을 가능하게 하는 뉴로모픽 프로세

    서, IPU, 딥러닝 프로세서, Vision DSP 등의 인공지능 칩이 등장하고 있으며, 이런 혁신적 기술을

    주도하는 스타트업 동향을 살펴본다.

    II. 인공지능 칩 상장기업 동향

    인공지능 칩이란 효율적으로 기계학습 알고리즘과 관련 데이터 프로세싱에 특화된 칩이다. II장과

    III장에서는 인공지능 칩 선두업체인 IBM, 인텔, 퀄컴, 엔비디어에 대해서는 간략하게 정리하고,

    소프트뱅크, 브레인칩, 인공지능 칩 스타트업에 대해서는 비교적 세부적으로 정리하였다.

    IBM사는 TrueNorth 뉴로모픽 칩을 개발하였

    다. 4,096개의 트루노스 프로세서로 이루어진 전

    자회로 소자들을 연결하는 상용 기술을 개발하였

    다[4].

    인텔사는 이미지 인식과 로봇 제어 등에 사용할

    5세대 뉴로모픽 프로세서 Loihi를 개발하였다. 인

    텔은 뉴로모픽 프로세서를 지속적으로 개발하고

    있으며, Loihi 칩은 5세대에 해당한다[4].

    퀄컴사는 시냅스 연결 강도를 조절해 정보를 처리

    하는 뉴로모픽 프로세서 ‘제로스’를 개발하였다[4].

    엔비디아사는 저전력 인공지능 모듈 Jetson을

    개발하였다. 드론 및 로봇에 적용 가능한 저전력 [그림 1] arm ML 프로세서 아키텍처

  • ICT신기술

    정보통신기획평가원 15

    기계학습 하드웨어 모듈을 개발하였다[4].

    소프트뱅크사는 Arm사를 인수하여 사물인터넷 지능 기술 개발에 집중하고 있다. 초저전력 프로

    세서에 구동 가능한 사물인터넷용 기계학습 플랫폼 프로젝트 트릴리움을 진행하고 있다. 프로젝트

    트릴리움은 에코시스템, 소프트웨어, 하드웨어로 구성되어 있다. 에코시스템은 기계학습 애플리케이

    션, 알고리즘과 프레임워크로 구성되어 있으며, 프레임워크는 텐서플로우, 텐서플로우 라이트, 파이

    토치, ONNX, MXNET, Caffe, Caffe2, 안드로이드 NNAPI를 지원한다. 소프트웨어는 arm 하드

    웨어에 최적화된 소프트웨어 라이브러리로서, arm NN, arm COMPUTE LIBRARY, CMSIS-NN

    으로 구성되어 있다. 하드웨어는 인공지능/기계학습용 arm 하드웨어 IP이며, NPU(기계학습 프로세

    서), GPU arm MALI, CPU arm cortex/arm DynamIQ/arm NEVERSE, DSP/ FPGA/가속기로

    구성되어 있다. 특히, 기계학습 프로세서인 NPU는 기계학습에 최적화된 프로세서로, 스마트 카메

    라, AR/VR, 드론, 의료와 소비자 가전 등의 시장과 모바일에 최적으로 사용될 수 있도록 설계되었

    으며, 콘볼루션 레이어(Convolution Layer) 실행을 위한 고정 함수 엔진(Fixed Function Engine),

    비-콘볼루션 레이어 실행을 위한 프로그램 가능 레이어로 구성되어 있다.

    arm ML 프로세서는 텐서플로우, 텐서플로우 라이트, 카페, 카페2 등의 소프트웨어 프레임워크

    를 지원한다[5].

    브레인칩사는 뉴런 신경 네트워크(Neuron-Spiking Neural Network)의 작동 원리를 모방한

    뉴로모픽 시스템온칩 Akida NSoc를 개발하였다. Akida NSoc는 소비 전력이 15W에 불과하며,

    120만 개 뉴런과 100억 개 시냅스로 구성되어 있으며, 독립 임베디드 가속기 혹은 보조 프로세서로

    [그림 2] 아키다 NSoC 구성요소

  • 16 www.iitp.kr

    주간기술동향 2018. 5. 22.

    사용되도록 설계되어 있다. Akida NSoc는 기존 픽셀 기반 이미징 처리, 동적 비전 센서, 라이다,

    오디오 및 아날로그 신호용 센서를 위한 인터페이스를 제공하며, 고속 데이터 인터페이스를 제공하

    기 위해 PCIe, USB, 이더넷을 지원한다.

    브레인칩사는 아키다 NSoC에 이어 Akida 개발 환경, BrainChip Studio, BrainChip 가속기를

    개발하였다. Akida 개발 환경은 시스템 개발을 위한 SNIC 생성 및 테스트를 위한 기계학습 프레임

    워크로, Akida 실행 엔진, 데이터-스파이크 변환기, SNN 모델 등을 포함하며, Jupiter Notebook,

    NumPy, Matplotlib를 포함하는 파이썬 및 라이브러리를 지원한다. 아키다 실행 엔진은 파이썬

    스크립트에서 API 호출을 통해 신경 네트워크 토폴로지, 훈련 방법 및 실행을 위한 데이터 집합을

    지정할 수 있다.

    BrainChip Studio는 대규모 비디오 데이터에서 사람 혹은 얼굴을 검색하고, 패턴 또는 얼굴을

    식별할 수 있는 도구를 지원한다.

    BrainChip Studio의 데이터 처리 속도를 가속화시키기 위해 8레인 PCIe를 지원하고 16개 가상

    코어 CPU와 연결되어 16채널 이상의 비디오 데이터를 동시에 처리하는 BrainChip 가속기를 발표

    하였다. Akida NSoc는 운전자보조시스템(ADAS), 비전 시스템, 자율주행자동차, 자율비행 무인항

    공기, 핀테크, 사이버 보안, Civil Surveillance, 카지노 솔루션 등이 응용 분야이다. 브레인칩사는

    호주 주식 시장에 상장되어 있다[6].

    [그림 3] 브래인칩 스튜디오

  • ICT신기술

    정보통신기획평가원 17

    III. 인공지능 칩 스타트업 동향

    [표 1]의 인공지능 칩 스타트업 리스트는 crunc