Languages
Pages
Legal
ICT신기술
정보통신기획평가원 13
*
오재섭
한국인터넷전문가협회 연구소장
I. 엣지 컴퓨팅, 클라우드, AI 칩
현재 다수의 인공지능 애플리케이션은 훈련-학습-추론을 위해 인터넷으로 연결된 고성능 서버에
있으며 클라우드를 통해 서비스된다. 오프라인에서 제품, 디바이스, 기계 등의 지능형 사물(Smart
Things)에서 훈련-학습-추론을 실행하는 스마트 엣지 컴퓨팅이 중요해지고 있다.
가트너는 2018년 및 2019년 10대 기술 중 하나로 엣지 컴퓨팅을 선정하였다. 가트너는 엣지
컴퓨팅을 “정보 처리 및 콘텐트 수집·전달이 엣지 디바이스에 가까이하여(엣지 디바이스 자체 및
근거리 소형 서버) 처리되는 컴퓨팅 방식”으로 정의한다. 엣지 컴퓨팅을 “메쉬 네트워킹 및 분산
컴퓨팅에서 파생된 것으로, 클라우드에서 데이터 트래픽 및 대기 시간을 줄이려는 목적으로 트래픽
처리 및 연산을 중앙이 아닌 로컬에서 수행하는 방식”이라고 설명한다[1],[2].
엣지 컴퓨팅은 분산 컴퓨팅 측면을 강조하는 클라우드 컴퓨팅으로 이해할 수 있으며, 클라우드
컴퓨팅과 엣지 컴퓨팅은 상충관계가 아니라 보완 관계로 진화할 것으로 판단된다. 엣지 컴퓨팅을
통해 클라우드에서 통신 연결 및 대기 시간, 대역폭 제약을 보완하면서 지능형 사물에 탑재되어
있는 하드웨어(센서, 스토리지, 프로세서 등), 기계학습 내장의 소프트웨어 등의 기능을 활용할 수
있기 때문이다[3].
오프라인에 존재하는 사물에 통신, 센서, 스토리지, 프로세서, 기계학습 기능이 탑재되어 단순한
엣지 다비이스에서 스마트 엣지 디바이스로 진화하고 있다. 인공지능 서비스 제공자, 연결형 제품
개발사, 스마트 엣지 컴퓨팅 개발사, IoT 디바이스 개발사, 인공지능 칩 개발사들은 인공지능 칩(뉴
로모픽 프로세서, 딥러닝 프로세서, Vision DSP 등), 단순 디바이스·센서 및 산업용 디바이스에서
웨어러블 디바이스, 음성인식 스피커, 스마트폰, PC·태블릿PC, 자율주행자동차, 자율주행 드론,
로봇에 이르기까지 인공지능 능력을 탑재한 스마트 엣지 디바이스와 제품을 출시하고 있다.
* 본 내용은 오재섭 연구소장(☎ 010-5341-5990, [email protected])에게 문의하시기 바랍니다.
** 본 내용은 필자의 주관적인 의견이며 IITP의 공식적인 입장이 아님을 밝힙니다.
인공지능 칩 스타트업 동향
14 www.iitp.kr
주간기술동향 2018. 5. 22.
센서, 스토리지, 인공지능 칩, 컴퓨팅 파워를 탑재한 스마트 엣지 디바이스는 100만 분의 1초
지연 시간 내에서 데이터를 처리해야(훈련-학습-추론) 하는 영역과 인터넷 연결이 어려운 영역부터
시작될 것이다. 인공지능은 스마트 엣지 컴퓨팅을 통해 자율주행자동차, 자율비행 드론, 비전 시스
템, 스마트 카메라, 산업용 검사 장비, 스마트 가전 등에 응용 및 확대될 것으로 판단된다. 예컨대,
자율주행자동차 혹은 자율비행 드론의 경우, 가속-제동-방향 전환 등의 결정이 실시간으로 실행되
어야 하기 때문에, 생성된 데이터가 클라우드를 통하지 않고, 오프라인에서 스마트 엣지 디바이스를
통해 이벤트를 실시간으로 처리할 수 있어야 한다.
스마트 엣지 컴퓨팅을 가능하게 하려면 엣지 디바이스에서 생성된 데이터로 훈련하고 학습하고
추론할 수 있는 기계학습 능력을 가져야 한다. 스마트 엣지 컴퓨팅을 가능하게 하는 뉴로모픽 프로세
서, IPU, 딥러닝 프로세서, Vision DSP 등의 인공지능 칩이 등장하고 있으며, 이런 혁신적 기술을
주도하는 스타트업 동향을 살펴본다.
II. 인공지능 칩 상장기업 동향
인공지능 칩이란 효율적으로 기계학습 알고리즘과 관련 데이터 프로세싱에 특화된 칩이다. II장과
III장에서는 인공지능 칩 선두업체인 IBM, 인텔, 퀄컴, 엔비디어에 대해서는 간략하게 정리하고,
소프트뱅크, 브레인칩, 인공지능 칩 스타트업에 대해서는 비교적 세부적으로 정리하였다.
IBM사는 TrueNorth 뉴로모픽 칩을 개발하였
다. 4,096개의 트루노스 프로세서로 이루어진 전
자회로 소자들을 연결하는 상용 기술을 개발하였
다[4].
인텔사는 이미지 인식과 로봇 제어 등에 사용할
5세대 뉴로모픽 프로세서 Loihi를 개발하였다. 인
텔은 뉴로모픽 프로세서를 지속적으로 개발하고
있으며, Loihi 칩은 5세대에 해당한다[4].
퀄컴사는 시냅스 연결 강도를 조절해 정보를 처리
하는 뉴로모픽 프로세서 ‘제로스’를 개발하였다[4].
엔비디아사는 저전력 인공지능 모듈 Jetson을
개발하였다. 드론 및 로봇에 적용 가능한 저전력 [그림 1] arm ML 프로세서 아키텍처
ICT신기술
정보통신기획평가원 15
기계학습 하드웨어 모듈을 개발하였다[4].
소프트뱅크사는 Arm사를 인수하여 사물인터넷 지능 기술 개발에 집중하고 있다. 초저전력 프로
세서에 구동 가능한 사물인터넷용 기계학습 플랫폼 프로젝트 트릴리움을 진행하고 있다. 프로젝트
트릴리움은 에코시스템, 소프트웨어, 하드웨어로 구성되어 있다. 에코시스템은 기계학습 애플리케이
션, 알고리즘과 프레임워크로 구성되어 있으며, 프레임워크는 텐서플로우, 텐서플로우 라이트, 파이
토치, ONNX, MXNET, Caffe, Caffe2, 안드로이드 NNAPI를 지원한다. 소프트웨어는 arm 하드
웨어에 최적화된 소프트웨어 라이브러리로서, arm NN, arm COMPUTE LIBRARY, CMSIS-NN
으로 구성되어 있다. 하드웨어는 인공지능/기계학습용 arm 하드웨어 IP이며, NPU(기계학습 프로세
서), GPU arm MALI, CPU arm cortex/arm DynamIQ/arm NEVERSE, DSP/ FPGA/가속기로
구성되어 있다. 특히, 기계학습 프로세서인 NPU는 기계학습에 최적화된 프로세서로, 스마트 카메
라, AR/VR, 드론, 의료와 소비자 가전 등의 시장과 모바일에 최적으로 사용될 수 있도록 설계되었
으며, 콘볼루션 레이어(Convolution Layer) 실행을 위한 고정 함수 엔진(Fixed Function Engine),
비-콘볼루션 레이어 실행을 위한 프로그램 가능 레이어로 구성되어 있다.
arm ML 프로세서는 텐서플로우, 텐서플로우 라이트, 카페, 카페2 등의 소프트웨어 프레임워크
를 지원한다[5].
브레인칩사는 뉴런 신경 네트워크(Neuron-Spiking Neural Network)의 작동 원리를 모방한
뉴로모픽 시스템온칩 Akida NSoc를 개발하였다. Akida NSoc는 소비 전력이 15W에 불과하며,
120만 개 뉴런과 100억 개 시냅스로 구성되어 있으며, 독립 임베디드 가속기 혹은 보조 프로세서로
[그림 2] 아키다 NSoC 구성요소
16 www.iitp.kr
주간기술동향 2018. 5. 22.
사용되도록 설계되어 있다. Akida NSoc는 기존 픽셀 기반 이미징 처리, 동적 비전 센서, 라이다,
오디오 및 아날로그 신호용 센서를 위한 인터페이스를 제공하며, 고속 데이터 인터페이스를 제공하
기 위해 PCIe, USB, 이더넷을 지원한다.
브레인칩사는 아키다 NSoC에 이어 Akida 개발 환경, BrainChip Studio, BrainChip 가속기를
개발하였다. Akida 개발 환경은 시스템 개발을 위한 SNIC 생성 및 테스트를 위한 기계학습 프레임
워크로, Akida 실행 엔진, 데이터-스파이크 변환기, SNN 모델 등을 포함하며, Jupiter Notebook,
NumPy, Matplotlib를 포함하는 파이썬 및 라이브러리를 지원한다. 아키다 실행 엔진은 파이썬
스크립트에서 API 호출을 통해 신경 네트워크 토폴로지, 훈련 방법 및 실행을 위한 데이터 집합을
지정할 수 있다.
BrainChip Studio는 대규모 비디오 데이터에서 사람 혹은 얼굴을 검색하고, 패턴 또는 얼굴을
식별할 수 있는 도구를 지원한다.
BrainChip Studio의 데이터 처리 속도를 가속화시키기 위해 8레인 PCIe를 지원하고 16개 가상
코어 CPU와 연결되어 16채널 이상의 비디오 데이터를 동시에 처리하는 BrainChip 가속기를 발표
하였다. Akida NSoc는 운전자보조시스템(ADAS), 비전 시스템, 자율주행자동차, 자율비행 무인항
공기, 핀테크, 사이버 보안, Civil Surveillance, 카지노 솔루션 등이 응용 분야이다. 브레인칩사는
호주 주식 시장에 상장되어 있다[6].
[그림 3] 브래인칩 스튜디오
ICT신기술
정보통신기획평가원 17
III. 인공지능 칩 스타트업 동향
[표 1]의 인공지능 칩 스타트업 리스트는 crunchbase.com, cbinsights.com, bloomberg.com
을 통해 작성하였다[7]-[9]. 기술 유형, 스마트 엣지 컴퓨팅 지원, 서버 지원 여부를 기준으로 표를
구성하였다. 또한, 스타트업 유무를 가리기 위해 투자 단계와 주요 투자자를 표로 구성하였다. 21개
스타트업에 대한 정보는 crunchbase.com, cbinsights.com, bloomberg.com과 각 사의 홈페
이지를 통해 정리하였다. 21개 스타트업의 인공지능 칩 기술 유형은 Deep Learning Processor
9개사, Neuromorphic Processor 3개사, Vision DSP 3개사, Optical Quantum AI Computing
3개사 등이다. 스마트 엣지 컴퓨팅을 지원하는 스타트업이 Wave Computing을 비롯한 15개사,
서버를 지원하는 스타트업이 Xanadu를 비롯한 13개사, 스마트 엣지 컴퓨팅과 서버를 동시에 지원
하는 스타트업이 Wave Computing을 비롯하여 7개사가 있다. 기술 관점에서 그래프코어, Mythic,
캠브리콘 테크놀러지를 사례로 분석하였다.
[표 1] 인공지능 칩 스타트업 현황
기업명 투자 단계 투자자 기술 유형스마트 엣지
컴퓨팅 지원
서버
지원
Xanadu[10] Seed 골든 벤처, 리얼 벤처Optical Quantum AI
Computing■
Wave Computing[11] Series E 삼성 Deep Learning Processor ■ ■
Vicarous[12] Series C주커버그, 제프 베조, 삼성,
ABB 등Deep Learning Processor ■
Vayyar[13] Series C BV, BESSMER 등 Vision DSP ■
ThinkForce[14] Series AYITU, YFC, 세쿼이어 차이나
등AI Acceleration Engine ■ ■
ThinCI[15] Series C 덴소, 매그나 등 4개사 Graph Streaming Processor ■
Tenstorrent[16] Seed리얼 벤처, Creative
Destruction LabDeep Learning Processor ■ ■
Rigetti
Computing[17]Series B
Andreessen Horowitz, Vy
Capital
Optical Quantum AI
Computing ■
Reduced Energy
Microsystems[7]Seed Y콤비네이터, 드래이퍼 등 Deep Learning Processor ■
Nervana[18] Series A 인텔 Deep Learning Processor ■
Movidius[19] Series E 인텔 합병Neural Compute Engine
Accelator(Appl: Vision DSP)■
18 www.iitp.kr
주간기술동향 2018. 5. 22.
1. 그래프코어: 딥 러닝 프로세서
그래프코어는 영국에 기반을 둔 인공지능(AI) 칩 스타트업으로, 창업자는 사이몬 놀스와 나이젤
툰이다. 2016년에 설립되었으며, 기계 학습 및 인공지능 애플리케이션 관련 처리와 가속을 담당하
는 IPU(Intelligence Processing Unit) 기술을 발표하였다. 구글 딥마인드의 CEO 데미스 하사비
<자료> 한국인터넷전문가협회 자체 작성
[그림 4] 그래프코어 IPU의 훈련과 추론 과정
기업명 투자 단계 투자자 기술 유형스마트 엣지
컴퓨팅 지원
서버
지원
LightOn[20] Seed Quantonation, Anorak 등Optical.Quantum AI
Computing ■
KnuEdge[8] Series A Spruce Up, 힐탑 브루잉 등 Neuromorphic Processor ■
Knowm[21] n/a noneNeuro-Immersive Processors
(Thermodynamic RAM)■
Horizon Robotics[22] Series B 인텔, SK Hynix Vision DSP ■
CyberSwarm[23] Seed Giza Polish 벤처 등AI-기반 사이버시큐리티 특화
CPU■
Cerebras
Systems[24]Series C Benchmark Capital 등 Deep Learning Processor ■ ■
SambaNova
Systems[25]Series B 인텔, 구글 벤처 등 Deep Learning Processor ■
Graphcore[26] Series D삼성, 델, 세쿼이어, MS,
BMW, 보쉬 등Deep Learning Processor ■ ■
Mythic[27] Series B 록히드마틴, 소프트뱅크 Neuromorphic Processor ■ ■
Cambricon
Technologies[28]Series B 알리바바 등 Deep Learning Processor ■ ■
ICT신기술
정보통신기획평가원 19
스, 오픈 AI의 공동 설립자인 그렉 브로크만과 일리야 수츠케바, 캠브리지대의 인공지능 연구자
주빈 가라마니가 엔젤 투자자로 참여하고 있다. 2016년 삼성과 보쉬는 시리즈 A 펀딩 투자를 하였
고, 2018년 마이크로소프트 등은 시리즈 D 펀딩 투자를 하였다.
IPU는 중앙처리장치(CPU)나 그래픽처리장치(GPU)보다 더 효율적으로 기계학습 알고리즘과 데
이터 프로세싱에 특화된 칩으로, 훈련 데이터/센서 데이터에서 패러미터를 학습하고 지식 모델을
이용하여 출력을 추론한다.
IPU는 경쟁사 제품보다 1~2배 향상된 성능을 제공하는 것으로 알려져 있으며, 자율주행자동차와
의학 분야 등에서 활용될 것으로 기대되고 있는데, 230억 개의 트랜지스터로 구성되어 있다.
IPU를 지원하는 환경은 표준 기계학습 프레임워크, LLVM을 이용하여 그래프 맵핑과 코드 컴파
일러를 빌드하는 POPLAR GRAPH COMPILER, 실행용 드바이버/유틸리티/그래프 엔진, POP
GRAPH 프로그래밍 프레임워크와 오픈 소스 기계학습 라이브러리, 고급 시각화 도구와 디버그
도구, 이용자 문서/예제/튜토리얼로 구성되어 있다.
그래프코어의 IPU는 TensorFlow, PYTORCH, MXNet, 딥러닝을 재현하는 개방형 포맷의
ONNX를 지원한다.
그래프코어는 IPU를 지원하기 위한 드라이버와 유틸리티를 제공하고 있으며, PCIe 드라이버,
이용자 공간 API, IPU 하드웨어 추상화 레이어, 그래프코어 디바이스 접근으로 구성되어 있다.
IPU 프로세서 GC2 2개를 이용하여 PCIe 카드형 기계학습 가속기를 개발하였다[26].
[그림 5] 그래프코어사의 COLOSUS GC2 IPU
20 www.iitp.kr
주간기술동향 2018. 5. 22.
2. Mythic: 뉴로모픽 프로세서
Mythic사는 뉴로모픽 프로세서 개발사로, 록히드 마틴과 소프트뱅크로부터 투자를 유치하였다.
Mythic사는 내장형 플래시 메모리 기술을 이용하여 뉴럴 네트워크 가중치를 아날로그 패러미터로
저장하여 프로세서와 DRAM 간의 데이터 전송에 소비되는 전력을 제거할 수 있는 뉴로모픽 프로세
서 개발에 집중하고 있다. 특히, 아날로그 인-메모리 컴퓨팅(analog in-memory)을 저전력 클라이
언트 상태의 뉴럴 네트워크에 응용하는 것을 목표로 한다. 예컨대, 감시와 드론용 스마트 카메라에
적용한다.
플래시 메모리에서 직접 곱셈 연산을 수행하여 DRAM 읽기/쓰기 사이클을 제거함으로써 GPU에
서 구동되는 추론 엔진의 정확성과 전력 사용을 일치시킬 수 있다. 인공신경망은 1,000만~1억 개
이상의 가중치를 DRAM에 저장한다. 이런 가중치는 너무 크기 때문에 저렴한 클라이언트 프로세서
에 저장할 수 없다. 예컨대, ResNet-50은 2,500만 가지의 가중치를 이용한다. 하지만 Mythic사
는 소비전력이 5W 이하에서 5MB의 온 칩 SRAM만을 이용하여 네트워크를 실행한다.
Mythic사는 Fujitsu의 40nm 임베디드 플래시 셀을 이용하고 있는데, 이 셀은 디지털-아날로그
변환기(DAC) 및 아날로그-디지털 변환기(ADC)와 어레이에 통합되어 있다. 이 기술은 비트 셀에
아날로그 전압 범위를 저장하고 셀의 전압 가변 컨덕턴스(Conductance)를 사용하여 8 비트 레솔
루션(Resolution)으로 가중치를 나타낸다.
이 기술은 시냅스 가중치를 저장하기 위해 가변-컨덕턴스 셀(Variable-Conductance Cells)을
사용하는 상-변화 메모리(Phase-Change Memory: PRAM)를 기반으로 하는 IBM의 아날로그
뉴럴 네트워크 기술과 유사하다.
디지털 애플리케이션에서 각 플래시 셀은 일반적으로 스토리지 트랜지스터가 완전히 켜지거나
꺼지는 2전압 레벨 중 하나만 저장한다. 비트 셀이 전도될 때, 감지 증폭기는 전류를 논리 1로
검출한다. Mythic의 IPU 아키텍처에서 8비트
DAC는 256개의 서로 다른 전압을 저장할 수
있으므로 256개의 서로 다른 컨덕턴스(G) 값
이 완전히 꺼지고(off) 켜(on)진다. 셀 그룹을
전압 신호에 연결하는 것은 행렬 곱셈을 수행하
는 것과 같지만 디지털 논리 대신에 옴의 법칙
(I= V×G)을 사용하는 것과 같다. 센스 증폭기
(Sense Amps)를 사용하여 1비트 레솔루션으
<자료> mythic
[그림 6] 플래시 메모리 기반의 뉴럴 네트워크 가속기
ICT신기술
정보통신기획평가원 21
로 전류를 감지 또는 차단하는 것이 아니라 ADC는 8비트 레솔루션으로 이를 측정한다. 이 기술이
훈련에 필요한 동적 범위가 부족하지만 추론 엔진에 적합하다.
Mythic의 첫 번째 제품은 DAC 회로를 생략했다. 따라서 이용자는 외부 전압 소스로 디바이스를
프로그래밍해야 한다. 플래시 셀은 쌍으로 작동하며 쌍의 전류를 뺄 때 -127에서 +127 사이의
가중치를 나타낼 수 있다.
8비트 DAC는 신경망 가중치를 나타내기 위해 메모리 셀에서 전압 가변 컨덕턴스를 프로그래밍
한다. 추론할 때, 곱셈은 옴의 법칙을 따르며, 입력 신호 전압과 저장된 무게의 곱인 전류를 생성한다.
4개 IPU 프로세서를 이용하여 PCIe 카드형 기계학습 가속기를 개발하였다.
Mythic은 자사의 IPU를 위한 컴파일러를 제공한다. 컴파일러는 Mapper, Quantizer, Static
Analyzer, Simulator, Validity Checker, Equivalance Checker, Optimizer, Firm Generator
로 구성되어 있다. 전체 구성은 이용자 입력, 컴파일러, Firm Binary, Profiling Information으로
구성되어 있다.
Mythic사는 자사의 IPU를 이용하여 아마존의 알렉사와 같은 디바이스 단에서 인식 성능 향상,
자율비행 드론, 청음 센서 혹은 영상 센서를 이용한 모니터링(배터리 기반), 스마트폰 기반 의료
전문 서비스 등을 이용례(Use Cases)로 개발하고 있다[27].
3. 캠브리콘 테크놀러지: 딥 러닝 프로세서
2016년 캠브리콘 테크놀러지는 캠브리콘 1A 프로세서(Cambricon-1A)를 출시하였다. 캠브리
콘 1A 프로세서는 스마트폰, 웨어러블 디바이스, 보안 감시, 드론, 자율주행 등에 사용되는 딥러닝
[그림 7] Mythic의 IPU를 스마트 카메라 같은 임베디드 시스템에 통합한 사례
22 www.iitp.kr
주간기술동향 2018. 5. 22.
프로세서(Deep Learning Processor)이다.
80W TDP를 지닌 베이스 모델과 110W
TDP를 지닌 퍼포먼스 모델 2가지가 출시되었
다. MLUv01 아키텍처에 기반한 MLU100 프
로세서는 딥러닝에 널리 활용되는 엔비디아의
GPU보다 연산 능력이 스펙상 우수하다고 주장
한다. 기계학습에서 중요한 정밀도 연산 능력이
64/83.2 TFLOPS이고 8비트 정수 연산 능력
은 128/166.4 TOPS에 달하는 것으로 알려져 있다. 스펙상으로는 엔비디아의 볼타를 능가한다.
그러나 이는 구글 TPU처럼 기계학습 연산에 필요한 논리만 넣었기 때문일 가능성이 있다. 메모리로
DDR4 3200을 사용하고 있어 메모리 대역폭도 102.4GB/sec에 있다. 그래픽 및 범용 병렬 연산
에 필요한 유닛 없이 오로지 기계학습 연산 유닛만 넣어서 성능을 높인 것으로 전문가들은 판단하고
있다.
중국 화웨이/HiSilicon이 개발한 KiRin970에 Cambricon-1A이라는 인공지능 연산 로직이 포
함되어 있는 것으로 알려져 있다. 2019년 4월 16일 기준으로 화웨이 홈페이지에 게시되어 있는
HUAWEI Mate X의 스펙 정보를 보면 Kirin 980에 NPU(Neural Network Processing Unit)가
포함되어 있다. 2019년 캠브리콘 1A에 이어 캠브리콘 1H8과 캠브리콘 1M을 출시하였다. 캠브리
콘 1M은 CNN, RNN, SOM과 같은 딥러닝 모델, SVM, k-NN, k-Means, 의사결정 나무, 기타
알고리즘을 지원하는 것으로 알려져 있다. 캠브리콘 MLU 100 칩과 PCIe 기반의 프로세싱 카드로
발표되었으며 레노버의 Think System SR650 서버에 애드온 카드로 탑재되어 출시된 것으로 알
려져 있다.
캠브리콘 NeuWare용 SDK를 제공한다. NeuWare용 SDK는 기계학습 라이브러리 CN-ML,
모델 생성 도구 CN-Gen, 컴파일러 CN-CC, 성능 분석 도구 CN-Perf, 디버깅 도구 CN-GDB로
구성되어 있다. 또한, TensorFlow, Caffe, Caffe의 경량 버전 Caffe2, MXNet, 딥러닝을 재현하
는 개방형 포맷의 ONNX를 지원하는 것으로 알려져 있다.
그러나 2016년 중국에서 개최된 제3차 세계 인터넷 컨퍼런스에서 Cambricon-1A의 성능을
발표하였지만, 실제 성능과 신뢰성이 어느 정도인지 알려진 바가 없다. 최근 펀딩 유형은 시리즈
B이다. 중국 정부 소유의 벤처 캐피탈인 SDIC 벤처 캐피탈, China Capital Investment Group,
TCL Capital, CITIC Securities, 레노버 캐피탈 & 인큐베이터 그룹, 알리바바 VC가 투자자로
참여하고 있다[28].
[그림 8] 캠브리콘 딥러닝 프로세서 1H8과 MLU100 PCIe 보드
ICT신기술
정보통신기획평가원 23
IV. 결론
IBM, 인텔, 퀄컴, 소프트뱅크, 브레인칩 외에 21개 인공지능 칩 관련 스타트업의 기술 유형은
Deep Learning Processor, Neuromorphic Processor, Vision DSP, Optical Quantum AI
Computing 등이다. 인공지능 칩 관련 스타트업들은 다양한 인공지능 응용의 목적과 구현 방법,
다양한 요구사항에 대응할 수 있는 인공지능 칩 관련 기술을 개발하고 있다. 브레인칩, 그래프코어,
Mythic, 캠브리콘 등은 스마트 엣지 컴퓨팅을 지원하는 인공지능 칩과 서버를 지원하는 인공지능
칩을 개발하고 있다. 기계학습 프레임워크 TensorFlow, 딥러닝 플랫폼 PYTORCH, 딥러닝 프레임
워크 MXNet, 딥러닝을 재현하는 개방형 포맷의 ONNX 등의 오픈 소스 기반의 딥러닝 프레임워크
를 지원한다. 오픈소스 기반의 기계학습 프레임워크를 지원하는 것은 에코시스템과 Open Platform
을 가능하게 하고, 이에 따라 Open 플랫폼과 인공지능 칩을 기반으로 낮은 비용으로 인공지능
애플리케이션을 개발할 수 있는 환경이 조성되고 있다.
이런 환경에서 딥러닝 프로세서, 뉴로모픽 프로세서, Vision DSP 등의 인공지능 칩을 포함하는
스마트 엣지 컴퓨팅을 기반으로 연결형 제품과 서비스 융합을 구현하려는 시도는 추상적 아이디어를
넘어 상용화 차원으로 넘어갈 것으로 보인다. 이런 환경 변화에 적응하고자 하는 기업들은 새로운
비즈니스 기회를 제품 중심이 아닌 스마트 연결형 제품 혹은 스마트 엣지 디바이스에서 훈련-학습-
추론하여 이용자에게 서비스(제품-서비스 시스템)를 제공할 수 있어야 한다. 반도체 관련 기업들은
다양한 인공지능 응용의 목적과 구현 방법, 다양한 요구사항에 대응할 수 있는 인공지능 칩 관련
기술을 개발하고, 오픈 소스 기반의 기계학습 프레임워크와 오픈 소스 기반의 개발 지원 환경을
제공할 수 있어야 할 것이다.
[ 참고자료 ]
[1] Gartner, “Top 10 Strategic Technology Trends for 2018,” 2017, p.15.
[2] Gartner, “Top 10 Strategic Technology Trends for 2019,” 2018, p.20.
[3] 한국정보통신기술협회, 정보통신용어사전, 2019.
[4] 과학기술정보통신부, “과학기술 & ICT 정책 기술 동향”, No.116, 2018, p.6.
[5] Arm, https://www.arm.com/products/silicon-ip-cpu/machine-learning/project-trillium, 2019.
[6] BrainChip, http://www.brainchip.com/technology, 2019.
[7] Crunchbase, http://www.crunchbase.com, 2019.
[8] CBINSIGHTS, http://www.cbinsights.com, 2019.
[9] Bloomberg, http://www.bloomberg.com, 2019.
24 www.iitp.kr
주간기술동향 2018. 5. 22.
[10] Xanadu, https://www.xanadu.ai/hardware, 2019.
[11] Wave Computing, https://wavecomp.ai/products, 2019.
[12] Vicarious, https://www.vicarious.com/research, 2019.
[13] Vayyar, https://www.vayyar.com/technology, 2019.
[14] ThinkForce, http://www.think-force.com/site/chip, 2019.
[15] EETimes, “With $65M, ThinCI joins Elite AI Startup Club,” 2018.
[16] Bloomberg, “Company Overview of Tenstorrent Inc.,” 2019.
[17] Rigetti Computing, https://www.rigetti.com/qpu, 2019.
[18] IEEE SPECTRUM, “Nervana Systems puts Deep Learning AI in the Cloud,” 3 Mar 2016.
[19] The Economist, After Moore’s Law, 2016.
[20] LightOn, http://www.lighton.ai/our-technology, 2019.
[21] Knowm, https://www.knowm.org/technology, 2019.
[22] Reuters, “Chinese AI Chip Maker Horizon Robotics raises $600 Million from SK Hynix, Others,”
2019.
[23] CyberSwarm, “Investor Deck Presentation Material,” 2019.
[24] Forbes, “AI Chip Boom: This Stealthy AI Hardware Startup is worth almost a Billion,” 2017.
[25] Forbes, “SambaNova Systems, A Startup in the Hot AI Hardware Space, scores $150 Million
Investment form Intel and Alphabet,” 2019.
[26] Financial Times, “UK Start-up Graphcore aims to dominate AI Chip Industry,” 2019.
[27] The Line Group, “Microprocessor Report: Mythic Multiplies in a Flash,” 2018.
[28] Cambricon Technologies, http://www.cambricon.com, 2019.