在萬物互聯(lián)大背景下，預(yù)計未來將有數(shù)以百億的智能設(shè)備連接至互聯(lián)網(wǎng)。思科公司最新數(shù)據(jù)顯示，到 2021 年在全球 271 億連接設(shè)備中，物聯(lián)網(wǎng)設(shè)備將占據(jù)連接主導(dǎo)地位。這一趨勢無疑推動了物聯(lián)網(wǎng)向各行各業(yè)滲透，并將開啟一個“萬物皆有智能”的新型社會，人們能夠享受到更加智慧的生活。在這個大連接、大智能的時代中，具有人工智能要素的芯片需求廣闊，依靠人工智能芯片構(gòu)建數(shù)據(jù)中心，為實現(xiàn)萬物互聯(lián)和人工智能提供基礎(chǔ)計算環(huán)境，包括英偉達在內(nèi)的芯片廠商快速崛起，圍繞人工智能芯片領(lǐng)域的創(chuàng)新企業(yè)也倍受資本支持，讓芯片廠商成為這個時代最大受益者。與此同時，作為產(chǎn)業(yè)制高點，人工智能芯片可應(yīng)用范圍廣，如智能手機、醫(yī)療健康、金融、零售等，發(fā)展空間巨大。2017 年 9 月初，華為公司在柏林 IFA2017新品發(fā)布會上發(fā)布了全球首款人工智能移動芯片“麒麟 970”，該芯片是全球首款內(nèi)置神經(jīng)元網(wǎng)絡(luò)單元的人工智能處理器（NPU），至此拉開了人工智能芯片在移動終端領(lǐng)域滲透的序幕。

一、人工智能芯片的發(fā)展綜述

（一）概念與范疇

根據(jù)清華大學(xué)魏少軍教授的觀點，將“人工智能”劃分為三個層次：第一個層次是應(yīng)用（即：能體現(xiàn)深度學(xué)習(xí)和機器學(xué)習(xí)功能的應(yīng)用）；第二個層次是方法（即：人工智能的算法）；第三個層次是工具（即：開發(fā)工具和芯片）。因此，人工智能芯片是實現(xiàn)人工智能的根本因素。

我們對人工智能芯片進行了定義：從廣義上講，能運行人工智能算法的芯片稱為人工智能芯片；從狹義上講，人工智能芯片是專門針對人工智能算法做了特殊加速設(shè)計的芯片。

（二）分類

深度學(xué)習(xí)的搭建，可分為訓(xùn)練（Training）和推理（Inference）兩個環(huán)節(jié)：

1、訓(xùn)練

通過大量的數(shù)據(jù)輸入，或采取增強學(xué)習(xí)等非監(jiān)督學(xué)習(xí)方法，訓(xùn)練出一個復(fù)雜的深度神經(jīng)網(wǎng)絡(luò)模型。訓(xùn)練過程由于涉及海量的訓(xùn)練數(shù)據(jù)（大數(shù)據(jù)）和復(fù)雜的深度神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)，需要的計算規(guī)模非常龐大，通常需要GPU集群訓(xùn)練幾天甚至數(shù)周的時間，在訓(xùn)練環(huán)節(jié)GPU目前暫時扮演著難以輕易替代的角色。

2、推斷

指利用訓(xùn)練好的模型，使用新的數(shù)據(jù)去“推斷”出各種結(jié)論。雖然推斷環(huán)節(jié)的計算量相比訓(xùn)練環(huán)節(jié)少，但仍然涉及大量的矩陣運算。在推斷環(huán)節(jié)，除了使用CPU或GPU進行運算外，FPGA以及ASIC均能發(fā)揮作用。

二、人工智能芯片的生態(tài)環(huán)境

（一）算法層面：機器學(xué)習(xí)算法不斷成熟

自20世紀80年代起，機器學(xué)習(xí)算法開始快速發(fā)展，包括決策樹學(xué)習(xí)、推導(dǎo)邏輯規(guī)劃、強化學(xué)習(xí)和貝葉斯網(wǎng)絡(luò)等在內(nèi)的多種機器學(xué)習(xí)算法現(xiàn)已被廣泛應(yīng)用于網(wǎng)絡(luò)搜索、垃圾郵件過濾、推薦系統(tǒng)、網(wǎng)頁搜索排序、廣告投放等領(lǐng)域。深度學(xué)習(xí)作為機器學(xué)習(xí)的一種技術(shù)手段，近

年來取得重大突破，因此掀起了人工智能新一輪的發(fā)展熱潮。

深度學(xué)習(xí)本質(zhì)上就是利用深度神經(jīng)網(wǎng)絡(luò)處理海量數(shù)據(jù)，其優(yōu)勢在于利用海量數(shù)據(jù)讓神經(jīng)網(wǎng)絡(luò)自己學(xué)習(xí)如何抓取特征，進而提高算法性能，加快了人工智能大規(guī)模商業(yè)化步伐。2016年，谷歌的圍棋人工智能程序AlphaGo以4:1大比分戰(zhàn)勝韓國頂尖棋手李世石，讓世界震驚。

隨后僅僅一年的時間，谷歌又推出新程序AlphaGo Zero，可以不依靠人類指導(dǎo)和經(jīng)驗，僅憑自身算法強化學(xué)習(xí)，就以100:0的戰(zhàn)績擊敗了AlphaGo。同時新版對計算力的消耗也大幅降低，相比于舊版的多臺機器和48個TPU，新版只用了一臺機器和4個TPU。由此可以看出，深度學(xué)習(xí)算法的不斷成熟，以及迭代速度的加快，為人工智能硬件環(huán)境的提升和完善提供了支撐條件。

（二）數(shù)據(jù)層面：結(jié)構(gòu)性數(shù)據(jù)

獲取能力不斷提升以往數(shù)據(jù)收集終端和場景缺失，缺少易于處理的結(jié)構(gòu)化數(shù)據(jù)，使得數(shù)據(jù)樣本非常稀缺，達不到有效的訓(xùn)練目的，現(xiàn)在智能手機、可穿戴設(shè)備、智能汽車等智能終端的

快速發(fā)展使得數(shù)據(jù)的感知、獲取、分析及存儲能力都在不斷提升。數(shù)據(jù)感應(yīng)能力提升。隨著傳感器種類的不斷豐富以及物聯(lián)網(wǎng)體系的建立，使得可獲取的數(shù)據(jù)越來越多。據(jù)市場調(diào)研機構(gòu)Gartner統(tǒng)計和預(yù)測，2017年全球物聯(lián)網(wǎng)設(shè)備數(shù)量達到84億，同比增長31%；到

2020年，物聯(lián)網(wǎng)設(shè)備總規(guī)模進一步提升，數(shù)量將達到204億，較2017年增長超過142%。

網(wǎng)絡(luò)傳輸能力不斷提升。隨著通信技術(shù)的發(fā)展，有線網(wǎng)絡(luò)從電纜傳輸?shù)焦饫w傳輸，無線網(wǎng)絡(luò)從2G/3G到4G/5G,均帶來了傳輸速度的提升。另一方面?zhèn)鬏敿軜?gòu)的變革帶來傳輸能

力飛躍。集中式存儲使得內(nèi)存成為數(shù)據(jù)傳輸?shù)钠款i之一，而分布式網(wǎng)絡(luò)傳輸架構(gòu)的出現(xiàn)，產(chǎn)生了分布式隊列技術(shù)，如Kafka，拓寬了傳輸?shù)耐ǖ?，使得傳輸能力大幅提升?/p>

（三）計算能力：摩爾定律無法支撐數(shù)據(jù)量爆發(fā)增長

人工智能的基礎(chǔ)是針對海量數(shù)據(jù)的深度學(xué)習(xí)，無論是無人駕駛，還是圖像識別、語音識別等，系統(tǒng)底層架構(gòu)都是基于大數(shù)據(jù)的邏輯算法。根據(jù)IDC研究報告，全球數(shù)據(jù)總量正呈指數(shù)級增長，從2003年的5EB，到2016年12ZB，預(yù)計于2020年達到44ZB。然而，現(xiàn)有硬件算力遠

無法匹配大數(shù)據(jù)的高速增長，計算能力已成為限制人工智能發(fā)展的主要瓶頸。

目前提升計算能力主要有三條發(fā)展路徑。一是持續(xù)強化CPU處理能力。然而，隨著CPU特征尺寸不斷逼近物理極限，新世代產(chǎn)品研發(fā)成本越來越高，2016年英特爾宣布停用“Tick-Tock”處理器研發(fā)模式，研發(fā)周期將從2年周期向3年期轉(zhuǎn)變。摩爾定律正逐步失效，CPU處理能力升級速度遠遠落后于數(shù)據(jù)增長速度，已無法支撐人工智能海量數(shù)據(jù)的并行計算。二是采用CPU+X的異構(gòu)計算模式。短期來看，異構(gòu)計算的方式已基本滿足人們對處理器更快速、更高效、更方便的使用要求，但如果讓處理器可以達到模擬人腦神經(jīng)元和腦電信號脈沖這樣復(fù)雜的結(jié)構(gòu)，就必須突破現(xiàn)有馮諾依曼的體系結(jié)構(gòu)框架，使計算能力實現(xiàn)質(zhì)的飛躍?；谏鲜鲈?，提升算力的根本方法在于采取非馮諾依曼架構(gòu)的處理器。例如，類腦計算機通過模仿人類大腦的工作機制，進而徹底打破了馮諾依曼體系的發(fā)展瓶頸。

三、人工智能芯片的主要技 術(shù)路線

（一）基于FPGA技術(shù)

1、概述

FPGA（Field Programmable Gate Array）是在可編程器件的基礎(chǔ)上進一步發(fā)展的半定制電路，通過將門電路與存儲器有機結(jié)合，并設(shè)計門電路間互聯(lián)，進而達到定制目的。FPGA由于是非馮諾依曼架構(gòu)，使得其在運算單元和存儲單元間的信息交換量大幅降低，因此具有流水處理和響應(yīng)迅速的特點。FPGA芯片行業(yè)的生產(chǎn)廠商較多，其中Xilinx（賽靈思）、Altera（阿

爾特拉）、Lattice（萊迪思）和Microsemi（美高森美）4家美國企業(yè)握有大部分FPGA專利，且壟斷98%以上的市場份額。其中Xilinx和Altera分別占比49%和39%，剩余2家占比12%。如今國際半導(dǎo)體巨頭看好基于FPGA的人工智能芯片應(yīng)用前景，紛紛布局基于FPGA的人工智能芯片，例如，英特爾收購了Altera；IBM與Xilinx合作等等。國內(nèi)研發(fā)FPGA產(chǎn)品的公司主要有紫光國芯、深鑒科技、廣東高云、上海安路、西安智多晶和上海遨格芯等。

2、主要優(yōu)勢

FPGA適用于快速變化的人工智能領(lǐng)域。FPGA兼容了PLD和通用門陣列的優(yōu)點，可實現(xiàn)較大規(guī)模的電路。目前人工智能算法的更新迭代速度很快，通用化邏輯芯片更能適應(yīng)變化迅速的人工智能領(lǐng)域。

理論上分析，F(xiàn)PGA可以實現(xiàn)任意ASIC和DSP的邏輯功能。在實際應(yīng)用中，開發(fā)人員可通過FPGA的軟件來修改芯片，而不是替換和重新設(shè)計芯片?，F(xiàn)有FPGA軟件也可通過因特網(wǎng)進行遠程升級。這將極大的方便人員在人工智能領(lǐng)域進行自由開發(fā)、調(diào)試和升級換代。

FPGA的開發(fā)周期短，研發(fā)費用低，有利于更早占據(jù)市場。由于FPGA的開發(fā)流程，不涉及布線、掩模和流片等步驟，使得開發(fā)周期縮減，一款產(chǎn)品的平均設(shè)計周期大約在7個月到12個月之間。FPGA產(chǎn)品的全球最大廠商Xilinx認為，更快的研發(fā)速度，可以更早的占據(jù)市

場。如果產(chǎn)品晚上市6個月，5年內(nèi)將會少33%的利潤，晚上市4周約等于損失了14%的市場份額。因此，基于FPGA的人工智能芯片可以快速占領(lǐng)市場。同時， FPGA的商業(yè)模式

與GPU、ASIC略有不同，眾多的客戶會共同分擔(dān)FPGA芯片的研發(fā)費用（NRE），從而降低研發(fā)成本。所以FPGA可以采用最先進的工藝，不斷降低產(chǎn)品的功耗，增加晶體管的數(shù)量，從而提升了FPGA在人工智能市場上的競爭力。伴隨著人工智能芯片NRE費用的指數(shù)級上升，基于FPGA開發(fā)設(shè)計新一代人工智能產(chǎn)品的優(yōu)勢會更加明顯。FPGA并行計算效率高，整數(shù)

運算能力出眾。FPGA率先使用最先進工藝，單個計算單元的計算頻率突破500MHz。在某些應(yīng)用場景下，大量低速并行單元的計算效率要高于少量高速串行單元。同時，F(xiàn)PGA芯片的整數(shù)運算效率大大超過CPU。在當前人工智能的企業(yè)級應(yīng)用中，F(xiàn)PGA占據(jù)了主導(dǎo)地位，如：圖像識別、卷積神經(jīng)網(wǎng)絡(luò)算法、安全控制、壓縮算法等。

3、主要劣勢

FPGA芯片中包含大量的邏輯器件與陣列，其批量生產(chǎn)成本高、產(chǎn)品功耗大和編程設(shè)計較難，使其應(yīng)用領(lǐng)域受到局限。批量生產(chǎn)成本高。由于FPGA流片成本高昂，實現(xiàn)同樣的人工智能

應(yīng)用，制作FPGA芯片的成本可能會超過ASIC的成本10倍以上。如果在流片量高于5萬片的人工智能終端產(chǎn)品等領(lǐng)域，如：車載、手機、音箱、機器人等，生產(chǎn)成本將十分高昂。

產(chǎn)品功耗大。為適應(yīng)下游用戶復(fù)雜多樣的需求和應(yīng)用，F(xiàn)PGA的門電路集成度往往很高，然而具體到某一應(yīng)用，冗余的門電路會提升 FPGA 的功耗。然而在功耗敏感的領(lǐng)域中，這是非常致命的缺陷。

例如，無人駕駛的汽車利用圖像視覺技術(shù)和深度學(xué)習(xí)技術(shù)，實時分析周圍環(huán)境，每小時處理的數(shù)據(jù)量接近3TB，汽車本身無法承受，基于FPGA的智能芯片所產(chǎn)生的耗電量。編程設(shè)計難。在FPGA編程設(shè)計時，要考慮諸多因素，例如：應(yīng)用場景多樣性、復(fù)雜性和運行效

率。這些因素導(dǎo)致軟件開發(fā)工作十分復(fù)雜，需要投入大量研發(fā)人員，例如：Xilinx公司的員工中，60%-70%的研發(fā)人員，在進行軟件開發(fā)工作。

4、應(yīng)用場景

基于FPGA芯片的通用性，使其在人工智能的多個領(lǐng)域具有豐富的應(yīng)用前景，例如：云端服務(wù)器、智能醫(yī)療、智能交通、智能家居、無線/有限通訊、航空、國防等領(lǐng)域。這些領(lǐng)域的共同特點是，對設(shè)備的功耗要求不高。人工智能的云端設(shè)備。人工智能深度學(xué)習(xí)算法包括訓(xùn)練和推斷兩個截然不同的環(huán)節(jié)。訓(xùn)練環(huán)節(jié)需參考海量數(shù)據(jù)，必需在云端執(zhí)行。推斷環(huán)節(jié)可云端或終端均可完成。因此發(fā)展云端設(shè)備要比終端設(shè)備更為重要。由于FPGA具有動態(tài)可重配、

性能功耗比高等多項優(yōu)點，所以，全球7大超級數(shù)據(jù)計算中心，包括IBM、Facebook、微軟、AWS，以及BAT都采用了基于FPGA的云端數(shù)據(jù)服務(wù)器。在新一代人工智能云端設(shè)備的布局上，中美兩國齊頭并進。

圖像識別技術(shù)。人工智能技術(shù)在圖像識別領(lǐng)域日臻完善，可以實時地感知探測器周圍的環(huán)境細節(jié)，得到更加清晰的圖像信息，進一步可以輔助人類完成一系列的任務(wù)。無論是分布式智能傳感器，還是集中多傳感器融合系統(tǒng)，又或是高度集成的域控制器，均可通過擴展FPGA的器件選擇，來滿足處理需求并達到目標成本。Xilinx公司開發(fā)的XA產(chǎn)品系列，以及SoC/MPSoC可創(chuàng)建高度差異化的汽車駕駛員輔助系統(tǒng)(ADAS，主要包括行車記錄儀、測距儀、雷達、傳感器、GPS、等設(shè)備)。浙江大學(xué)數(shù)理學(xué)院，與浙江德尚韻興圖像科技有限公司合

作，研發(fā)了一款基于Altera公司的人工智能FPGA芯片的超聲醫(yī)學(xué)影像智能診斷系統(tǒng)，DE超聲機器人。語音識別技術(shù)。FPGA芯片已在人工智能的語音識別領(lǐng)域得到廣泛應(yīng)用。國際上，微軟、谷歌、蘋果、亞馬遜等跨國企業(yè)，紛紛推出了語音識別產(chǎn)品。國內(nèi)，北京深鑒

科技有限公司采用LSTM方案，進行語音識別，結(jié)合深度壓縮算法，使得經(jīng)過壓縮的網(wǎng)絡(luò)，在FPGA上實現(xiàn)超越Pascal Titan X GPU一個數(shù)量級的能效比。