近年來，隨著越來越多的人工智能（AI）與機(jī)器學(xué)習(xí)（ML）成功案例出現(xiàn)，它們已經(jīng)從一個相對模糊的計算機(jī)科學(xué)概念迅速發(fā)展成為實現(xiàn)智能化的必備技術(shù)。國際權(quán)威基金評級機(jī)構(gòu)Morningstar預(yù)測，2021年全球AI芯片市場規(guī)模有可能超過200億美元。2017年5月Grand View Research 的最新報告稱，全球深度學(xué)習(xí)市場規(guī)模預(yù)計在2025年達(dá)到102億美元。

機(jī)器學(xué)習(xí)算法和深度學(xué)習(xí)芯片組在取得不斷突破的同時，AI也持續(xù)向不同垂直行業(yè)領(lǐng)域、邊緣終端縱橫滲透，從軟/硬兩方面實現(xiàn)降本增效及體驗升級，而整個AI產(chǎn)業(yè)生態(tài)正在構(gòu)建，新的秩序正在形成，市場玩家已遠(yuǎn)不止IT巨頭與“獨角獸們”，包括Arm在內(nèi)的IP設(shè)計公司、通用或?qū)Ｓ眯酒?、傳統(tǒng)電子、通信巨頭也紛紛開展自己的AI生態(tài)布局。

近日在Arm Tech Day上，Arm多部門的技術(shù)專家首次聯(lián)手為業(yè)界闡述了Arm AI/ML發(fā)展觀和最新戰(zhàn)略布局。針對不同AI需求層次、發(fā)展路徑、市場空白，Arm又會如何應(yīng)對呢？

Arm機(jī)器學(xué)習(xí)事業(yè)部技術(shù)總監(jiān)Ian Bratt在Arm Tech Day上發(fā)表演講

“慢工出細(xì)活”，Arm穩(wěn)步推進(jìn)AI平臺搭建

在智能化的行業(yè)大背景下，機(jī)器學(xué)習(xí)可以被應(yīng)用于公司中每個崗位，并可能影響到各行各業(yè)各家公司，眾多玩家紛紛涌入該領(lǐng)域。不過隨著高速5G網(wǎng)絡(luò)時代的到來，Arm機(jī)器學(xué)習(xí)事業(yè)部技術(shù)總監(jiān)Ian Bratt認(rèn)為， AI應(yīng)用場景所要求的低時延與快速響應(yīng)、將實時數(shù)據(jù)傳輸至云端的成本與出于對數(shù)據(jù)安全性的保護(hù)，機(jī)器學(xué)習(xí)正在由數(shù)據(jù)中心走向邊緣設(shè)備，而在邊緣端部署機(jī)器學(xué)習(xí)的關(guān)鍵并不在于某一款處理器，圍繞的其實是更為宏觀的生態(tài)系統(tǒng)。

Arm一直在扎實而積極地布局AI/ML領(lǐng)域，通過不斷推出創(chuàng)新架構(gòu)與高性能IP加強(qiáng)AI/ML的計算力。“2017年3月，Arm推出全新DynamIQ技術(shù)，代表了多核處理設(shè)計行業(yè)的轉(zhuǎn)折點，其靈活多樣性將重新定義更多類別設(shè)備的多核體驗，覆蓋從端到云的安全、通用平臺，利用針對AI/ML的全新處理器指令集以實現(xiàn)更先進(jìn)的人工智能；

2018年2月， Arm為了實現(xiàn)在邊緣的AI/ML工作負(fù)載推出了Project Trillium項目，這是一套包括Arm ML處理器與OD（Object Detection）處理器在內(nèi)的高度可擴(kuò)展處理器的IP組合，能夠在大量提升計算需求的同時，也保持出色的能效表現(xiàn)。后文要提到的ML處理器則是專門針對機(jī)器學(xué)習(xí)而重新設(shè)計的，它基于高度可擴(kuò)展的Arm機(jī)器學(xué)習(xí)架構(gòu)，并達(dá)到了機(jī)器學(xué)習(xí)應(yīng)用場景要求的最高性能和效率；

2018年6月，Arm發(fā)布全新計算和多媒體IP套件，包括基于DynamIQ技術(shù)的Cortex-A76 CPU，Mali-G76 GPU與Mali-V76 VPU，對Arm Project Trillium項目完美補充，也將高性能計算力由移動端覆蓋到筆記本端。”Arm市場營銷資深總監(jiān)Ian Smythe介紹了Arm針對不用層次、環(huán)節(jié)AI/ML需求的扎實創(chuàng)新節(jié)奏。

Arm全新計算和多媒體IP套件優(yōu)化了AI/ML在設(shè)備端的使用

此外，有研究分析顯示：目前中國AI開發(fā)者正在接受從封閉的單機(jī)系統(tǒng)轉(zhuǎn)向快捷靈活的開源框架的新一代AI技術(shù)演進(jìn)。而據(jù)悉，Arm Project Trillium絕不是要與現(xiàn)有的成熟神經(jīng)網(wǎng)絡(luò)開源框架（如Caffe、TensorFlow等）競爭。實質(zhì)上，它依靠類似于Arm NN等神經(jīng)網(wǎng)絡(luò)機(jī)器學(xué)習(xí)軟件橋接了現(xiàn)有神經(jīng)網(wǎng)絡(luò)框架與在嵌入式 Linux 平臺上運行的底層處理硬件（例如 CPU、GPU 、Arm 機(jī)器學(xué)習(xí)處理器或合作伙伴IP），讓開發(fā)人員繼續(xù)使用他們首選的框架和工具，無縫轉(zhuǎn)換結(jié)果后可在底層平臺上運行，真正達(dá)到無處不在的機(jī)器學(xué)習(xí)應(yīng)用。

“從0開始”設(shè)計ML處理器架構(gòu)，Arm補全AI市場空白

雖然目前市場上幾乎所有機(jī)器學(xué)習(xí)工作負(fù)載，利用針對機(jī)器學(xué)習(xí)應(yīng)用優(yōu)化的最新Cortex-A76處理器應(yīng)對已完全沒有問題，但Arm機(jī)器學(xué)習(xí)事業(yè)部技術(shù)總監(jiān)Ian Bratt始終認(rèn)為，機(jī)器學(xué)習(xí)作為一種全新的技術(shù)，如果想在該領(lǐng)域更進(jìn)一步，比如獲得更高的計算密度，Arm也必須要“從0開始”設(shè)計一個全新的處理器架構(gòu)，從而實現(xiàn)未來最高效率、最高吞吐量且靈活的機(jī)器學(xué)習(xí)負(fù)載處理。

由于Arm在CPU和GPU處理器領(lǐng)域擁有世界領(lǐng)先的技術(shù)，因此Arm專用機(jī)器學(xué)習(xí)處理器在設(shè)計時很好結(jié)合了在CPU與GPU方面的領(lǐng)先技術(shù)，實現(xiàn)了高效的卷積、高效的數(shù)據(jù)移動與可編程性和靈活性，目標(biāo)是能夠在7nm制程工藝之下，實現(xiàn)3 TOPs/W的性能。據(jù)Ian Bratt介紹，Arm 第一代ML處理器設(shè)計的高峰吞吐量是每秒4.6 TOPs，同時有針對激活和權(quán)重專門的硬件壓縮，利用了Cortex-M的技術(shù)來支持Android NNAPI和Arm NN計算節(jié)點。同時Arm也專門配置了一套開源軟件堆棧實現(xiàn)在ML處理器上成功便捷的部署ML。

Arm ML專用處理器的幾大特征

除了開發(fā)機(jī)器學(xué)習(xí)專用處理器外，Arm目標(biāo)檢測處理器目前也已經(jīng)發(fā)展到了第二代，支持全高清、每秒60幀的實時處理。在與Arm其他處理器進(jìn)行協(xié)同工作時，OD處理器能進(jìn)行預(yù)處理，先甄別出來每幀畫面上的關(guān)鍵要素，再傳給其他的處理器去處理，大幅度降低其他處理器的工作量。目前第一代OD處理器已經(jīng)成功用于英國Hive，以及中國?？低?/u>的監(jiān)控攝像頭。