神經(jīng)網(wǎng)絡(luò)起源于上世紀(jì)五六十年代，當(dāng)時(shí)還叫感知機(jī)，分為輸入層、隱含層和輸出層。輸入的特征向量通過(guò)隱含層變換達(dá)到輸出層，在輸出層得到分類結(jié)果。早期的感知機(jī)只有單層，隨著科學(xué)的發(fā)展，直到八十年代才被發(fā)明出多層感知機(jī)，多層感知機(jī)可以使用sigmoid或tanh等連續(xù)函數(shù)模擬神經(jīng)元對(duì)激勵(lì)的響應(yīng)，在訓(xùn)練算法上采用反向的BP算法，這就是我們現(xiàn)在所說(shuō)的神經(jīng)網(wǎng)絡(luò)NN。而多層感知機(jī)給我們的啟示是，神經(jīng)網(wǎng)絡(luò)的層數(shù)直接決定了他對(duì)現(xiàn)實(shí)的刻畫能力，所以隨著研究的深入出現(xiàn)了如今的DNN深度神經(jīng)網(wǎng)絡(luò)。

目前，神經(jīng)網(wǎng)絡(luò)已經(jīng)廣泛應(yīng)用在語(yǔ)音識(shí)別，圖像處理，機(jī)器視覺(jué)等人工智能領(lǐng)域。其中，在2012年的圖像分類挑戰(zhàn)賽中，Geoffrey和他的學(xué)生Alex提出了AlexNet這個(gè)經(jīng)典之作，刷新了圖像分類的記錄，取得本次挑戰(zhàn)賽冠軍，并一舉奠定了深度學(xué)習(xí)在計(jì)算機(jī)視覺(jué)中的地位。之后幾年，許多更深的神經(jīng)網(wǎng)絡(luò)被提出，比如優(yōu)秀的VGG，GoogleNet。

?

圖1 AlexNet的結(jié)構(gòu)模型

Xilinx Kintex UltraScale FPGA + xDNN Library + AlexNet + Caffe：
在2012年之后，深度學(xué)習(xí)席卷而來(lái)，一統(tǒng)天下，所向披靡。各類神經(jīng)網(wǎng)絡(luò)模型如雨后春筍涌現(xiàn)，DNN，CNN，RNN，SDA，RBP，RBM從一種思想迅速被應(yīng)用到實(shí)際神經(jīng)網(wǎng)絡(luò)算法函數(shù)中，神經(jīng)網(wǎng)絡(luò)對(duì)語(yǔ)音識(shí)別的速度，對(duì)圖像識(shí)別的速度每日都在刷新著記錄。

想看一下機(jī)器推理的運(yùn)算速度有多快，效率有多高嗎？在上月末，Xilinx推出了一段視頻，這個(gè)視頻向你展示了在FPGA上利用8位整數(shù)實(shí)現(xiàn)AlexNet inage-classification算法時(shí)有多快（快于1800 image classification/sec），有多高效（低于50W的功率消耗）。這個(gè)視頻中的demo展示的是在Xilinx UltraScale FPGA上利用xDNN深度神經(jīng)網(wǎng)絡(luò)來(lái)實(shí)現(xiàn)開(kāi)源的Caffe 深度學(xué)習(xí)結(jié)構(gòu)，當(dāng)然開(kāi)發(fā)過(guò)程是在Xilinx Kintex UltraScale FPGA 加速器開(kāi)發(fā)套件上實(shí)現(xiàn)的。以上的所有部分都包含在Xilinx 可編程加速堆中。

?

圖2 Xilinx UltraScale FPGA套件

同時(shí)，如果你可以用16位整數(shù)實(shí)現(xiàn)這個(gè)demo，那么你可以達(dá)到demo中一般的性能，詳細(xì)信息可在xilinx官網(wǎng)看到( https://forums.xilinx.com/t5/Xcell-Daily-Blog/Counter-Intuitive-Fixed-Po... )。

Why？
眾所周知，目前的大部分算法加速，神經(jīng)網(wǎng)絡(luò)都是由軟件程序來(lái)實(shí)現(xiàn)的，這些軟件程序往往都十分龐大，數(shù)據(jù)量也十分龐大，對(duì)相應(yīng)PC硬件的要求也十分高。近年來(lái)，出現(xiàn)了一波加速器芯片，這些芯片都是針對(duì)特定算法實(shí)現(xiàn)硬件加速設(shè)計(jì)的，成本較高，進(jìn)入市場(chǎng)的時(shí)間十分緩慢。

Xilinx公司推出的 Kintex UltraScale FPGA（包含在Xilinx 可編程加速堆系列中），內(nèi)部集成了可重構(gòu)的可編程加速堆，這是專門針對(duì)密集型計(jì)算的數(shù)據(jù)分析和人工智能應(yīng)用而設(shè)計(jì)的?？梢詫㈩愃朴谏衔闹械纳窠?jīng)網(wǎng)絡(luò)結(jié)構(gòu)在此加速堆上實(shí)現(xiàn)，提高其運(yùn)行速度（硬件并行運(yùn)算總是快于軟件的），從而達(dá)到機(jī)器推理的高效快速運(yùn)算。

總結(jié)：
現(xiàn)在，深度學(xué)習(xí)，機(jī)器學(xué)習(xí)，神經(jīng)網(wǎng)絡(luò)席卷我們周圍的所有大型運(yùn)算，高科技前沿領(lǐng)域。FPGA作為硬件領(lǐng)域的中堅(jiān)力量，利用硬件的獨(dú)特優(yōu)勢(shì)積極加入，軟硬件互相促進(jìn)發(fā)展，是當(dāng)前技術(shù)發(fā)展的趨勢(shì)。Xilnx 作為FPGA領(lǐng)域的領(lǐng)頭羊，有何理由不積極推進(jìn)呢？