SynSense時(shí)識(shí)科技于近日提出一種基于神經(jīng)元時(shí)序編碼的全新ANN-SNN轉(zhuǎn)換方法，克服了類腦芯片上因傳統(tǒng)頻率編碼造成突觸操作數(shù)過(guò)多而導(dǎo)致的較高能耗問(wèn)題，能夠大大降低類腦芯片上有效突觸操作和存儲(chǔ)訪問(wèn)，從而顯著降低了類腦芯片的實(shí)時(shí)推理功耗及延遲。這一全新方案提供了一種可行的、代價(jià)極低的脈沖神經(jīng)網(wǎng)絡(luò)訓(xùn)練方法，為構(gòu)建大規(guī)模深層類腦芯片鋪平了道路。

該方法由SynSense時(shí)識(shí)科技瑞士團(tuán)隊(duì)及創(chuàng)始人兼CEO喬寧博士提出，目前已獲得發(fā)明專利授權(quán)。自成立以來(lái)，SynSense時(shí)識(shí)科技多項(xiàng)成果獲得發(fā)明專利授權(quán)。以市場(chǎng)需求為導(dǎo)向，SynSense時(shí)識(shí)科技在啟發(fā)自大腦的高能效計(jì)算基礎(chǔ)上，通過(guò)全方位創(chuàng)新，保證了類腦芯片的超低延遲、超低功耗潛力，不僅進(jìn)一步凸顯了知識(shí)產(chǎn)權(quán)市場(chǎng)價(jià)值及自主技術(shù)競(jìng)爭(zhēng)力，還將有助于設(shè)備性能的大幅提升，并使用戶最終受益。

基于神經(jīng)元時(shí)序編碼的全新ANN-SNN轉(zhuǎn)換方法

顯著降低芯片功耗

“為了充分發(fā)揮類腦芯片事件驅(qū)動(dòng)、低功耗的潛力，SynSense時(shí)識(shí)科技提出利用TTFS的神經(jīng)元脈沖編碼方式和增加額外的1或2個(gè)突觸，即可實(shí)現(xiàn)10-50倍網(wǎng)絡(luò)運(yùn)算稀疏度的提升?！?/p>

脈沖神經(jīng)網(wǎng)絡(luò)（SNN）是一種高度仿生的第三代神經(jīng)網(wǎng)絡(luò)，通過(guò)利用時(shí)間和空間稀疏性而實(shí)現(xiàn)超低功耗應(yīng)用。在類腦硬件上執(zhí)行時(shí)，其功耗與脈沖的數(shù)量/突觸操作數(shù)成比例。目前，將ANN轉(zhuǎn)換SNN的方案中，對(duì)于神經(jīng)元的轉(zhuǎn)換，大多數(shù)轉(zhuǎn)換方法依賴于頻率編碼來(lái)表示ANN的ReLU激活，需要大量的脈沖以及用于編碼信息的精度表達(dá)。對(duì)于類腦硬件而言，其消耗的能量與脈沖發(fā)放數(shù)量呈正相關(guān)關(guān)系。頻率編碼導(dǎo)致的神經(jīng)元頻繁發(fā)放脈沖，這顯然會(huì)導(dǎo)致較高的能量消耗。因此，更為稀疏的神經(jīng)元編碼轉(zhuǎn)換機(jī)制是迫切亟需的。

目前，常見(jiàn)的脈沖編碼方法有頻率編碼（rate coding）、首個(gè)脈沖時(shí)間編碼（TTFS）、群編碼（Population Coding）等。

頻率編碼

主要考察脈沖發(fā)放率，刺激的強(qiáng)弱程度由神經(jīng)元發(fā)放脈沖的頻率反映，強(qiáng)烈的刺激導(dǎo)致高頻脈沖序列。頻率編碼的主要缺點(diǎn)是信息傳輸效率不高但魯棒性好，因此是一種廣泛使用的編碼方案。這也目前ANN轉(zhuǎn)SNN方案，使用SNN中的脈沖頻率近似代替ANN中ReLU激活值的理論基礎(chǔ)。

首個(gè)脈沖時(shí)間編碼

關(guān)注從接受刺激到發(fā)放首個(gè)脈沖的時(shí)間，一般刺激越強(qiáng)，脈沖發(fā)放越早。TTFS中每個(gè)神經(jīng)元僅使用一個(gè)脈沖，是一種高效簡(jiǎn)潔的編碼方案。但TTFS方案面臨神經(jīng)元激活過(guò)早進(jìn)而導(dǎo)致SNN精度降低的困境。多數(shù)TTFS方案會(huì)采用動(dòng)態(tài)膜電壓閾值以阻止神經(jīng)元過(guò)早被激活。

對(duì)此，SynSense時(shí)識(shí)科技提出了一種名為Quartz的全新ANN-SNN方法：

為了充分發(fā)揮類腦芯片事件驅(qū)動(dòng)、低功耗的潛力，SynSense時(shí)識(shí)科技提出利用TTFS的神經(jīng)元脈沖編碼方式和增加額外的1或2個(gè)突觸，即可實(shí)現(xiàn)10-50倍網(wǎng)絡(luò)運(yùn)算稀疏度的提升。

與需要復(fù)雜的神經(jīng)元模型或計(jì)算操作的方法不同，該方法使用簡(jiǎn)單的神經(jīng)元和突觸模型，依賴額外的突觸連接來(lái)維持神經(jīng)元激活的穩(wěn)定性：

突觸1有助于防止早期發(fā)放并減少量化誤差。突觸2則在特定時(shí)間點(diǎn)上強(qiáng)制神經(jīng)元發(fā)放脈沖，作為時(shí)間等效的整流操作。其目標(biāo)是在保持脈沖數(shù)量和能量消耗最小的情況下，縮小ANN和轉(zhuǎn)換后的SNN之間的準(zhǔn)確性差距。 這一方案為芯片實(shí)現(xiàn)提供諸多顯著優(yōu)勢(shì)。在CIFAR10數(shù)據(jù)集上，配置預(yù)訓(xùn)練的VGG?11網(wǎng)絡(luò)、Tmax =64參數(shù)，使用本發(fā)明方案的SNN精度相比于ANN網(wǎng)絡(luò)精度，僅下降0.01%，而突觸操作數(shù)為180萬(wàn)次，相比于傳統(tǒng)頻率編碼下降1?2個(gè)數(shù)量級(jí)。在Loihi芯片上驗(yàn)證，尤其當(dāng)核心數(shù)量占用少時(shí)，該方案明顯勝于頻率編碼方案，動(dòng)態(tài)功耗更低。 這一方案支持高效地將已有ANN低損地轉(zhuǎn)化為SNN，且無(wú)需復(fù)雜的神經(jīng)元模型或高資源消耗的計(jì)算操作，功耗及帶寬需求更小，成本代價(jià)更低，為構(gòu)建大規(guī)模深層類腦芯片鋪好了低功耗實(shí)施路徑。為使類腦技術(shù)的獨(dú)特優(yōu)勢(shì)在實(shí)際的運(yùn)用過(guò)程中得以發(fā)揮，一直以來(lái)，SynSense時(shí)識(shí)科技持續(xù)技術(shù)創(chuàng)新，從而使類腦芯片功耗降低100-1000倍、實(shí)時(shí)性提升10-100倍且成本降低10倍成為現(xiàn)實(shí)，最終為置入SynSense時(shí)識(shí)科技類腦芯片的電子設(shè)備帶來(lái)超低功耗、永遠(yuǎn)在線的智能信息處理能力。