谷歌發(fā)明的用于神經(jīng)網(wǎng)絡(luò)任務(wù)的AI芯片，通過引入標(biāo)準(zhǔn)人工智能運(yùn)算管芯，使得AI芯片可以應(yīng)對(duì)多種復(fù)雜的網(wǎng)絡(luò)結(jié)構(gòu)，從而降低了芯片設(shè)計(jì)時(shí)長(zhǎng)以及減少了設(shè)計(jì)的工作量。

自從谷歌公司的AlphaGo機(jī)器人戰(zhàn)勝人類圍棋之后，人工智能便一直活躍在人們的視野之中，與各種人工智能方法對(duì)應(yīng)的是AI芯片。而在18年的Next云計(jì)算大會(huì)上，谷歌披露了自家搶攻IoT終端運(yùn)算的戰(zhàn)略武器，其中最引人關(guān)注的就是Edge TPU芯片的發(fā)布。

據(jù)悉，谷歌不僅為在自己的數(shù)據(jù)中心開發(fā)人工智能芯片，還打算在將其設(shè)計(jì)的Edge TPU用在其他公司生產(chǎn)的產(chǎn)品中。這種人工智能芯片在物聯(lián)網(wǎng)應(yīng)用以及智能終端設(shè)備中具有巨大的使用空間。

在AI芯片設(shè)計(jì)方面，隨著神經(jīng)網(wǎng)絡(luò)的使用在人工智能計(jì)算領(lǐng)域中迅速增長(zhǎng)，專用集成電路（ASIC）的專用計(jì)算機(jī)的使用已經(jīng)被用于處理神經(jīng)網(wǎng)絡(luò)，雖然這些方法可以用于設(shè)計(jì)AI芯片，但是隨著神經(jīng)網(wǎng)絡(luò)的普及和針對(duì)其使用神經(jīng)網(wǎng)絡(luò)的任務(wù)范圍的增長(zhǎng)，較長(zhǎng)的設(shè)計(jì)時(shí)間和不可忽略的非重復(fù)性工程成本將會(huì)加劇。

為此，谷歌在18年9月21日申請(qǐng)了一項(xiàng)名為“用于使用具有多個(gè)相同的管芯的單片封裝處理神經(jīng)網(wǎng)絡(luò)任務(wù)的設(shè)備和機(jī)制”的發(fā)明專利（申請(qǐng)?zhí)枺?01880033593.8），申請(qǐng)人為谷歌有限責(zé)任公司。

根據(jù)該專利目前公開的資料，讓我們一起來看看谷歌的這項(xiàng)專利技術(shù)吧。

如上圖，為該專利中發(fā)明的用于處理神經(jīng)網(wǎng)絡(luò)任務(wù)的系統(tǒng)，該系統(tǒng)主要包括主處理單元101和人工智能處理單元102，這種系統(tǒng)可以應(yīng)用在服務(wù)器和物聯(lián)網(wǎng)（IoT）設(shè)備中。AIPU 102是主處理單元101的協(xié)處理器，主處理單元通過通信路徑104a和104b耦合到AIPU。

AIPU包括多個(gè)人工智能處理管芯（103a-103f），這些管芯的結(jié)構(gòu)都是相同的，可以用來處理神經(jīng)網(wǎng)絡(luò)相關(guān)的計(jì)算任務(wù)，這個(gè)示意圖中展示了6個(gè)這種處理管芯，而其數(shù)目可以基于由主要計(jì)算設(shè)備處理的神經(jīng)網(wǎng)絡(luò)模型的層數(shù)而變化，也正是這種標(biāo)準(zhǔn)處理管芯的引入，使得定制ASIC的挑戰(zhàn)得以減輕。

也就是說，需要多少處理管芯是由要處理的任務(wù)所決定的，例如當(dāng)這種神經(jīng)網(wǎng)絡(luò)處理器應(yīng)用在智能恒溫器上時(shí)，由于智能恒溫器的神經(jīng)網(wǎng)絡(luò)模型的層數(shù)可能小于數(shù)據(jù)中心的計(jì)算設(shè)備，因?yàn)樘幚淼娜蝿?wù)會(huì)更加簡(jiǎn)單，因此其需要的管芯數(shù)也會(huì)更少。這樣有利于節(jié)省硬件開銷，避免不必要的算力浪費(fèi)，下面我們來這個(gè)處于核心地位的管芯的內(nèi)部邏輯吧。

如上圖，為人工智能處理單元的人工智能處理管芯的功能邏輯示意圖，其中主要包括主機(jī)接口單元、緩沖器、控制器、緩沖器、計(jì)算單元以及輸入輸出（I/O）模塊。可以看到在模塊的四個(gè)角均有輸入輸出模塊，因?yàn)檩斎胼敵瞿K的引腳被配置為雙向的，使得I/O模塊可以從源單元接收數(shù)據(jù)并向目的單元發(fā)送數(shù)據(jù)。

主機(jī)接口單元經(jīng)過I/O引腳從控制器中接收數(shù)據(jù)，并經(jīng)過I/O引腳將數(shù)據(jù)發(fā)送到主處理單元控制器。緩沖器中存儲(chǔ)著數(shù)據(jù)，控制器負(fù)責(zé)從緩沖器中存取數(shù)據(jù)，這些數(shù)據(jù)包括各種指令數(shù)據(jù)以及神經(jīng)網(wǎng)絡(luò)的待處理數(shù)據(jù)，具體應(yīng)用這種管芯的方法如下圖所示。

在人工智能處理管芯的方法流程圖中可以看到，系統(tǒng)首先會(huì)接收輸入數(shù)據(jù)以配置AIPU，這些配置數(shù)據(jù)也會(huì)傳遞到AIPU中的每個(gè)AIPD上，不同的神經(jīng)網(wǎng)絡(luò)處理任務(wù)會(huì)發(fā)送不同的數(shù)據(jù)，只有在管芯依據(jù)所要進(jìn)行的任務(wù)正確配置的前提下，才可以正確的完成任務(wù)。

例如，如果由AIPU處理的神經(jīng)網(wǎng)絡(luò)的第一層需要第一組權(quán)重值而同時(shí)第二層需要另外一組第二組權(quán)重值時(shí)，則關(guān)聯(lián)于神經(jīng)網(wǎng)絡(luò)的第一層相關(guān)聯(lián)的配置參數(shù)將會(huì)于第二層進(jìn)行區(qū)分。這樣的設(shè)計(jì)方案也是由于神經(jīng)網(wǎng)絡(luò)每層的結(jié)構(gòu)都可以不相同，為了靈活的應(yīng)對(duì)層出不窮的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。

在當(dāng)AIPU接收到數(shù)據(jù)信號(hào)后，基于配置數(shù)據(jù)來配置每一個(gè)AIPD，最后將確認(rèn)信號(hào)發(fā)送到主處理器，以等待任務(wù)的開始。

最后，我們來看看這種基于神經(jīng)網(wǎng)絡(luò)模型來處理神經(jīng)網(wǎng)絡(luò)任務(wù)的流程圖，首先將于神經(jīng)網(wǎng)絡(luò)相關(guān)的初始數(shù)據(jù)發(fā)送到AIPU，AIPU配置好后會(huì)執(zhí)行相關(guān)層的計(jì)算任務(wù)，同時(shí)將計(jì)算結(jié)果發(fā)送到第二AIPD，最后將計(jì)算的結(jié)果從AIPU發(fā)送到主處理器中，并將神經(jīng)網(wǎng)絡(luò)的處理結(jié)果發(fā)送到用戶。

以上就是谷歌發(fā)明的用于神經(jīng)網(wǎng)絡(luò)任務(wù)的設(shè)備及方法，通過引入標(biāo)準(zhǔn)人工智能運(yùn)算管芯，使得AI芯片可以從容的應(yīng)對(duì)不同復(fù)雜程度的神經(jīng)網(wǎng)絡(luò)以及數(shù)量變化不定的卷積核等參數(shù)，這樣就可以跨多個(gè)產(chǎn)品使用標(biāo)準(zhǔn)管芯，從而使得芯片設(shè)計(jì)時(shí)長(zhǎng)和非重復(fù)性工作都可以得以更有效的分?jǐn)偂?/p>

關(guān)于嘉德

深圳市嘉德知識(shí)產(chǎn)權(quán)服務(wù)有限公司由曾在華為等世界500強(qiáng)企業(yè)工作多年的知識(shí)產(chǎn)權(quán)專家、律師、專利代理人組成，熟悉中歐美知識(shí)產(chǎn)權(quán)法律理論和實(shí)務(wù)，在全球知識(shí)產(chǎn)權(quán)申請(qǐng)、布局、訴訟、許可談判、交易、運(yùn)營(yíng)、標(biāo)準(zhǔn)專利協(xié)同創(chuàng)造、專利池建設(shè)、展會(huì)知識(shí)產(chǎn)權(quán)、跨境電商知識(shí)產(chǎn)權(quán)、知識(shí)產(chǎn)權(quán)海關(guān)保護(hù)等方面擁有豐富的經(jīng)驗(yàn)。
責(zé)任編輯:tzh