AI芯片是如何誕生的，發(fā)展的動(dòng)力在哪？與傳統(tǒng)的CPU相比有何不同？國(guó)內(nèi)的AI科研以及投資出現(xiàn)了怎樣的偏差？最近，美國(guó)杜克大學(xué)終身教授陳怡然接受了專訪。

AI芯片，或許你已經(jīng)聽說，或許還沒怎么意識(shí)到。當(dāng)手機(jī)刷臉解鎖，當(dāng)闖紅燈被拍，當(dāng)無人車送貨，當(dāng)照片被自動(dòng)分類，當(dāng)你對(duì)著智能音箱大喊大叫，無論是在千里之外的云端還是近在咫尺的終端，AI芯片已無處不在。

AI芯片是如何誕生的，發(fā)展的動(dòng)力在哪？與傳統(tǒng)的CPU相比有何不同？AI對(duì)芯片設(shè)計(jì)會(huì)有怎樣的影響？國(guó)內(nèi)的AI科研以及投資出現(xiàn)了怎樣的偏差？美國(guó)杜克大學(xué)終身教授陳怡然接受專訪，縱論當(dāng)芯片遇到AI，將發(fā)生怎樣的進(jìn)化。

陳怡然（杜克大學(xué)電子與計(jì)算機(jī)工程系教授）

《賽先生》：AI芯片是什么，在哪？

陳怡然：凡是主要目的是用來支撐AI應(yīng)用的計(jì)算需求的芯片就叫AI芯片，我覺得現(xiàn)在基本上相對(duì)比較全面的定義就是這樣。

AI芯片到處都有，原因是AI的應(yīng)用現(xiàn)在到處都有，只要有這些應(yīng)用就必然會(huì)產(chǎn)生對(duì)于計(jì)算的需求，有這種需求就一定要有芯片作為支撐，無論在云端還是邊緣端，都是這樣。

《賽先生》：AI這一波，我們回顧時(shí)通常說，某個(gè)時(shí)候有某個(gè)算法的發(fā)明，AI芯片是否和算法演進(jìn)也緊密聯(lián)系，它發(fā)展的推動(dòng)力來自哪里？

陳怡然：它其實(shí)跟傳統(tǒng)的科學(xué)計(jì)算是一樣的，包括我們常說的Windows～Intel體系。它的推動(dòng)力來自于AI算法的不斷演進(jìn)和數(shù)據(jù)量增長(zhǎng)帶來的處理需求。這兩件事情造成了對(duì)計(jì)算能力需求的顯著提升，才有不斷的新的AI芯片被設(shè)計(jì)出來滿足這樣的需求。

如果把AI的算法作為當(dāng)年Windows的標(biāo)準(zhǔn)看，GPU可以簡(jiǎn)單比作當(dāng)年英特爾的中央處理器。當(dāng)然現(xiàn)在不太一樣的是，我們沒有一個(gè)單獨(dú)的公司去提供AI的算法，有很多公司在做這件事情，也沒有哪一家公司獲得了當(dāng)年像Intel微處理器這樣的地位。Nvidia很接近，但依然有別的公司參與。

《賽先生》：和傳統(tǒng)的芯片相比，AI芯片設(shè)計(jì)有多大的變化？

陳怡然：AI芯片所針對(duì)的算法跟傳統(tǒng)的科學(xué)計(jì)算并不太一樣，這就造成了它主要的設(shè)計(jì)理念，實(shí)際上是如何更有效的把這種已經(jīng)基本上定型的神經(jīng)網(wǎng)絡(luò)的架構(gòu)，通過芯片或者具體來說的晶體管來做物理實(shí)現(xiàn)，這就是我們所說的AI芯片架構(gòu)。

原來做傳統(tǒng)科學(xué)計(jì)算的時(shí)候，要給一個(gè)比較通用的計(jì)算架構(gòu)，把它抽象出來，然后在一個(gè)很高的層次上通過一些很通用的方式去實(shí)現(xiàn)計(jì)算。但是AI芯片不是這樣的。它一開始就是給出一個(gè)類似物理連接的樣子，我就把這個(gè)東西在CMOS電路上盡可能用有效的物理形態(tài)把它表示出來，這樣就避免了那種先抽象，然后再普適的過程，當(dāng)然就變的更加有效。

所以這就是為什么我們會(huì)看到，傳統(tǒng)的科學(xué)計(jì)算的芯片跟AI芯片，架構(gòu)會(huì)有顯著的不同，是因?yàn)樗脑O(shè)計(jì)理念完全不一樣。

而且這一定是一個(gè)長(zhǎng)期的過程，因?yàn)檫@實(shí)際上是在一個(gè)更大的框架，叫做行業(yè)特定設(shè)計(jì)（Domain specific design）之下，說的是要針對(duì)特殊場(chǎng)景設(shè)計(jì)——針對(duì)一個(gè)場(chǎng)景本身，提取出來它最重要的部分；而不是抽象這個(gè)部分，再做有效的設(shè)計(jì)和實(shí)現(xiàn)。這種設(shè)計(jì)的理念可能今后會(huì)是一個(gè)很長(zhǎng)期的趨勢(shì)，原因就是摩爾定律停了，使得芯片的相對(duì)成本在整個(gè)系統(tǒng)實(shí)現(xiàn)成本里面所占比重逐漸降低。

今年圖靈獎(jiǎng)給了一個(gè)約翰·軒尼詩(shī)和大衛(wèi)·帕特森。帕特森曾在一個(gè)演講中表示，現(xiàn)在這個(gè)年代做一個(gè)芯片出來的成本，做最便宜的模型可能只需要幾萬(wàn)美元（當(dāng)然做一個(gè)很復(fù)雜的系統(tǒng)可能還是幾千萬(wàn)），在這種情況下，大家就可以去嘗試很多定制化設(shè)計(jì)，然后找到適合的。這就是為什么做RISC-V這種開源的架構(gòu)，然后找到一個(gè)特殊的應(yīng)用再去定制化把它做出來，這將來可能會(huì)是一個(gè)長(zhǎng)期的趨勢(shì)。

《賽先生》：通用還會(huì)作為一個(gè)追求的目標(biāo)嗎？

陳怡然：通用仍然會(huì)是長(zhǎng)期存在的，因?yàn)檫@是我們的主干。但是隨著業(yè)務(wù)的多樣性，這種針對(duì)具體場(chǎng)景的芯片作為輔助會(huì)越來越多。

《賽先生》：AI對(duì)于傳統(tǒng)芯片設(shè)計(jì)會(huì)帶來很大的改變么？

陳怡然：對(duì)，實(shí)際上AI在EDA軟件設(shè)計(jì)上的應(yīng)用在美國(guó)是非常熱門的話題，原因是，如果人能夠下贏最頂級(jí)的棋手，他也應(yīng)該能戰(zhàn)勝最頂級(jí)的芯片設(shè)計(jì)師，因?yàn)楫吘箒碇v，芯片設(shè)計(jì)還是一個(gè)有一定規(guī)律可循的優(yōu)化過程。

傳統(tǒng)上來講，我們?cè)谠O(shè)計(jì)的時(shí)候，都希望把一個(gè)芯片設(shè)計(jì)的工作抽象成一個(gè)數(shù)學(xué)可以表達(dá)的模型再去做優(yōu)化，AI最大的能力是什么？可以把一個(gè)任務(wù)在你可能不完全理解，或者不能很好的抽象成數(shù)學(xué)模型的情況下，它仍然可以做有效的優(yōu)化，這個(gè)是AI最大的功能或者能力。

那么這個(gè)能力，用于EDA軟件的改進(jìn)，用于減小芯片設(shè)計(jì)的周期，我們可以看到是非常有效果的。所以，現(xiàn)在所有的EDA公司都在做大量的嘗試，而且初步效果非常的好。

《賽先生》：將來芯片設(shè)計(jì)的周期縮的非常短？

陳怡然：芯片設(shè)計(jì)周期會(huì)縮短，現(xiàn)在叫做快速設(shè)計(jì)。現(xiàn)在提出的目標(biāo)是能夠在24小時(shí)內(nèi)完成芯片設(shè)計(jì)，原來是需要幾個(gè)月。

在無人值守的情況下能不能設(shè)計(jì)？就好像原來做皮鞋，都是培養(yǎng)出了一大堆非常心靈手巧的裁縫，有人剪皮子，有人縫，現(xiàn)在全都是機(jī)器去做出來了，完全不需要人工干預(yù)。

什么時(shí)候能實(shí)現(xiàn)這不好說，但一定我們是朝著這個(gè)方向去走的。

《賽先生》：芯片的開發(fā)周期會(huì)比較長(zhǎng)，成本也相對(duì)較高。有沒有可能芯片實(shí)現(xiàn)了某一個(gè)算法以后，因?yàn)樗惴ǖ倪M(jìn)展也很快，等芯片推向市場(chǎng)，已經(jīng)并不是一個(gè)最適合的？

陳怡然：這種情況經(jīng)常出現(xiàn)。因?yàn)樗惴ń?jīng)常會(huì)有一些新的不同的設(shè)計(jì)出現(xiàn)，簡(jiǎn)單的變化包括一些數(shù)字比如權(quán)重變化，不牽涉架構(gòu)變化例如增加網(wǎng)絡(luò)層級(jí)，這些就比較容易通過片上邏輯來實(shí)現(xiàn)。但比較復(fù)雜的是它如果出現(xiàn)了完全不同的架構(gòu)或者以前沒有過的操作，這就很難用已有的片上邏輯來實(shí)現(xiàn)。

我舉一個(gè)簡(jiǎn)單的例子，比如說最早的人工智能芯片只支持MLP這樣的架構(gòu)，就是直接一個(gè)矢量和矩陣相乘就結(jié)束了。后來又出現(xiàn)了卷積神經(jīng)網(wǎng)絡(luò)，它要做卷積，卷積如果不被支持你就必須把卷積拆分成向量跟矩陣相乘，那這個(gè)計(jì)算效能就顯著降下來了，這是一個(gè)很大的問題。

《賽先生》：這種問題怎么去解決？

陳怡然：現(xiàn)在來看有幾種方式，一種方式是在技術(shù)上盡可能地會(huì)有一些可重構(gòu)的器件。如果真的遇到原來設(shè)計(jì)上沒出現(xiàn)過的東西，有些邏輯可以經(jīng)過簡(jiǎn)單的可重構(gòu)之后去支撐這樣的計(jì)算。但是它不是沒有代價(jià)的，這樣做一定會(huì)帶來性能的損失，至少不像直接做一個(gè)針對(duì)性的邏輯更為高效。

第二種，我把主要的方法先用一個(gè)芯片實(shí)現(xiàn)了。如果真的出現(xiàn)什么新情況，旁邊加一個(gè)協(xié)處理器，通過兩邊的協(xié)同來完成。這有點(diǎn)像當(dāng)年的386時(shí)代有一個(gè)整點(diǎn)運(yùn)算器，有一個(gè)浮點(diǎn)運(yùn)算器。只靠整點(diǎn)運(yùn)算器也能算，慢一點(diǎn)，把浮點(diǎn)運(yùn)算器加上就更快一點(diǎn)，這也是一種。

第三種就更極端。因?yàn)樵趯?shí)際部署中，一個(gè)芯片的銷售周期大概是三年，就是從它做出來到在市場(chǎng)上大規(guī)模銷售、使用、消失大概是三年，真正掙錢的周期在12～18個(gè)月。如果期間發(fā)現(xiàn)真的出現(xiàn)了一個(gè)新算法或者應(yīng)用這一代芯片不支持，也沒關(guān)系，下一代再支持就好了，因?yàn)橐淮酒纳芷诜浅６?。但這一招對(duì)小公司不適用，因?yàn)樾」究赡芤淮鷴瓴坏藉X就死了。大公司能撐住，下一代加回來就行。

所以在技術(shù)和商業(yè)模式上大家都有各種各樣的方法可以去應(yīng)對(duì)，并不是這12～18個(gè)月內(nèi)不能出現(xiàn)新的算法或應(yīng)用。

《賽先生》：我們現(xiàn)在已經(jīng)討論晶體管很難做的更小了，這對(duì)于AI芯片設(shè)計(jì)會(huì)有怎樣的影響？

陳怡然：有幾點(diǎn)。第一點(diǎn)，摩爾定律發(fā)展下去，越做越小，可單位晶體管數(shù)目的成本其實(shí)不會(huì)再往下降或者降得很有限，原因是制造成本越來越高。在這種情況下，如何用相同的邏輯數(shù)量去做更多更有效的計(jì)算，或者進(jìn)行計(jì)算的表達(dá)就變的非常重要。

一些新型的器件或者新型的工藝可以有幫助。我舉兩個(gè)例子，比如說有一種技術(shù)叫3D堆疊，可以在同一個(gè)單位面積上堆疊更多層，每層有很多的存儲(chǔ)器或者計(jì)算邏輯，這樣數(shù)據(jù)可以離計(jì)算非常近，提升計(jì)算時(shí)的數(shù)據(jù)傳輸效率。這當(dāng)然就對(duì)AI芯片設(shè)計(jì)比較有效，因?yàn)锳I計(jì)算時(shí)很大程度上是數(shù)據(jù)來回搬來搬去。

另外，也可以去看一些新的器件和材料，有些會(huì)更有效的去做一些AI的運(yùn)算。比如像憶阻器這種東西，它器件的特性非常像神經(jīng)網(wǎng)絡(luò)的神經(jīng)突觸。如果用晶體管來實(shí)現(xiàn)，可能需要幾十甚至上百個(gè)才能做出一個(gè)神經(jīng)突觸?？墒且粋€(gè)甚至比晶體管還小的納米器件就可以做這件事。所以后摩爾定律對(duì)AI芯片還是有幫助的。

《賽先生》：您提到憶阻器，現(xiàn)在對(duì)類腦芯片有很多不同的聲音，有一種反對(duì)聲音認(rèn)為這個(gè)東西好像不太靠譜，包括IBM的TrueNorth，國(guó)內(nèi)也有一些嘗試，您怎么看這種類型的芯片？

陳怡然：首先說一條，我們其實(shí)并不非常清楚的知道人腦是怎么工作的。因?yàn)槲覀儗?duì)人腦的理解，甚至對(duì)人腦認(rèn)識(shí)的工具都處于非常原始的狀態(tài)，當(dāng)然我們已經(jīng)有了一些初步理解。那么這樣來講，其實(shí)類腦芯片或者深度學(xué)習(xí)加速芯片，或者是類腦算法、深度學(xué)習(xí)的算法，它們的緣起實(shí)際上是一樣的，都是最早對(duì)于人的神經(jīng)網(wǎng)絡(luò)尤其是視覺網(wǎng)絡(luò)的學(xué)習(xí)和認(rèn)識(shí)，只是在后期兩邊分道揚(yáng)鑣了。

一邊覺得我希望在數(shù)學(xué)上做越來越多的事情，能夠讓它完成這個(gè)工作就好了。另外一邊希望從生物上對(duì)這個(gè)網(wǎng)絡(luò)有越來越多的理解，通過這個(gè)理解指導(dǎo)我的網(wǎng)絡(luò)設(shè)計(jì)。這相當(dāng)于兩個(gè)流派，打一個(gè)比方，就像劍宗跟氣宗，這兩個(gè)實(shí)際上都是屬于華山派的，現(xiàn)在互相不服氣，深度學(xué)習(xí)加速芯片就說你們那個(gè)生物的好像沒什么用，生物的說，你們那個(gè)解釋不清楚，我覺得沒有這個(gè)必要。

按照我的理解，一般來說類腦或者神經(jīng)形態(tài)計(jì)算，就是希望能夠通過特殊的編碼形式，能夠完成更有效的計(jì)算，而不是簡(jiǎn)單的對(duì)于某些數(shù)學(xué)模型直接的實(shí)現(xiàn)。我覺得這一部分還有很長(zhǎng)的路要走，還是在一個(gè)初始的科研階段。不過真的有所突破的話，對(duì)于芯片的設(shè)計(jì)還是有很多的借鑒意義。我們完全沒有必要畫一條線說，你們那個(gè)就是純粹的科研，我們這個(gè)就是純粹的做應(yīng)用，我覺得這是沒有必要的。

《賽先生》：AI芯片研究現(xiàn)在大的趨勢(shì)或者方向是什么樣的？

陳怡然：現(xiàn)在很重要的一個(gè)趨勢(shì)主要是軟硬結(jié)合，因?yàn)樵诤荛L(zhǎng)一段時(shí)間之內(nèi)我們做算法的跟做計(jì)算的分開，甚至互相都不太提及對(duì)方的貢獻(xiàn)，我覺得這是不好的。

我們以前的數(shù)據(jù)分析的科學(xué)家，做算法的科學(xué)家跟做計(jì)算的科學(xué)家實(shí)通過他們?nèi)降呐Σ虐?a href="http://www.socialnewsupdate.com/soft/data/42-102/" target="_blank">AI技術(shù)推到現(xiàn)在的程度，我們要保持他們這種相互之間的支持。

從我們的具體實(shí)踐來看，我們也看到了如果你只是做算法，不想管它怎么算出來了，和你做芯片不管前面的算法將來會(huì)做什么樣的變化和優(yōu)化，都不可能達(dá)到一個(gè)最優(yōu)的效果，所以這是現(xiàn)在的一大特點(diǎn)。

《賽先生》：感覺現(xiàn)在AI這一波來了以后，包括加上硬件本身的發(fā)展，摩爾定律結(jié)束，感覺好像進(jìn)入了一個(gè)重新跟過去很不一樣的時(shí)代？

陳怡然：前兩天在杭州，我們開玩笑說很恍惚，為什么？原來我們覺得主流的一些東西，現(xiàn)在好像變的不主流了。

比如說我們以前覺得科學(xué)計(jì)算是一個(gè)主流，大規(guī)模并行計(jì)算是一個(gè)主流，現(xiàn)在發(fā)現(xiàn)AI是一個(gè)主流，但是AI不是科學(xué)計(jì)算，而且深度學(xué)習(xí)又不能完全解釋它，那究竟誰(shuí)在成為主流？

我覺得說不定誰(shuí)的應(yīng)用最多誰(shuí)就是主流，我們以前做科學(xué)計(jì)算的時(shí)候，我們要講求通用性，那時(shí)候它是主流。今后我們發(fā)現(xiàn)其實(shí)這種多樣性，這種神經(jīng)形態(tài)的計(jì)算的模型，我們稱之為認(rèn)知計(jì)算的這種東西變的越來越多，那么它可能就變成一個(gè)主流。

這是我們現(xiàn)在感到迷惑和恍惚的地方，我覺得這畢竟是一個(gè)新的時(shí)代，不以人的意志為轉(zhuǎn)移，大家只能去擁抱它。

《賽先生》：現(xiàn)在有一種反對(duì)的聲音，感覺降溫也好反對(duì)也好，覺得現(xiàn)在AI離應(yīng)用實(shí)際真正用的好、落地的場(chǎng)景，比如說很熱大家都在講的自動(dòng)駕駛、安防也好，甚至有不同的聲音認(rèn)為這個(gè)東西離應(yīng)用好像還沒有那么完美，甚至還沒有怎么落地，我不知道從AI芯片設(shè)計(jì)的角度來說有沒有去考慮過這個(gè)問題？

陳怡然：有，因?yàn)樽鲂酒瑏碇v，我得知道哪個(gè)應(yīng)用將來最火，我才去設(shè)計(jì)，那我不知道什么會(huì)最火我該怎么辦。

我覺得AI這件事情的應(yīng)用，是很多因素造成現(xiàn)在的情況。最簡(jiǎn)單的，從投資角度，做一個(gè)AI的應(yīng)用，得找到人買單。所以為什么大家做人臉識(shí)別，因?yàn)樗挠脩粲泻軓?qiáng)的付款的意愿，比如安防之類的。

但是實(shí)際上我們發(fā)現(xiàn)很多傳統(tǒng)行業(yè)，也有大量AI的應(yīng)用，比如生產(chǎn)線質(zhì)量檢測(cè)。那為什么沒有人去做？因?yàn)檫@種應(yīng)用往往是很碎片化的，造成了它的定制化成本非常高。他們這些產(chǎn)業(yè)利潤(rùn)率又特別薄，他們?cè)敢馓湾X的愿望和能力都沒有那么高，你就掙不到錢，所以我們沒有去做。

我覺得AI的應(yīng)用仍然有很多，有各種各樣現(xiàn)在我們完全沒有在做的。但因?yàn)樗且粋€(gè)經(jīng)濟(jì)問題，不全是一個(gè)技術(shù)問題，這是第一。

第二，泡沫出現(xiàn)在頭部企業(yè)和應(yīng)用，但是并不代表整個(gè)產(chǎn)業(yè)我們都解決完了。仍然有很多問題都是是可以解決但是沒有解決的，所以AI會(huì)持續(xù)很長(zhǎng)的時(shí)間。泡沫也許會(huì)消亡，但是從研究和技術(shù)發(fā)展的角度來講，AI會(huì)在很長(zhǎng)一段時(shí)間內(nèi)成為一個(gè)平穩(wěn)發(fā)展的行業(yè)。

《賽先生》：AI芯片方面，我沒有提到，但您認(rèn)為還可以強(qiáng)調(diào)的？

陳怡然：我想說的一點(diǎn)就是，其實(shí)AI沒有運(yùn)算的支撐是不可能大量更好更有效的部署的。我們要更多的去重視它的計(jì)算平臺(tái)，更多的注重它在具體場(chǎng)景的實(shí)現(xiàn)。

尤其是在國(guó)內(nèi)，現(xiàn)在有大量注意力是集中在AI的應(yīng)用層面上，甚至投資也主要是在應(yīng)用層面上。如果不是因?yàn)橹信d這件事，我覺得AI芯片這件事不會(huì)像現(xiàn)在這么火，這也從另外一個(gè)角度說明其實(shí)我們?cè)趪?guó)內(nèi)的投資眼光之前實(shí)際上是有它的偏見的。

我舉一個(gè)簡(jiǎn)單的例子，我最近聽到一種論調(diào)，在AI芯片架構(gòu)這個(gè)領(lǐng)域，說我們現(xiàn)在跟美國(guó)是同一個(gè)水平線上。

我想舉一個(gè)例子，比如說像IBM的TrueNorth芯片，立項(xiàng)實(shí)際上是2007年，2008年項(xiàng)目正式開始，11年前它就有這樣的眼光，說要做一個(gè)類腦芯片、加速芯片。那我現(xiàn)在要問的一個(gè)問題就是，有沒有人可以告訴我，你覺得十年之后我們想要一個(gè)什么樣的AI芯片，或者在計(jì)算領(lǐng)域十年之后什么會(huì)是最需要的技術(shù)，還沒有人能告訴我這件事情。

所以我覺得我們還是有太多的工作需要去做，不能滿足于現(xiàn)狀，看到一兩個(gè)還不錯(cuò)的點(diǎn)，就下結(jié)論說我們已經(jīng)夠了，我們的投入、人已經(jīng)夠了，我覺得這是不行的，這是沒有遠(yuǎn)見的。

《賽先生》：這就涉及到怎么樣才能有眼光，去選擇非常重要的問題持續(xù)進(jìn)行研究或者投入，您這方面有怎樣的建議？

陳怡然：這個(gè)問題就太大了，我覺得可以單獨(dú)去請(qǐng)一些人講。但是我覺得至少有一點(diǎn)，一定要有多樣性。

實(shí)際上你看到的這些有點(diǎn)名氣的老師都是當(dāng)年做的某一個(gè)點(diǎn)，這個(gè)點(diǎn)后來恰好越來越火，其實(shí)有很多老師做的很多工作甚至這些有名的老師自己做的其他一些東西后來也就默默無聞了，因?yàn)樗鼈儧]有變成一個(gè)熱點(diǎn)。

那是不是我們吃了第七個(gè)餅吃飽了，前面六個(gè)就不需要了？不是這樣的。這種多樣性一定是需要的，有多樣性就會(huì)在某一天某一點(diǎn)爆發(fā)的時(shí)候，說這是我們當(dāng)年的一個(gè)積累——這種積累就像一個(gè)很小很小的種子，最后長(zhǎng)成了一棵參天大樹。