如今，層出不窮的智能設(shè)備已滲透進(jìn)我們的生活里，語音助手、面部識別攝像頭，甚至是你的個人電腦都會或多或少的裝有這些東西。然而，它們并不能通過魔法來工作，需要一些東西來支持它們所做的所有數(shù)據(jù)處理。一些設(shè)備可以通過大量的數(shù)據(jù)中心在云端完成。其他設(shè)備則是通過人工智能（AI）芯片的幫助來完成所有處理。

據(jù)了解，AI技術(shù)的發(fā)展和應(yīng)用在美國、中國和歐盟等世界主要國家中已經(jīng)成為國家戰(zhàn)略，在國家的科技發(fā)展和產(chǎn)業(yè)競爭中占據(jù)越來越重要的位置。同時，AI技術(shù)在手寫識別（例如MNIST數(shù)據(jù)集）、人臉識別（例如Facebook的DeepFace）、語音識別（例如亞馬遜的Alexa、Apple的Siri、微軟的Cortana）、機(jī)器人技術(shù)（例如機(jī)器人操作系統(tǒng)）、自動駕駛（例如TartanRacing），甚至智力游戲（例如Google的AlphaGo）和視頻游戲（例如Pac-mAnt）等領(lǐng)域得到了廣泛應(yīng)用。隨著人工智能的發(fā)展，產(chǎn)生了更多的專業(yè)技術(shù)，比如神經(jīng)網(wǎng)絡(luò)模型、機(jī)器學(xué)習(xí)等，依靠經(jīng)驗學(xué)習(xí)而不是編程來做出決策。反過來，機(jī)器學(xué)習(xí)為深度學(xué)習(xí)奠定了基礎(chǔ)，深度學(xué)習(xí)涉及分層算法，以便更好地理解數(shù)據(jù)。

為訓(xùn)練而設(shè)計的芯片實際上扮演著網(wǎng)絡(luò)教師的角色，就像一個在學(xué)校的孩子。一個原始的神經(jīng)網(wǎng)絡(luò)最初是不發(fā)達(dá)的，通過輸入大量的數(shù)據(jù)來進(jìn)行訓(xùn)練。訓(xùn)練是依賴于計算的，所以我們需要專注于訓(xùn)練的AI芯片，它能夠快速有效地處理這些數(shù)據(jù)。芯片越強(qiáng)大，網(wǎng)絡(luò)學(xué)習(xí)速度就越快。

一旦一個網(wǎng)絡(luò)經(jīng)過訓(xùn)練，它就需要用于推理的芯片，以便使用現(xiàn)實世界中的數(shù)據(jù)，如面部識別、手勢識別、自然語言處理、圖像搜索、垃圾郵件過濾等。將推理視為你最有可能在人工智能系統(tǒng)中看到的方面，除非你從事的是訓(xùn)練方面的人工智能開發(fā)。

你可以把訓(xùn)練看作是在編篡一本字典，而推理則類似于查找單詞并理解如何使用。兩者都是必要、共生的。

值得注意的是，為訓(xùn)練而設(shè)計的芯片也可以進(jìn)行推理，但推理芯片不能進(jìn)行訓(xùn)練。

云計算和邊緣

我們需要了解的AI芯片的另一個方面是，它可以用于云應(yīng)用和邊緣端，當(dāng)然，這也是需要訓(xùn)練和推理的。

云計算之所以有用，是因為它的可訪問性，因為它的功能完全可以在非prem情況下使用。在這些用例中，您不需要設(shè)備上的芯片來處理任何推理，這可以節(jié)省電力和成本。然而，在隱私和安全方面，它也有缺點，因為數(shù)據(jù)存儲在云服務(wù)器上，可能會遭到黑客攻擊。對于推理用例，它也可能效率較低，因為它沒有邊緣芯片那么專業(yè)。

處理“邊緣推理”的芯片也可以在一個設(shè)備上，比如面部識別攝像頭。因為所有的數(shù)據(jù)都存儲在設(shè)備上，而且芯片通常都是為特定目的而設(shè)計——例如，面部識別攝像頭會使用一種擅長運行面部識別模型的芯片。但如在設(shè)備上增加另一個芯片會增加成本和電力消耗。重要的是要使用邊緣AI芯片來平衡成本和功率，以確保設(shè)備對其細(xì)分市場來說成本剛剛好，或者不是太耗電。

以下是這些應(yīng)用程序和芯片通常是如何配對的：

云+訓(xùn)練

這種配對的目的是開發(fā)用于推理的人工智能模型。這些模型最終細(xì)化為特定于用例的AI應(yīng)用程序。這些芯片功能強(qiáng)大，運行成本昂貴，而且設(shè)計的目的是盡可能快地進(jìn)行訓(xùn)練。

訓(xùn)練芯片被用于訓(xùn)練Facebook的照片或谷歌翻譯，云推理芯片用于處理你輸入的數(shù)據(jù)，使用這些公司創(chuàng)建的模型。其他例子包括人工智能聊天機(jī)器人或大型科技公司運營的人工智能服務(wù)。

邊緣+推理

使用設(shè)備上的邊緣芯片進(jìn)行推理可以消除任何與網(wǎng)絡(luò)不穩(wěn)定或延遲有關(guān)問題，并且更好地保護(hù)所使用數(shù)據(jù)的隱私和安全性。其優(yōu)點是在上傳大量數(shù)據(jù)時所需的帶寬，特別是圖像或視頻等可視化數(shù)據(jù)，無需相關(guān)成本，因此只要成本和功耗達(dá)到平衡，就可以比云計算更便宜、更高效。

比如耐能Kneron芯片，KL520和最近推出的KL720芯片，這是為設(shè)備上使用而設(shè)計的低功耗、低成本的芯片。比如他們的KL520，它能夠給 2D、3D 圖像識別提供支持，適配各種 2D、3D 傳感器，適用于結(jié)構(gòu)光、ToF、雙目視覺等 3D 傳感技術(shù)并計算不同神經(jīng)網(wǎng)絡(luò)模型，且兼具規(guī)格、性能、成本等多重優(yōu)點，解決 3D 模組相對較貴、芯片成本高和硬件功耗高等問題。正是這樣，這顆芯片能被廣泛應(yīng)用于智能門鎖、門禁系統(tǒng)、機(jī)器人、無人機(jī)、智能家電、智能玩具等智能物聯(lián)網(wǎng)領(lǐng)域。其他的比如英特爾Movidius和谷歌的Coral TPU。

應(yīng)用領(lǐng)域包括面部識別監(jiān)控攝像頭，用于行人和危險檢測或駕駛意識檢測的車輛攝像頭，以及用于語音助手的自然語言處理。

所有這些不同類型的芯片及其不同的實現(xiàn)、模型和用例都是未來AIoT發(fā)展的必要條件。如果得到5G等其他新興技術(shù)的支持，它們的性能將會更上一層樓。無論是在家里還是在工作中，人工智能正在迅速成為我們生活的重要組成部分，人工智能芯片空間的發(fā)展將迅速，不久的將來將會有更多類型的芯片問市，讓我們的工作生活更加便利迅捷。
編輯：hfy