GreenWaves Technologies 和 Imagimob 討論了在邊緣為 AI 開發(fā)應(yīng)用程序的挑戰(zhàn)以及用例將如何演變。

EE Times Europe 采訪了兩家參展商 GreenWaves Technologies 和 Imagimob 的高管，以深入了解在邊緣開發(fā) AI 應(yīng)用程序的挑戰(zhàn)以及用例將如何演變。

機器學(xué)習(xí)并不新鮮；十多年來，許多ML模型已經(jīng)在高端服務(wù)器和云服務(wù)提供商上可用。然而，對超低功耗、資源受限的微控制器進(jìn)行推理僅在過去四年才開始獲得發(fā)展勢頭。2019 年，tinyML 基金會成為希望探索在低功耗 MCU 上運行 ML 算法（通常消耗毫瓦級能量）的公司的焦點。隨著超低功耗 MCU 的面世，它們開啟了始終在線運行的潛力，特別是對于電池供電的用例。

定義“邊緣”

對某些人來說，“邊緣”代表可靠的網(wǎng)絡(luò)連接和線路電源的地方；其他人認(rèn)為它是一個偏遠(yuǎn)的地方，連接有限或不可靠，電池供電是常態(tài)。從環(huán)境資源中收集能量越來越成為邊緣節(jié)點物聯(lián)網(wǎng)設(shè)備的一個特點。

“邊緣有很多定義，”超低功耗處理器的無晶圓廠開發(fā)商 GreenWaves Technologies（法國格勒諾布爾）營銷副總裁 Martin Croome 說?！皩τ谝苿泳W(wǎng)絡(luò)運營商來說，邊緣可能是他們的基站，在生產(chǎn)線上它可能是機器人，而對我們來說它可能是耳塞。定義邊緣的重要因素之一是功率：是瓦、毫瓦還是微瓦？邊緣的第二個維度是成本，其中邊緣設(shè)備受到成本限制，要么是因為它是一件本身成本不高的小東西，要么是市場緊張。tinyML 設(shè)備成本低、功耗低。”

邊緣人工智能開發(fā)挑戰(zhàn)

市場對 tinyML 和在邊緣創(chuàng)建機器學(xué)習(xí)應(yīng)用程序的興趣幫助建立了多家 ML 開發(fā)平臺公司。這些軟件包涵蓋整個 AI 工作流程，從數(shù)據(jù)收集到數(shù)據(jù)分析、模型選擇和部署，是探索邊緣 AI 的嵌入式開發(fā)人員的熱門選擇。

Imagimob（瑞典斯德哥爾摩）于 2019 年推出了 Imagimob AI 平臺。在開發(fā)人員面臨的所有 ML 挑戰(zhàn)中，合適的訓(xùn)練數(shù)據(jù)的可用性至關(guān)重要。但這不僅僅是擁有正確的數(shù)據(jù)，Imagimob 的首席執(zhí)行官兼創(chuàng)始人安德斯·哈德布林 (Anders Hardebring) 說。“借助我們的 AutoML 功能，你可以使用智能算法找到正確的模型架構(gòu)，但這里重要的是對數(shù)據(jù)有很好的理解。理解數(shù)據(jù)是關(guān)鍵。如果不了解數(shù)據(jù)并且正在使用 AutoML，那么就無法真正了解正在發(fā)生的事情?！?/p>

GreenWaves的Croome證實，一攬子方法對那些剛起步的人有幫助，但也強調(diào)了了解正在使用的數(shù)據(jù)的重要性?！叭绻阏谧龅氖虑檫m合其中一個包，那么也許你可以走很長一段路，而不必讓自己暴露對特定模型的更深入理解。我會爭辯說，[如果你]使用一個不了解你將要做的統(tǒng)計數(shù)據(jù)的包，對它的數(shù)學(xué)理解，那么我認(rèn)為你可能會犯一些錯誤?！?/p>

學(xué)習(xí)什么是可能的

雖然已經(jīng)存在許多用于對象檢測的訓(xùn)練數(shù)據(jù)集，例如動物、水果或蔬菜，但對于許多用例，你需要從頭開始。Imagimob 的首席技術(shù)官兼聯(lián)合創(chuàng)始人 Alexander Samuelsson 指出了數(shù)據(jù)挑戰(zhàn)：“假設(shè)你需要為安全用例檢測槍聲。首先，你需要從不同的環(huán)境中獲得質(zhì)量好的槍聲，然后你想要將這些聲音與不同的背景噪音疊加在一起，讓模型開始理解這種聲音的邊界?！?/p>

更大的模型和加速器

當(dāng)被問及人工智能在邊緣的當(dāng)前局限性時，Samuelsson回答說：“市場仍然是新的，人們正在試驗并試圖了解可以做什么。到目前為止，我們不得不幫助用戶解釋一下這項技術(shù)可以做什么，不可以做什么。

“例如，幾年前，一個慣性測量單元，因為它是一個低帶寬傳感器，是一個很好的起點?，F(xiàn)在這些平臺，尤其是帶有加速器的平臺，變得越來越強大，所以可以做更高級的事情?！?/p>

雖然許多 tinyML 簡單的神經(jīng)網(wǎng)絡(luò)模型可以在低功耗微控制器上運行，但毫無疑問，添加加速器會打開可能的用例并使用更大的模型。每個處理器創(chuàng)新周期都在不斷降低功耗，進(jìn)一步擴(kuò)大人工智能在邊緣的作用。

GreenWaves 的第二代處理器 GAP9 具有超低功耗規(guī)格，并集成了 DSP 和神經(jīng)網(wǎng)絡(luò)加速器。Croome 解釋了添加 DSP 的原因：“在很多情況下，在將數(shù)據(jù)輸入神經(jīng)網(wǎng)絡(luò)之前，需要對 [數(shù)據(jù)] 進(jìn)行大量預(yù)處理。任何時間序列往往都需要更多的前期工作，比如編解碼器之類與人工智能無關(guān)但無論如何都需要的東西。”

Croome 承認(rèn)用例的內(nèi)存和處理注意事項，包括升級到功能更強大的 MCU 的潛在需求?！叭缓竽憧赡軙龅匠杀净蚬β蕟栴}，”他說。“一般來說，固定的硬件會更有效率。存在靈活性與成本權(quán)衡。比如人聲檢測，放在麥克風(fēng)里面就很明顯了。可能會占據(jù)很大一部分麥克風(fēng)市場。你可以專門為此構(gòu)建網(wǎng)絡(luò)并設(shè)計麥克風(fēng)內(nèi)部的控制器。然而，對于其他情況，它可能根本沒有意義，因為你想升級它、改變它或變得更靈活?！?/p>

推進(jìn)邊緣 AI 所必需的下一個創(chuàng)新

超低功耗微控制器、AI/ML 開發(fā)平臺和神經(jīng)網(wǎng)絡(luò)加速器取得的進(jìn)步有助于擴(kuò)展基于邊緣的 tinyML 應(yīng)用程序的復(fù)雜性。但下一步是什么？需要哪些硬件創(chuàng)新來延續(xù)邊緣人工智能的發(fā)展步伐？

Imagimob 的 Hardebring 說：“我們認(rèn)為技術(shù)已經(jīng)在這里了，但我們認(rèn)為市場需要接受更多教育。歸根結(jié)底，我認(rèn)為技術(shù)在這里，芯片在這里，軟件在這里，但市場需要理解這一點。市場需要了解他們可以在邊緣做什么以及這樣做的優(yōu)勢。”

Imagimob 的 Samuelsson 說，供應(yīng)商在這里發(fā)揮了作用。“我認(rèn)為，為了真正幫助我們的客戶投入生產(chǎn)，我們所有的公司，包括硬件和軟件，都需要非常、非常緊密地合作。”

邊緣人工智能成為常態(tài)

GreenWaves 的 Croome 強調(diào)了邊緣 AI 引人注目的用例日益多樣化?！霸谑褂蒙窠?jīng)網(wǎng)絡(luò)進(jìn)行電池管理方面有很多工作，這些神經(jīng)網(wǎng)絡(luò)本質(zhì)上是在了解電池、基于電池使用時間的電池壽命以及許多其他參數(shù)，”他指出。“這是另一種統(tǒng)計模型?！?/p>

邊緣人工智能將如何發(fā)展？“神經(jīng)網(wǎng)絡(luò)將無處不在，”Croome 說?！八麄儗⒊蔀?a target="_blank">編程的一部分，一旦他們無處不在，他們就會變得越來越微不足道，因為這只是一件很正常的事情?！?/p>

電子行業(yè)無疑是創(chuàng)新的溫床。在短短四年內(nèi)，我們見證了微控制器功能的進(jìn)步，使邊緣 AI 成為可能。產(chǎn)品經(jīng)理和開發(fā)人員已準(zhǔn)備好將邊緣 AI 納入他們的下一個設(shè)計中，并在此過程中將這些技術(shù)確立為未來的規(guī)范。

審核編輯 ：李倩