人工智能(AI)通常是一件通用的解決問題的利器,隨時準備迎接任何挑戰(zhàn)。而有些時候,它被認為預示著文明本身的終結(jié)。作為工程師,我們?nèi)绾尾拍茉陂_發(fā)應用程序的過程中更好地利用人工智能,或者更正確地利用機器學習(ML)呢? 人工智能領域的最新進展真的會讓我們變得多余嗎?

提到人工智能(AI),無疑是吸引主流媒體注意的一種重要方式。由于互聯(lián)網(wǎng)和云服務的發(fā)展,再加上時不時有問題的數(shù)據(jù)源,新的人工智能驅(qū)動的服務似乎無處不在。點擊幾下鼠標后,你的文字可以放進Morgan·Freeman的嘴里,或者你的圖像融入到一件新的藝術(shù)品中,這些有趣而發(fā)人深省的想法,要在嵌入式系統(tǒng)中實現(xiàn)并非易事,但這是該行業(yè)內(nèi)部正在發(fā)生的事情。

大多數(shù)嵌入式系統(tǒng)使用基于規(guī)則的編程方法來實現(xiàn)其功能。給定一組輸入數(shù)據(jù),一系列if/else或switch語句決定如何響應。對于有限數(shù)量的輸入,這種方法效果很好。然而,在某些時候,輸入的數(shù)量或它們之間關系的微妙之處使得很難定義明確的、程序化的規(guī)則。

舉個例子,想象一下工廠里有一臺馬達一周7天、每天24小時運轉(zhuǎn)。經(jīng)驗告訴我們,隨著時間的推移,會發(fā)生磨損,軸承潤滑脂會變稠,進而改變機器的啟動時間、噪聲、振動模式、電機工作溫度和電流等參數(shù)。定期維護是當今應對這一挑戰(zhàn)的方式,但它會導致固定的停機時間,從而中斷生產(chǎn)。

此外,它不太可能捕捉到由軸、軸承、套管或夾具的細微斷裂引起的即將發(fā)生的故障。經(jīng)過正確訓練后,人工智能方法可以使用復雜的數(shù)據(jù)源組合來確定潛在故障。如果這種智能可以部署到基于微控制器的系統(tǒng)中,那么就會得到一個經(jīng)濟實惠的監(jiān)控系統(tǒng),既節(jié)省了時間和金錢,又減少了不必要的潤滑和零件更換造成的浪費。

1 將智能引入微控制器中

在微控制器層面,我們談論的是機器學習(ML),而不是 Al。這意味著對機器進行編程,使用通過分析可用數(shù)據(jù)制定的規(guī)則來做出決策。雖然微控制器的功能強大到足以執(zhí)行這樣的ML算法,但從訓練數(shù)據(jù)中學習仍然超出了它們的能力范圍,如果不是云服務器,至少需要一臺臺式計算機來執(zhí)行。Edge Impulse成立于2019年,開發(fā)了一個專門用于嵌入式系統(tǒng)中ML的平臺,并成功地與全球半導體供應商進行合作推廣。

任何ML應用程序的起點都是數(shù)據(jù)。雖然一些應用(比如自動駕駛)需要TB級的訓練數(shù)據(jù),但簡單的基于微控制器的系統(tǒng)可以從少量(幾千字節(jié))的數(shù)據(jù)中學習。因此,將數(shù)據(jù)從板上取出并放到Edge Impulse環(huán)境中是第一個挑戰(zhàn)。最初的想法是使用 Arduino的串行接口將其發(fā)送到您的PC,然后從那里將其作為文本文件上傳。然而,他們的平臺是為了直接獲取數(shù)據(jù)。

2 數(shù)據(jù):Al的食物

其中一個工具是Data Forwarder,這是一個命令行(CLI)應用程序,可以將數(shù)據(jù)從開發(fā)板直接發(fā)送到Edge Impulse環(huán)境。使用用戶名和密碼即可在PC上的串行端口和服務器之間建立鏈接。在微控制器方面,所需要的只是通過串行接口以逗號或制表符分隔的格式輸出數(shù)據(jù)。如果采樣率相對較低,那么這是直接從傳感器收集代表性數(shù)據(jù)的理想方法(見圖1)。更強大的嵌入式系統(tǒng)(如樹莓派或NVIDIA Jetson Nano)可以使用提供的軟件開發(fā)工具包(SDK)。它也支持麥克風和攝像頭等傳感器產(chǎn)生更可觀的數(shù)據(jù)量。

數(shù)據(jù)上傳后,下一步就是定義“脈沖”。它們由兩個部分組成:第一部分將數(shù)據(jù)切片成更小的塊,并使用信號處理技術(shù)提取特征,這確保了可用的傳感器數(shù)據(jù)被轉(zhuǎn)換成第二個信號處理階段信息的一致性;第二部分是學習和分類的過程(見圖2)。在一個示例項目“連續(xù)運動識別”中,很好地解釋了如何配置這些塊來分析加速度計數(shù)據(jù)并將此輸入分類為4種手勢之一。

這是任何ML開發(fā)中最關鍵的一步,通常需要橫向思維和多次迭代來確定最佳方法。有時候,忽略一些傳感器輸入是最好的解決方案,而其他時候,則需要更多的數(shù)據(jù)。你甚至可能會發(fā)現(xiàn)正在過度學習,或者選擇的神經(jīng)網(wǎng)絡模型不適合你試圖進行的分類。另一個至關重要的步驟是異常分類。在示例項目中,有4種定義的手勢。然而,需要排除其他類似于學習手勢的動作。良好的異常檢測提供了魯棒性更好的ML結(jié)果。

最后一步是部署。通過web界面下載所選設備的固件,以便集成到你的應用程序中。對于Arduino,會生成一個庫,而對于其他微控制器,則可以生成一個C++文件。當然,微控制器的性能差別很大。為了確保最佳結(jié)果,Edge Impulse提供了EON 調(diào)諧器。該工具可以通過使用目標設備、內(nèi)存大小和延遲等信息進一步提高檢測精度,加快推理速度,并降低內(nèi)存需求(見圖3)。

3 實際應用中的ML

實際的應用程序正在使用這種方法來嵌入ML功能。SlateSafety的BAND集成了一系列生物識別傳感器,以監(jiān)測在具有挑戰(zhàn)性的情況下工作的工人(見圖4)。這些人員包括從急救人員到穿戴重型個人防護裝備(PPE)的工業(yè)工人,比如消防員。他們的產(chǎn)品通常會將數(shù)據(jù)上傳到云端,這樣就可以監(jiān)測用戶的生命體征了。

但是,特別是在災難情況下,網(wǎng)絡連接可能不完整甚至根本不存在。開發(fā)團隊利用Edge Impulse將邊緣ML集成到現(xiàn)有產(chǎn)品中,并對歷史生物識別數(shù)據(jù)進行了訓練。使用EON Tuner,該算法針對硬件進行了優(yōu)化,然后使用無線更新進行部署?，F(xiàn)在,即使在沒有無線連接的情況下,BAND也可以在存在熱衰竭風險時向佩戴者提供警告。

4 利用Al改進產(chǎn)品開發(fā)

當然,人工智能并不一定要集成到產(chǎn)品中,它也可以用于產(chǎn)品的開發(fā)。今天,許多復雜的應用程序都是使用基于模型的方法開發(fā)的,本質(zhì)上是使用軟件和物理學的數(shù)學方程來描述事物是如何工作的。然而,這種方法也有其局限性,這就使Monolith和他們的自學AI平臺有了用武之地。

該平臺能夠根據(jù)已經(jīng)收集到的數(shù)據(jù)學習復雜系統(tǒng)的物理特性。例如,車輛在測試軌道上進行一系列測試,多個傳感器監(jiān)測偏航和滾轉(zhuǎn)以及車輪速度和加速度。收集不同懸架剛度的數(shù)據(jù),可以很好地了解車輛對一系列駕駛情況的反應。通常情況下,這些數(shù)據(jù)將被分析,從而在下一次試車時應用新的設置。Monolith可以評估第一組測試運行的數(shù)據(jù),并以很高的精度預測懸架變化的結(jié)果。該結(jié)果可用于更快地磨練最佳懸架設置,減少所需的額外物理測試運行次數(shù)。

這種方法也可以應用于計量。燃氣表必須非常準確,以確保正確計費。但當儀表必須測量一系列不同的氣體時,這是具有一定挑戰(zhàn)性的。對客戶來說,模擬超聲波儀表已經(jīng)將純粹的數(shù)學分析推向了極限,使得重復的測試過程成為實現(xiàn)所需認證的唯一校準解決方案。幸運的是,所有的測試都產(chǎn)生了豐富的數(shù)據(jù)集用于分析。使用自學習AI模型,所需的測試量下降了高達70%,顯著加快了開發(fā)速度。

5 大幅壓縮AI計算成本

像DARPA大挑戰(zhàn)賽這樣的比賽,團隊建造了可以穿越蜿蜒路線的自動駕駛汽車,引發(fā)了人們對自動駕駛汽車的興趣。近20年后的今天,已經(jīng)投入了大量資金,但收效甚微,似乎只有Waymo提供了真正的自動駕駛汽車乘車服務,但這些服務僅在美國的鳳凰城和舊金山運營。其中一個問題是,讓一臺計算機控制汽車是非常具有挑戰(zhàn)性的。車輛不僅要不斷評估周圍的情況,還必須預測其他司機和道路使用者的行為,比如行人和騎自行車的人可能不遵守交通規(guī)則。

目前的情況是,汽車的電氣和電子(E/E)架構(gòu)正在發(fā)生變化,以滿足未來自動駕駛汽車的需求。隨著大量傳感器提供大量數(shù)據(jù),行業(yè)正在轉(zhuǎn)向自動網(wǎng)聯(lián)車。目前,這種方法正在形成先進的駕駛員輔助系統(tǒng)(ADAS),它通過控制制動、加速和轉(zhuǎn)向,可以在駕駛員犯錯時介入。根據(jù)美國汽車工程師協(xié)會(SAE)的車輛自動駕駛水平,高檔車輛目前達到了L2+級,其中一些達到了L3級。然而,完全的“解放雙手”級別的自動駕駛是L5級,所以我們還有很長一段路要走。

Eurotech等公司正在支持該行業(yè)加快必要算法的開發(fā)。目前,一次8小時的試駕會收集120 TB的數(shù)據(jù),這些數(shù)據(jù)必須返回實驗室進行處理和分析。AI算法的改進可以在實驗室中使用收集到的數(shù)據(jù)進行測試,但支持現(xiàn)場測試和算法開發(fā)的數(shù)據(jù)很少。

利用在液體冷卻方面的經(jīng)驗,Eurotech提供了一系列能夠勝任這項任務的邊緣Al硬件,本質(zhì)上是可以放在汽車后備箱里的小型超級計算機。像DYNACOR40 36這樣的設備經(jīng)過加固,可以在公路和越野車輛中使用。這款無風扇計算機采用16核英特爾至強 CPU(64 GB RAM),最多兩個NVIDIA GV100 GPU(32 GB RAM),提供237

TFLOPS來處理深度學習應用程序(見圖5)。幾個千兆以太網(wǎng)接口支持攝取大量傳感器數(shù)據(jù),包括雷達、攝像頭和激光雷達等數(shù)據(jù),并將這些數(shù)據(jù)注入32 TB的固態(tài)存儲器中。通過在試駕期間進行更多的推理和強化測試,實現(xiàn)L5級自動駕駛的過程可能會顯著加快。

6 AI會危及我們的工作嗎?

社交媒體上正在討論AI的進步是否會危及創(chuàng)意產(chǎn)業(yè)的工作崗位。OpenAI推出的DALL·E2將自然語言需求轉(zhuǎn)化為圖像(見圖6)。但是,也許更令人印象深刻的是它能夠真實地編輯現(xiàn)有圖像。例如,它可以移除前景或背景中的物體。此外,如果給它一幅荷蘭畫家維米爾(Vermeer)的作品,Al可以擴展它的“戴珍珠耳環(huán)的女孩”,使人們對畫中她所處的房間有一個可信的印象。

然而,作家(比如Elektor和其他知名媒體的編輯團隊)對ChatGPT的推出感到震驚。這種Al可以以會話方式和多種語言與用戶進行交互。到目前為止,關于碳化硅(SiC)MOSFET和氮化鎵(GaN)晶體管優(yōu)點的討論,以及它們相對于硅MOSFET的優(yōu)點,已經(jīng)出現(xiàn)了高度精準的效果。因此,即使是小眾話題,似乎也被很好地涵蓋了。

雖然這個工具非常聰明,但它只知道訓練之前相關話題的答案。因為它不是持續(xù)學習的,所以不會了解最新的時事或最新的K pop樂隊劇(shame)。另一個小問題是,過了一段時間,答案似乎變得有點老套和公式化。

總之,嵌入式系統(tǒng)和AI越來越多地被用于創(chuàng)建智能、自主設備和系統(tǒng)中。嵌入式系統(tǒng)為AI算法的運行提供了硬件和軟件平臺,而AI算法使這些系統(tǒng)能夠以更智能和更人性化的方式感知、分析和響應其環(huán)境。隨著嵌入式系統(tǒng)和AI的能力不斷提高,我們期待在機器人、醫(yī)療保健、交通運輸?shù)阮I域看到一系列令人興奮的新應用。

審核編輯：彭菁