智能傳感器推動(dòng)邊緣AI普及化

前言

英偉達(dá)公司（Nvidia）于日前發(fā)布了全新的50系顯卡，在提高游戲性能的同時(shí)，著重優(yōu)化了人工智能（AI）表現(xiàn)，這對(duì)于目前炙手可熱的AI行業(yè)來(lái)說(shuō)無(wú)疑具有非常重要的影響。隨著近幾年的快速發(fā)展，AI技術(shù)已經(jīng)從邊緣走向主流，從專業(yè)化走向普通用戶。

圖源：Nvidia官網(wǎng)

在過(guò)去，AI的應(yīng)用僅限于數(shù)據(jù)中心等高功率計(jì)算設(shè)施集群。近幾年，它已經(jīng)擴(kuò)展到工業(yè)運(yùn)營(yíng)的“邊緣”，這得益于智能傳感器和機(jī)器學(xué)習(xí)（ML）的集成?，F(xiàn)在，AI的普及化正在擴(kuò)展到互聯(lián)的工業(yè)環(huán)境，應(yīng)用范圍變得更為廣泛。

圖源：Fortune Business Insights官網(wǎng)

根據(jù)Fortune Business Insights最新統(tǒng)計(jì)數(shù)據(jù)，邊緣AI市場(chǎng)在2023年的規(guī)模為204.5億美元，到2032年將達(dá)到2698.2億美元，年復(fù)合增長(zhǎng)率高達(dá)33%。這種快速增長(zhǎng)將出現(xiàn)在多個(gè)行業(yè)，包括汽車、制造業(yè)、醫(yī)療保健、能源和公用事業(yè)。研究稱，與邊緣設(shè)備相關(guān)的增強(qiáng)實(shí)時(shí)決策能力和減少網(wǎng)絡(luò)流量將推動(dòng)邊緣設(shè)備在能源效率和預(yù)測(cè)性維護(hù)等領(lǐng)域的應(yīng)用。

邊緣AI的硬件英雄

但是，哪些系統(tǒng)和解決方案支撐著邊緣AI的迅猛發(fā)展，尤其是與智能傳感器相關(guān)的領(lǐng)域？工程師在工業(yè)環(huán)境中試驗(yàn)此類技術(shù)有多容易？讓我們通過(guò)深入研究邊緣AI的基礎(chǔ)知識(shí)及其帶來(lái)的好處來(lái)回答這些問(wèn)題。

顧名思義，邊緣計(jì)算鼓勵(lì)采用分布式架構(gòu)，通過(guò)分布式計(jì)算框架將企業(yè)應(yīng)用程序定位在更靠近數(shù)據(jù)源（例如物聯(lián)網(wǎng)設(shè)備）的位置。邊緣AI使用板載計(jì)算資源（例如CPU）在本地處理數(shù)據(jù)。在這里，機(jī)器學(xué)習(xí)算法被部署來(lái)實(shí)時(shí)分析數(shù)據(jù)流，而無(wú)需將它們無(wú)線發(fā)送到異地集中服務(wù)器。決策基于預(yù)先訓(xùn)練的模型，完全針對(duì)邊緣設(shè)備進(jìn)行了優(yōu)化，減少了延遲并提高了隱私性。

除了生產(chǎn)常規(guī)的民用GPU，英偉達(dá)和其他公司也提供了專為邊緣設(shè)備設(shè)計(jì)的全系列AI模塊，使其成為機(jī)器人、智能相機(jī)和工業(yè)自動(dòng)化應(yīng)用的理想選擇。

適用于受限設(shè)備的TinyML

然而，這些設(shè)備并不總是最適合邊緣AI應(yīng)用。有時(shí)，ML模型需要在處理能力和內(nèi)存極其受限的設(shè)備上運(yùn)行，例如微控制器(MCU)。這就是TinyML的概念的用武之地，TinyML是一門機(jī)器學(xué)習(xí)技術(shù)和應(yīng)用，它以極低的功耗執(zhí)行設(shè)備上的傳感器數(shù)據(jù)分析。

過(guò)去，傳統(tǒng)傳感器收集各種參數(shù)的數(shù)據(jù)，例如工業(yè)物聯(lián)網(wǎng)中的溫度、濕度、振動(dòng)和運(yùn)動(dòng)。這些信息通常會(huì)通過(guò)無(wú)線網(wǎng)絡(luò)傳輸?shù)街醒?a target="_blank">處理器或云服務(wù)器進(jìn)行分析。然而，這種方法存在缺點(diǎn)，最明顯的是能耗、延遲和對(duì)強(qiáng)大通信網(wǎng)絡(luò)的需求。

然而，根據(jù)專注于邊緣超低功耗機(jī)器學(xué)習(xí)的全球非營(yíng)利專業(yè)組織TinyML基金會(huì)的說(shuō)法，傳感器可以擁有專門針對(duì)低功耗、資源受限設(shè)備的板載ML功能。因此，邊緣傳感器收集的數(shù)據(jù)可以通過(guò)TinyML算法進(jìn)行預(yù)處理，以備分析。數(shù)據(jù)被輸入到經(jīng)過(guò)訓(xùn)練的TinyML模型中，該模型根據(jù)其知識(shí)進(jìn)行預(yù)測(cè)或分類。邊緣設(shè)備可以根據(jù)模型的輸出采取實(shí)時(shí)操作。例如，具有TinyML異常檢測(cè)功能的壓力傳感器如果檢測(cè)到異常讀數(shù)，則可以發(fā)出警報(bào)。

這種架構(gòu)有效地使AI能夠在以前不適用的環(huán)境和應(yīng)用程序中進(jìn)行邊緣優(yōu)化。它與前面提到的行業(yè)公司的解決方案結(jié)合使用時(shí)也提供了靈活性。

嘗試邊緣AI

因此，邊緣AI有可能掀起一場(chǎng)革命，利用可訪問(wèn)的技術(shù)和即插即用的解決方案，鼓勵(lì)快速原型設(shè)計(jì)和測(cè)試AI驅(qū)動(dòng)的解決方案。讓我們看看工程師如何在邊緣試驗(yàn)AI，重點(diǎn)介紹一些可以采取的實(shí)際步驟，以使想法變?yōu)楝F(xiàn)實(shí)。根據(jù)數(shù)字工程集團(tuán)Encora的說(shuō)法，這些步驟可以包括：

制定用例：查看AI可以在組織內(nèi)引入效率或創(chuàng)新的具體領(lǐng)域。例如，目標(biāo)可能包括啟動(dòng)預(yù)測(cè)性維護(hù)以減少停機(jī)時(shí)間和成本，或改善能源管理以提高運(yùn)營(yíng)效率和安全性。

選擇合適的硬件：選擇合適的硬件對(duì)于平衡功耗和計(jì)算需求至關(guān)重要。如本文前面所述，高性能GPU適合密集計(jì)算，而MCU則適合低功耗實(shí)時(shí)應(yīng)用。

關(guān)注數(shù)據(jù)：收集的數(shù)據(jù)的質(zhì)量和類型至關(guān)重要。確保數(shù)據(jù)全面且準(zhǔn)確地代表您想要監(jiān)控或預(yù)測(cè)的運(yùn)營(yíng)狀況。此數(shù)據(jù)收集可能涉及集成各種傳感器。此外，確保數(shù)據(jù)干凈且井然有序，以便進(jìn)行有效分析。

務(wù)必進(jìn)行實(shí)驗(yàn)：訓(xùn)練模型需要選擇正確的機(jī)器學(xué)習(xí)算法并調(diào)整參數(shù)以適應(yīng)您的特定數(shù)據(jù)集。此過(guò)程可能涉及嘗試不同的模型，以找到最能預(yù)測(cè)或識(shí)別與您的用例相關(guān)的模式的模型。

確保模型效率：優(yōu)化模型以進(jìn)行推理就是在不犧牲準(zhǔn)確性的情況下使其盡可能高效。量化等技術(shù)可以減少模型的大小和計(jì)算需求，使其更適合邊緣部署。

測(cè)試、測(cè)試、再測(cè)試：測(cè)試模型以確保其按預(yù)期運(yùn)行至關(guān)重要。此過(guò)程可能涉及建立試點(diǎn)計(jì)劃或分階段部署以監(jiān)控性能并收集反饋以進(jìn)行改進(jìn)。

進(jìn)行性能評(píng)估：隨著運(yùn)營(yíng)條件的變化，AI模型可能會(huì)隨著時(shí)間的推移而發(fā)生變化。定期對(duì)模型進(jìn)行性能評(píng)估和更新，以確保其繼續(xù)有效滿足您的需求。這有助于保持邊緣AI系統(tǒng)的相關(guān)性和準(zhǔn)確性。

獲取用戶的反饋：讓多領(lǐng)域利益相關(guān)者參與評(píng)估邊緣AI項(xiàng)目的內(nèi)部反饋并共同規(guī)劃未來(lái)的應(yīng)用方向。

結(jié)語(yǔ)

這是通過(guò)集成智能傳感器和機(jī)器學(xué)習(xí)實(shí)現(xiàn)的人工智能向工業(yè)運(yùn)營(yíng)邊緣轉(zhuǎn)移的概述。我們可以看到，傳統(tǒng)傳感器向具有邊緣處理能力的智能傳感器的不斷發(fā)展正在產(chǎn)生深遠(yuǎn)的影響。最終，這種轉(zhuǎn)變?yōu)槲磥?lái)的創(chuàng)新鋪平了道路。