在數(shù)字化發(fā)展進(jìn)程中，邊緣智能(Edge Intelligence)已成為驅(qū)動(dòng)各行業(yè)變革的關(guān)鍵力量。作為融合了邊緣計(jì)算與人工智能，兼具近端處理與智能分析優(yōu)勢(shì)的創(chuàng)新技術(shù)，邊緣智能不但能實(shí)現(xiàn)低延遲、高實(shí)時(shí)決策，還能夠降低帶寬需求并強(qiáng)化隱私安全，同時(shí)能夠完成和物理世界的交互，被廣泛應(yīng)用于自動(dòng)駕駛、智能制造、智能城市、遠(yuǎn)程醫(yī)療、視頻監(jiān)控等多個(gè)領(lǐng)域。本文將深度聚焦邊緣智能發(fā)展現(xiàn)狀、技術(shù)突破、落地瓶頸等話(huà)題，共同探討如何更好賦能各行業(yè)數(shù)字化、智能化轉(zhuǎn)型。

邊緣智能為何備受關(guān)注？

根據(jù)Market.US的研究，全球邊緣智能市場(chǎng)規(guī)模預(yù)計(jì)將從2023年的191億美元增長(zhǎng)至2032年的1400+億美元，年復(fù)合年增長(zhǎng)率(CAGR)接近26%。而Precedence Research的數(shù)據(jù)則顯示，邊緣計(jì)算市場(chǎng)在2032年可能達(dá)到3.61萬(wàn)億美元，CAGR達(dá)到了30.4%。

盡管數(shù)字的差異反映了不同研究機(jī)構(gòu)對(duì)“邊緣”的定義，以及對(duì)通用計(jì)算、AI計(jì)算邊界劃分的不同，但由此展現(xiàn)出的共同趨勢(shì)是明確的——算力下沉與場(chǎng)景化部署已成為不可逆的潮流，而且都給出了高達(dá)30%左右的年復(fù)合增長(zhǎng)率。

“在歷經(jīng)多年云端高性能、超大規(guī)模模型的創(chuàng)新實(shí)踐和充分驗(yàn)證后，如今的我們正見(jiàn)證著精準(zhǔn)、高效、快速的AI模型從云端走向智能手機(jī)、汽車(chē)等邊緣設(shè)備終端?！盜magination產(chǎn)品管理副總裁Dennis Laudick指出，企業(yè)和用戶(hù)選擇在邊緣端而非云端處理AI任務(wù)的原因是多種多樣的——從保護(hù)生物特征、位置信息、財(cái)務(wù)數(shù)據(jù)等敏感信息，到確保無(wú)網(wǎng)絡(luò)連接時(shí)仍能提供可靠、即時(shí)響應(yīng)的服務(wù)。

Imagination產(chǎn)品管理副總裁Dennis Laudick

與此同時(shí)，邊緣硬件也正突破性能瓶頸，在設(shè)備體積與功耗的嚴(yán)格限制下(多數(shù)邊緣設(shè)備依賴(lài)電池供電)實(shí)現(xiàn)所需的AI算力。據(jù)Counterpoint Research預(yù)測(cè)，到2028年，54%的移動(dòng)邊緣設(shè)備將具備AI處理能力。

芯科科技(Silicon Labs)方面的看法是，近年來(lái)，邊緣智能作為一種邊緣計(jì)算與人工智能的融合技術(shù)，能夠在邊緣設(shè)備上進(jìn)行數(shù)據(jù)處理和智能決策，成為諸多行業(yè)追求高效智能操作、降低數(shù)據(jù)處理延遲、減少帶寬消耗和增強(qiáng)隱私保護(hù)的重要手段，為工業(yè)、商業(yè)、醫(yī)療、家庭應(yīng)用等諸多行業(yè)帶來(lái)了新的發(fā)展機(jī)遇和變革。

尤其是邊緣智能通過(guò)網(wǎng)絡(luò)邊緣進(jìn)行數(shù)據(jù)處理和分析，能夠?qū)崟r(shí)響應(yīng)各種業(yè)務(wù)需求，為行業(yè)數(shù)字化轉(zhuǎn)型提供了強(qiáng)大的技術(shù)支持。例如，在工業(yè)智能制造領(lǐng)域，邊緣智能可以幫助企業(yè)實(shí)現(xiàn)設(shè)備狀態(tài)的實(shí)時(shí)監(jiān)控和故障預(yù)測(cè)，提高生產(chǎn)效率和產(chǎn)品質(zhì)量。在醫(yī)療等需要實(shí)時(shí)處理和快速響應(yīng)的應(yīng)用場(chǎng)景中，邊緣智能通過(guò)將數(shù)據(jù)處理任務(wù)從云端轉(zhuǎn)移到離數(shù)據(jù)源更近的邊緣設(shè)備上，可以顯著降低數(shù)據(jù)傳輸延遲，提高數(shù)據(jù)處理效率。

XMOS亞太區(qū)市場(chǎng)和銷(xiāo)售負(fù)責(zé)人牟濤表示，在功能上，邊緣智能一方面使設(shè)備能夠在本地處理數(shù)據(jù)，減少數(shù)據(jù)傳輸延遲和泄漏風(fēng)險(xiǎn)，實(shí)現(xiàn)低延遲、快速響應(yīng)且保護(hù)隱私的邊緣AI處理；另一方面，作為大型智算中心或云網(wǎng)絡(luò)的智能數(shù)據(jù)接口，通過(guò)AI對(duì)傳感器數(shù)據(jù)進(jìn)行組織等預(yù)處理，并在AI系統(tǒng)處理后轉(zhuǎn)換數(shù)據(jù)格式以確?？煽窟\(yùn)行。

XMOS亞太區(qū)市場(chǎng)和銷(xiāo)售負(fù)責(zé)人牟濤

因此，與那些裝備精良、耗費(fèi)靡多的智算中心中強(qiáng)大的GPU和NPU不同，邊緣智能系統(tǒng)對(duì)功耗、成本和芯片占板面積等因素要求甚嚴(yán)，因而高效率處理器或者SoC產(chǎn)品是邊緣智能否取得成功的第一個(gè)關(guān)鍵因素。

落地普及程度差異明顯

盡管邊緣智能正經(jīng)歷從“單點(diǎn)突破”到“系統(tǒng)重構(gòu)”的質(zhì)變階段，但不可否認(rèn)的是，邊緣智能在不同國(guó)家、不同行業(yè)的應(yīng)用普及程度還存在比較明顯的差異。

愛(ài)芯元智創(chuàng)始人、董事長(zhǎng)仇肖莘博士以輔助駕駛為例做了更進(jìn)一步的解釋。她指出，在國(guó)際上，歐美在基礎(chǔ)算法創(chuàng)新和芯片架構(gòu)上領(lǐng)先，比如特斯拉通過(guò)自研芯片實(shí)現(xiàn)邊緣訓(xùn)練和部署閉環(huán)。而中國(guó)在場(chǎng)景落地和工程化創(chuàng)新上更具優(yōu)勢(shì)，比如中國(guó)車(chē)企會(huì)通過(guò)場(chǎng)景閉環(huán)快速迭代量產(chǎn)方案。其更深層的影響在于：邊緣智能正在重構(gòu)行業(yè)價(jià)值鏈——制造業(yè)的“檢測(cè)-維護(hù)-優(yōu)化”全流程閉環(huán)、城市治理從“事后響應(yīng)”到“預(yù)測(cè)干預(yù)”的范式轉(zhuǎn)移，本質(zhì)上是通過(guò)智能將數(shù)據(jù)轉(zhuǎn)化為生產(chǎn)力要素的進(jìn)程。

愛(ài)芯元智創(chuàng)始人、董事長(zhǎng)仇肖莘博士

整體而言，中國(guó)目前處于從技術(shù)驗(yàn)證進(jìn)入規(guī)?；瘧?yīng)用階段，邊緣智能可以更好的完成物理世界的數(shù)字化、智能化，從而提高行業(yè)的效率，并進(jìn)一步完成成果自動(dòng)化交付。例如輔助駕駛已經(jīng)進(jìn)入到標(biāo)配階段；邊緣智能可以分析路口實(shí)時(shí)數(shù)據(jù)，優(yōu)化信號(hào)燈設(shè)置，降低擁堵率。在生產(chǎn)領(lǐng)域，邊緣智能可以實(shí)時(shí)分析設(shè)備的運(yùn)行數(shù)據(jù)，進(jìn)行預(yù)測(cè)性維護(hù)，提前預(yù)警故障，減少停機(jī)時(shí)間。或者是在生產(chǎn)時(shí)進(jìn)行缺陷檢測(cè)，縮短質(zhì)檢周期，降低錯(cuò)誤漏檢率。

而邊緣智能之所以會(huì)在不同行業(yè)產(chǎn)生顯著的普及速度差異，仇肖莘博士認(rèn)為是其核心驅(qū)動(dòng)力在場(chǎng)景需求剛性、技術(shù)經(jīng)濟(jì)性和數(shù)據(jù)敏感性等方面的不同，“智慧城市、輔助駕駛、家庭數(shù)據(jù)中心和具身智能等前沿應(yīng)用，就明顯更適于邊緣智能的普及”。

比如家用或工業(yè)機(jī)器人往往需要快速響應(yīng)，尤其后者甚至需要毫秒級(jí)響應(yīng)，邊緣智能直接在設(shè)備端處理數(shù)據(jù)，避免云端延遲；而工廠生產(chǎn)數(shù)據(jù)(如工藝參數(shù))敏感，邊緣計(jì)算可減少外傳風(fēng)險(xiǎn)；同時(shí)，高頻傳感器數(shù)據(jù)(如振動(dòng)、溫度)本地處理，環(huán)境的always on主動(dòng)感知分析，能夠降低帶寬、云存儲(chǔ)成本和云服務(wù)成本。

仇肖莘博士以家庭數(shù)據(jù)中心舉例，其作為“神經(jīng)中樞”可以是邊緣+具身智能的融合，可以協(xié)調(diào)服務(wù)機(jī)器人、智能家電等終端，比如冰箱邊緣AI識(shí)別食材存量→具身機(jī)器人自主下單采購(gòu)；家庭監(jiān)護(hù)邊緣系統(tǒng)觸發(fā)警報(bào)→監(jiān)護(hù)機(jī)器人前往查看，等等。

相應(yīng)地，相較于邊緣智能所具備的低延遲、隱私保護(hù)、離線(xiàn)可用性等優(yōu)勢(shì)，某些行業(yè)因業(yè)務(wù)特性、技術(shù)限制或經(jīng)濟(jì)因素，邊緣智能推進(jìn)較慢，云計(jì)算占據(jù)著主導(dǎo)地位。如銀行、保險(xiǎn)等金融行業(yè)，其數(shù)據(jù)需長(zhǎng)期存檔并接受監(jiān)管審查，反欺詐、風(fēng)險(xiǎn)評(píng)估等任務(wù)依賴(lài)千億參數(shù)模型，邊緣智能的存儲(chǔ)和算力都有待發(fā)展。

“但必須明確的一點(diǎn)是，邊緣計(jì)算不等于廉價(jià)的云計(jì)算。”仇肖莘博士指出，“邊緣側(cè)需要‘生于邊緣，且專(zhuān)為邊緣設(shè)計(jì)’的全新計(jì)算架構(gòu)。”這一趨勢(shì)判斷在愛(ài)芯元智的技術(shù)戰(zhàn)略上得到充分體現(xiàn)，其自研的愛(ài)芯通元NPU架構(gòu)被定義為“原生支持邊端智能”的AI時(shí)代專(zhuān)用處理器。

“邊緣AI的發(fā)展速度很快，尤其是近一年來(lái)，關(guān)注度明顯提高，但仍處于市場(chǎng)萌芽階段?！?a href="http://www.socialnewsupdate.com/tags/英飛凌/" target="_blank">英飛凌科技大中華區(qū)消費(fèi)、計(jì)算與通訊業(yè)務(wù)市場(chǎng)總監(jiān)彭祖年認(rèn)為，邊緣AI在提高實(shí)時(shí)響應(yīng)能力、節(jié)約功耗、以及擺脫對(duì)網(wǎng)絡(luò)依賴(lài)等方面展現(xiàn)出的能力，大幅提升了很多產(chǎn)品的用戶(hù)體驗(yàn)。

英飛凌科技大中華區(qū)消費(fèi)、計(jì)算與通訊業(yè)務(wù)市場(chǎng)總監(jiān)彭祖年

從發(fā)展趨勢(shì)來(lái)看，目前邊緣AI相對(duì)來(lái)說(shuō)還比較依賴(lài)于大模型的開(kāi)發(fā)經(jīng)驗(yàn)，主要是將大模型通過(guò)裁剪、蒸餾等技術(shù)小型化到邊緣主控芯片上運(yùn)行。因此，視覺(jué)和語(yǔ)音識(shí)別等應(yīng)用接納速度就比較快，那些沒(méi)有現(xiàn)成模型可借鑒的細(xì)分場(chǎng)景，就需要較長(zhǎng)的技術(shù)積累和開(kāi)發(fā)周期。而未來(lái)的AI模型一定會(huì)以嵌入式場(chǎng)景為基礎(chǔ)，強(qiáng)調(diào)高效和實(shí)時(shí)性，因此針對(duì)嵌入式場(chǎng)景的模型訓(xùn)練是值得重點(diǎn)關(guān)注的。

交談中，Dennis也提到了汽車(chē)行業(yè)。作為邊緣智能技術(shù)應(yīng)用最廣泛的領(lǐng)域之一，如今每輛汽車(chē)都搭載了不同層級(jí)的本地人工智能系統(tǒng)——從簡(jiǎn)單的攝像頭畫(huà)面去畸變與拼接(用于全景影像功能)，到更為復(fù)雜的無(wú)干預(yù)自動(dòng)駕駛技術(shù)(通過(guò)環(huán)境感知算法和路徑規(guī)劃算法實(shí)現(xiàn))。

“汽車(chē)行業(yè)之所以能快速擁抱這項(xiàng)技術(shù)，不僅因?yàn)樵擃I(lǐng)域的人工智能應(yīng)用場(chǎng)景和商業(yè)模式清晰(制造商可為搭載更先進(jìn)ADAS功能的車(chē)輛設(shè)置更高溢價(jià))，更得益于車(chē)載大容量電池能為高性能邊緣AI系統(tǒng)提供充足電力支持?！彼f(shuō)。

相比之下，智能手機(jī)等市場(chǎng)仍在探索適合邊緣AI的商業(yè)模式。雖然部分企業(yè)通過(guò)AI圖像編輯工具實(shí)現(xiàn)了差異化競(jìng)爭(zhēng)，但移動(dòng)設(shè)備的性能局限要求處理技術(shù)必須實(shí)現(xiàn)更高能效——即便運(yùn)行輕量化模型也需突破算力瓶頸。

芯科科技對(duì)《電子工程專(zhuān)輯》表示，邊緣智能技術(shù)在不同行業(yè)的應(yīng)用普及程度存在一些差異，主要與技術(shù)適配性、行業(yè)需求緊迫性、基礎(chǔ)設(shè)施成熟度等因素影響有關(guān)。在他們看來(lái)，邊緣AI/ML將更廣泛應(yīng)用于商業(yè)、工業(yè)和家庭，包括傳感器數(shù)據(jù)處理(用于異常檢測(cè))、預(yù)測(cè)性維護(hù)、音頻模式識(shí)別(用于改進(jìn)玻璃破碎檢測(cè))、簡(jiǎn)單命令詞識(shí)別，以及視覺(jué)應(yīng)用(使用低分辨率攝像頭進(jìn)行在場(chǎng)檢測(cè)或人數(shù)統(tǒng)計(jì))等等。

牟濤的觀點(diǎn)與上述受訪人基本一致。他認(rèn)為，邊緣智能的發(fā)展不僅需要AI技術(shù)創(chuàng)新的拉動(dòng)，同時(shí)還需要傳統(tǒng)行業(yè)在實(shí)現(xiàn)數(shù)字化和網(wǎng)絡(luò)化之后，積極探索用AI技術(shù)來(lái)再一次實(shí)現(xiàn)轉(zhuǎn)型升級(jí)的推動(dòng)力。所以許多已經(jīng)從數(shù)字化中獲得巨大收益的行業(yè)，往往成為帶動(dòng)新一輪邊緣智能發(fā)展的重要領(lǐng)域，如安裝量巨大的物聯(lián)網(wǎng)領(lǐng)域、走向“新四化”的汽車(chē)行業(yè)、以及數(shù)字消費(fèi)電子設(shè)備領(lǐng)域。

例如，智能家居、智能手機(jī)、筆記本電腦、平板電腦、可穿戴設(shè)備、智能音箱、智能相機(jī)和智能電視等帶有AI功能的新興消費(fèi)電子產(chǎn)品在迅速增長(zhǎng)，它們?cè)趥鹘y(tǒng)CPU以外，還在主控SoC中集成了GPU和/或NPU等AI加速器，使其能夠低能耗地運(yùn)行各種AI模型，帶來(lái)了全新的用戶(hù)體驗(yàn)和設(shè)備生產(chǎn)力。同時(shí)，它能夠在本地處理隱私信息，無(wú)需將敏感數(shù)據(jù)上傳至云端以保護(hù)用戶(hù)個(gè)人隱私。

在汽車(chē)和工業(yè)應(yīng)用中也是如此，一方面這些系統(tǒng)的開(kāi)發(fā)者正在通過(guò)添加各種傳感器和環(huán)境感知手段來(lái)收集巨量的數(shù)據(jù)，并利用GPU或NPU從這些數(shù)據(jù)中通過(guò)各種機(jī)器學(xué)習(xí)或者其他AI模型和算法，形成高價(jià)值的智能化解決方案，去實(shí)現(xiàn)車(chē)輛的智能駕駛，或者生產(chǎn)出人類(lèi)都無(wú)法快速分辨和判斷的新產(chǎn)品，并對(duì)設(shè)備進(jìn)行智能化管理。

“大模型+邊緣計(jì)算”打開(kāi)新空間

仇肖莘博士將硬件和算法列為重點(diǎn)。一方面，硬件要重點(diǎn)關(guān)注異構(gòu)計(jì)算硬件在運(yùn)行AI算法方面效率的提升，功耗的降低，總體而言就是不斷降低邊緣智能的落地成本，從而能夠讓邊緣智能覆蓋盡量多的場(chǎng)景，讓AI更普惠。另一方面，軟件應(yīng)該重點(diǎn)關(guān)注模型的壓縮技術(shù)，即如何將云側(cè)模型的能力，以小模型、低成本的方式在邊緣側(cè)更好、更智能的運(yùn)行起來(lái)。

而DeepSeek大模型的橫空出世，更是為邊緣智能帶來(lái)了“能力下沉”和“場(chǎng)景適配”的雙重機(jī)遇。最初，DeepSeek曾是云端計(jì)算的標(biāo)桿，但正如眾多基礎(chǔ)模型的發(fā)展軌跡一樣，如今也推出了能夠適配邊緣設(shè)備的輕量化版本——DeepSeek-VL2系列模型在性能上足以與現(xiàn)有開(kāi)源密集型及混合專(zhuān)家(MoE)模型比肩。

在DeepSeek的加持下，大模型的通用認(rèn)知能力通過(guò)知識(shí)蒸餾、模型壓縮等技術(shù)，不但實(shí)現(xiàn)了AI智能的普及教育，也賦能邊緣側(cè)實(shí)現(xiàn)了更精準(zhǔn)的細(xì)粒度感知和復(fù)雜決策，激發(fā)出大量的邊緣智能需求，而且DeepSeek MoE架構(gòu)也給邊緣智能降低硬件成本提供了嶄新的思路。

同時(shí)，這一演進(jìn)還印證了AI領(lǐng)域仍能通過(guò)軟件創(chuàng)新實(shí)現(xiàn)重大突破：當(dāng)開(kāi)發(fā)者社區(qū)獲得兼具靈活架構(gòu)與強(qiáng)勁性能的硬件支持時(shí)，他們能以驚人速度針對(duì)特定市場(chǎng)或設(shè)備需求定制新模型，DeepSeek的蛻變正是這種“算法-硬件協(xié)同進(jìn)化”的生動(dòng)范例。毫不夸張地說(shuō)，“大模型+邊緣計(jì)算”的技術(shù)范式正在打開(kāi)新的價(jià)值空間。

“正如DeepSeek等突破性技術(shù)所展現(xiàn)的那樣，當(dāng)前階段人工智能在準(zhǔn)確性、性能和能效方面的重大飛躍，主要源自軟件領(lǐng)域的創(chuàng)新。”Dennis認(rèn)為這一規(guī)律在邊緣計(jì)算領(lǐng)域與云計(jì)算領(lǐng)域同樣適用——要讓先進(jìn)算法在市場(chǎng)廣泛普及并將其價(jià)值帶給全球用戶(hù)，技術(shù)生態(tài)圈最關(guān)鍵的使命，就是確保邊緣設(shè)備具備足夠的靈活性和可編程性，以承載最前沿的模型技術(shù)。

他認(rèn)為這意味著邊緣硬件不能僅依賴(lài)NPU等過(guò)度專(zhuān)用化的處理器來(lái)滿(mǎn)足所有AI需求。這類(lèi)處理器雖能高效運(yùn)行已知算法并實(shí)現(xiàn)高性能，卻難以適配新型模型架構(gòu)。反觀GPU技術(shù)，不僅能讓邊緣設(shè)備持續(xù)受益于軟件創(chuàng)新，更為硬件設(shè)計(jì)師和軟件開(kāi)發(fā)者在AI性能與可編程性之間提供了理想平衡，這種優(yōu)勢(shì)將長(zhǎng)期延續(xù)。

然而在牟濤看來(lái)，盡管從具體的技術(shù)路徑和實(shí)現(xiàn)方式來(lái)看，用于圖形處理和AI訓(xùn)練的GPU芯片，以及多用于在邊緣設(shè)備上實(shí)現(xiàn)AI推理的NPU芯片，或者搭載GPU或者NPU的各種SoC，是當(dāng)前最為常見(jiàn)的。但對(duì)于邊緣AI應(yīng)用，除了需要有足夠的算力，還需要兼顧媒體類(lèi)型、運(yùn)行功耗、實(shí)時(shí)性和其他系統(tǒng)需求，因此帶有針對(duì)邊緣AI應(yīng)用的微架構(gòu)(micro-architecture)以及相應(yīng)開(kāi)發(fā)工具的邊緣AI芯片，將會(huì)在未來(lái)邊緣智能快速發(fā)展的過(guò)程中異軍突起。

例如，采用“軟件定義系統(tǒng)設(shè)計(jì)+微架構(gòu)AI加速”的AI SoC，就是未來(lái)的關(guān)鍵發(fā)展方向之一，因?yàn)樗鼈兡軌蛞愿`活的方式在廣泛場(chǎng)景中通過(guò)AI處理音頻、圖像和視頻等多種媒體信息。也就是說(shuō)，整體平臺(tái)更加靈活、能夠通過(guò)架構(gòu)創(chuàng)新實(shí)現(xiàn)特定性能的邊緣AI芯片，將有助于行業(yè)在資源受限的邊緣環(huán)境中部署AI功能時(shí)，避免局限于依賴(lài)某一類(lèi)特定的功能特性。

芯科科技方面指出，邊緣智能的發(fā)展離不開(kāi)物聯(lián)網(wǎng)、5G、人工智能、邊緣計(jì)算硬件等技術(shù)的有力支撐。在未來(lái)技術(shù)研發(fā)方向上，首先要重點(diǎn)關(guān)注邊緣智能與云計(jì)算的協(xié)同技術(shù)。邊緣智能適用于需要在設(shè)備上完成快速?zèng)Q策、低延遲或保護(hù)數(shù)據(jù)隱私的任務(wù)。云計(jì)算更適合大規(guī)模數(shù)據(jù)存儲(chǔ)、復(fù)雜分析和模型訓(xùn)練，是對(duì)邊緣智能的補(bǔ)充，因?yàn)樵谠O(shè)備層面無(wú)法完成的更高級(jí)別的處理，可以在云上處理后被傳回到邊緣設(shè)備。

其次是安全與隱私保護(hù)技術(shù)，隨著邊緣智能應(yīng)用的不斷擴(kuò)大，數(shù)據(jù)安全和隱私保護(hù)問(wèn)題日益凸顯。數(shù)據(jù)加密傳輸、設(shè)備身份認(rèn)證、隱私保護(hù)計(jì)算等技術(shù)，確保邊緣設(shè)備和數(shù)據(jù)的安全性，是接下來(lái)重要的技術(shù)研發(fā)方向。

邊緣智能，走向開(kāi)源、開(kāi)放

牟濤對(duì)此表達(dá)了支持的態(tài)度。在他看來(lái)，開(kāi)源和開(kāi)放確實(shí)是推動(dòng)邊緣智能未來(lái)發(fā)展的重要手段之一?，面對(duì)千差萬(wàn)別的邊緣智能場(chǎng)景和應(yīng)用，不可能僅靠少數(shù)應(yīng)用開(kāi)發(fā)企業(yè)就能開(kāi)發(fā)出所有商業(yè)化的模型和工具，也需要大量的開(kāi)源模型和算法來(lái)支持邊緣智能盡快地落地。

“這可以支持眾多企業(yè)和開(kāi)發(fā)者能夠迅速而低投入啟動(dòng)項(xiàng)目，并‘站在巨人的肩膀上’去開(kāi)發(fā)邊緣智能應(yīng)用，且不會(huì)對(duì)隱私構(gòu)成威脅——在邊緣部署AI模型意味著僅共享所需的元數(shù)據(jù)，而非可能在云端被濫用的原始數(shù)據(jù)?！澳矟f(shuō)。

仇肖莘博士指出，開(kāi)源、開(kāi)放既是邊緣智能發(fā)展的核心路徑，也是其發(fā)展的重要助力，這與愛(ài)芯元智提出的“普惠AI”的使命高度契合。邊緣智能領(lǐng)域在落地實(shí)操中，只有開(kāi)源開(kāi)放基礎(chǔ)模型能力的提升，才能讓邊緣智能的能力快速提高。同時(shí)，通過(guò)硬件級(jí)的安全隔離，企業(yè)、家庭、個(gè)人均可在本地硬件中完成數(shù)據(jù)閉環(huán)，有效杜絕了潛在的隱私數(shù)據(jù)泄露問(wèn)題，天然具備強(qiáng)隱私保護(hù)特性。

Dennis則補(bǔ)充說(shuō)，人工智能領(lǐng)域?qū)⑹冀K呈現(xiàn)開(kāi)源模型與專(zhuān)有模型并存的格局。而科技行業(yè)現(xiàn)在亟需協(xié)同推進(jìn)的一個(gè)關(guān)鍵方向，就是制定開(kāi)放標(biāo)準(zhǔn)以實(shí)現(xiàn)AI軟件在不同設(shè)備和硬件間的可移植性。目前已有諸多實(shí)踐范例，例如面向邊緣設(shè)備運(yùn)行AI模型的開(kāi)源庫(kù)LiteRT，以及UXL基金會(huì)推出的異構(gòu)計(jì)算標(biāo)準(zhǔn)oneAPI。

因?yàn)檐浖m然是打造優(yōu)質(zhì)智能體驗(yàn)的核心要素，但其快速攀升的開(kāi)發(fā)成本已成為多個(gè)市場(chǎng)的隱憂(yōu)。促進(jìn)AI工作負(fù)載可移植的開(kāi)放標(biāo)準(zhǔn)，將成為降低軟件開(kāi)發(fā)成本、推動(dòng)邊緣智能規(guī)?；涞氐幕?。

在隱私與數(shù)據(jù)安全方面，邊緣智能具備天然優(yōu)勢(shì)。由于邊緣AI在本地設(shè)備端運(yùn)行，健康數(shù)據(jù)、財(cái)務(wù)信息等敏感內(nèi)容無(wú)需上傳至云端。這種架構(gòu)有效規(guī)避了云端AI在隱私保護(hù)方面的不確定性風(fēng)險(xiǎn)，為用戶(hù)數(shù)據(jù)筑起安全屏障。

彭祖年對(duì)開(kāi)源、開(kāi)放的適用領(lǐng)域做了進(jìn)一步細(xì)化。他強(qiáng)調(diào)指出，開(kāi)源、開(kāi)放通常指代的是模型本身，而不是數(shù)據(jù)——無(wú)論是用于模型訓(xùn)練的數(shù)據(jù)，還是用戶(hù)使用時(shí)的本地?cái)?shù)據(jù)，都是要受到保護(hù)的。因此英飛凌在PSOC Edge AI MCU設(shè)計(jì)之初就加入了支持高階信息安全認(rèn)證的安全硬件，以保護(hù)數(shù)據(jù)不被侵犯和竊取，大大降低用戶(hù)隱私數(shù)據(jù)的泄露和遭濫用的風(fēng)險(xiǎn)。

魚(yú)和熊掌能否兼得？

隨著邊緣智能應(yīng)用場(chǎng)景的不斷豐富，人們一方面希望實(shí)現(xiàn)跨場(chǎng)景的數(shù)據(jù)共享與融合，以挖掘更大的價(jià)值。另一方面，又想降低邊緣智能技術(shù)在各行業(yè)應(yīng)用中的成本。如何解決好這兩方面的問(wèn)題，成為人們關(guān)心的重點(diǎn)。

Dennis認(rèn)為這些發(fā)展機(jī)遇并非相互排斥，而是可以并行推進(jìn)。對(duì)于廣告、保險(xiǎn)等應(yīng)用場(chǎng)景，數(shù)據(jù)共享能幫助第三方洞察用戶(hù)行為，從而釋放商業(yè)價(jià)值。當(dāng)然，與第三方共享數(shù)據(jù)并非必須選項(xiàng)——重視數(shù)據(jù)安全的企業(yè)完全可以通過(guò)私有云部署高性能AI算法：這類(lèi)方案能夠聚合企業(yè)內(nèi)多終端數(shù)據(jù)，在私有服務(wù)器上進(jìn)行處理，最終為決策者提供統(tǒng)一的數(shù)據(jù)視圖。

設(shè)備端數(shù)據(jù)處理則開(kāi)辟了另一個(gè)重要市場(chǎng)。在互聯(lián)網(wǎng)連接不穩(wěn)定、需要極速響應(yīng)、或要求數(shù)據(jù)完全不離設(shè)備(如智能手表)的場(chǎng)景中，低成本的邊緣智能技術(shù)將推動(dòng)智能化應(yīng)用的普及。

當(dāng)然，某些情況下云端與邊緣的界限會(huì)存在重疊——當(dāng)AI任務(wù)既可在邊緣處理也能上云時(shí)，應(yīng)用開(kāi)發(fā)者需要權(quán)衡兩者帶來(lái)的用戶(hù)體驗(yàn)與成本效益。畢竟，云計(jì)算服務(wù)可從來(lái)不是免費(fèi)的！

人工智能技術(shù)向邊緣和端側(cè)快速擴(kuò)散，被牟濤視作2025及今后非常重要的趨勢(shì)之一?！八懔ο鲁痢敝皇沁@種新發(fā)展的一個(gè)方面，在端側(cè)或者邊緣不僅需要算力、成本和功耗的平衡。更關(guān)鍵之處在于，嵌入式系統(tǒng)需要實(shí)現(xiàn)模型、組件與場(chǎng)景的深度集成并具備高靈活性，同時(shí)讓更多熟悉特定場(chǎng)景的開(kāi)發(fā)者能夠通過(guò)優(yōu)化的解決方案滿(mǎn)足市場(chǎng)需求。

“這兩方面的核心，是平衡好數(shù)據(jù)價(jià)值密度與部署經(jīng)濟(jì)性之間的關(guān)系跨場(chǎng)景的融合，能夠讓智能感知更加的充分、提升數(shù)據(jù)價(jià)值密度，提高邊緣智能部署投入的ROI，即使單體的邊緣智能成本上升，但是總體TCO仍保持下降。由此可見(jiàn)，兩者并不矛盾。”仇肖莘博士進(jìn)一步表示，“未來(lái)邊緣計(jì)算的行業(yè)標(biāo)準(zhǔn)不再由算力峰值主導(dǎo)，而是由場(chǎng)景性能指標(biāo)定義，沒(méi)有場(chǎng)景深度的企業(yè)將面對(duì)挑戰(zhàn)”。

實(shí)現(xiàn)跨場(chǎng)景的數(shù)據(jù)共享與融合離不開(kāi)無(wú)線(xiàn)連接技術(shù)，作為該領(lǐng)域的領(lǐng)先公司，芯科科技憑借在物聯(lián)網(wǎng)無(wú)線(xiàn)連接領(lǐng)域的優(yōu)勢(shì)，為邊緣設(shè)備提供更穩(wěn)定、高效的連接方案，降低邊緣設(shè)備的能耗，延長(zhǎng)續(xù)航時(shí)間，減少部署和維護(hù)成本。諸如在醫(yī)療領(lǐng)域，通過(guò)人工智能軟件，從醫(yī)療信息系統(tǒng)等靜態(tài)數(shù)據(jù)集(如電子病歷)中匯總數(shù)據(jù)，然后將其與實(shí)時(shí)數(shù)據(jù)相結(jié)合，以顯示身體狀況，實(shí)現(xiàn)個(gè)性化的醫(yī)療。

從“場(chǎng)景適配”到“能力重構(gòu)”

仇肖莘博士預(yù)測(cè)，未來(lái)3－5年，是邊緣智能規(guī)?；涞氐臅r(shí)間，邊緣智能將經(jīng)歷從“場(chǎng)景適配”到“能力重構(gòu)”的質(zhì)變。隨著異構(gòu)計(jì)算范式逐漸成熟、“動(dòng)態(tài)感知——決策”在邊緣測(cè)的閉環(huán)、以及隱私計(jì)算原生架構(gòu)等技術(shù)方面的演進(jìn)，邊緣計(jì)算將在智慧城市、智能駕駛、智慧制造、智慧家具等方面實(shí)現(xiàn)顛覆性的規(guī)?；涞?，“事實(shí)上，邊緣智能的發(fā)展將徹底重構(gòu)人機(jī)交互、產(chǎn)業(yè)效率和社會(huì)治理的底層邏輯”。

可以預(yù)見(jiàn)，邊緣智能將逐步擺脫“云計(jì)算附屬”的定位，成為重構(gòu)物理世界運(yùn)行規(guī)則的基礎(chǔ)設(shè)施。當(dāng)城市管網(wǎng)、農(nóng)機(jī)設(shè)備、能源裝置等實(shí)體通過(guò)邊緣節(jié)點(diǎn)獲得自主進(jìn)化能力時(shí)，人類(lèi)社會(huì)的生產(chǎn)力革新將進(jìn)入“環(huán)境智能”驅(qū)動(dòng)的新紀(jì)元。

“將AI模型部署在MCU這類(lèi)小系統(tǒng)上不失為一種兩全其美的方法。MCU對(duì)系統(tǒng)資源需求少，實(shí)時(shí)性強(qiáng)，而隨著MCU級(jí)別的NPU的成熟，本地的推理能力不斷提升，就可以支持小系統(tǒng)上的AI算力?！痹谂碜婺昕磥?lái)，未來(lái)3－5年里，“邊緣AI是一條兩位數(shù)增長(zhǎng)的快車(chē)道”，會(huì)出現(xiàn)越來(lái)越多的細(xì)分市場(chǎng)，尤其是在AI結(jié)合低功耗領(lǐng)域，是“相當(dāng)有希望的方向”。

Dennis則堅(jiān)信邊緣硬件系統(tǒng)設(shè)計(jì)即將迎來(lái)一個(gè)激動(dòng)人心的新階段。眾所周知，邊緣AI的未來(lái)發(fā)展需要高效能、高性能且具備足夠靈活性以適應(yīng)未來(lái)工作負(fù)載的硬件解決方案。以往需要圖形處理能力的邊緣系統(tǒng)設(shè)計(jì)者或許不再需要額外配置NPU芯片，一些性能更強(qiáng)、面積更小的GPU即可滿(mǎn)足全部需求。

牟濤認(rèn)為，目前幾乎所有曾經(jīng)由傳統(tǒng)數(shù)字芯片控制的市場(chǎng)都在向智能化轉(zhuǎn)型，因此智能化以及其帶來(lái)的對(duì)存儲(chǔ)、通信和網(wǎng)絡(luò)芯片的需求，是當(dāng)前全球半導(dǎo)體市場(chǎng)最大的增長(zhǎng)動(dòng)力。例如即使在非常傳統(tǒng)的音頻技術(shù)領(lǐng)域，采用邊緣智能技術(shù)也可以取得可觀的市場(chǎng)成績(jī)。

芯科科技目前正專(zhuān)注于開(kāi)發(fā)具有內(nèi)置機(jī)器學(xué)習(xí)功能的低功耗、小尺寸產(chǎn)品，以便直接在設(shè)備上處理數(shù)據(jù)。尤其是考慮到機(jī)器學(xué)習(xí)可以用于具有傳感器、麥克風(fēng)和攝像頭的嵌入式系統(tǒng)中，以分析時(shí)間序列、音頻模式(包括語(yǔ)音命令)和圖像(用于物體檢測(cè)和指紋讀取)等數(shù)據(jù)。

這樣做的好處是顯而易見(jiàn)的。首先，邊緣智能減少了延遲，在本地處理數(shù)據(jù)意味著能夠做出更快的決策和采取實(shí)時(shí)行動(dòng)，這對(duì)于需要實(shí)時(shí)響應(yīng)的任務(wù)或安全關(guān)鍵型應(yīng)用尤為重要。即使在出現(xiàn)網(wǎng)絡(luò)問(wèn)題或管理限制的情況下，邊緣智能也能確保本地處理系統(tǒng)正常運(yùn)行。

其次，由于敏感數(shù)據(jù)保留在設(shè)備上，因此只傳輸推理結(jié)果/元數(shù)據(jù)。這就降低了入侵和黑客攻擊的風(fēng)險(xiǎn)，從而增強(qiáng)了安全性和隱私性，并保護(hù)了知識(shí)產(chǎn)權(quán)。最后，通過(guò)從云端卸載處理過(guò)程，邊緣智能本身具有更低的功耗，并延長(zhǎng)設(shè)備電池的續(xù)航時(shí)間。

結(jié)語(yǔ)

隨著物聯(lián)網(wǎng)技術(shù)的不斷成熟，越來(lái)越多的設(shè)備能夠連接到網(wǎng)絡(luò)并生成數(shù)據(jù)，這些數(shù)據(jù)需要在邊緣進(jìn)行實(shí)時(shí)處理和分析，從而推動(dòng)了邊緣智能的發(fā)展。與此同時(shí)，AI模型、AI加速器為邊緣智能提供了更強(qiáng)大的計(jì)算能力，能夠支持復(fù)雜的AI算法和大規(guī)模的數(shù)據(jù)處理，使得邊緣智能的應(yīng)用場(chǎng)景正從工業(yè)領(lǐng)域逐步拓展到包括智能家居、可穿戴設(shè)備、智能醫(yī)療等在內(nèi)的消費(fèi)領(lǐng)域，前景十分廣闊。

(責(zé)編：Franklin)