人工智能重構(gòu)邊緣，將給嵌入式系統(tǒng)注入怎樣的新能量？

今年上海國(guó)際嵌入式展（Embedded World China 2024）上，貿(mào)澤電子攜手國(guó)際知名原廠Analog Devices、Amphenol、NXP Semiconductors、onsemi、Silicon Labs、VICOR等再度亮相，呈現(xiàn)AMR/機(jī)器人、邊緣AI、電機(jī)控制、嵌入式控制系統(tǒng)、機(jī)器視覺(jué)、RIFD、人機(jī)交互、IoT等一系列技術(shù)與應(yīng)用話題。

不過(guò)三天展會(huì)看下來(lái)，貿(mào)博士的總體感受是——嵌入式AI是今年絕對(duì)的主角。

對(duì)比去年在中國(guó)的第一屆嵌入式展，各家展商主打的是AI從云端帶到邊緣端。今年則是聚焦于嵌入式AI已經(jīng)對(duì)嵌入式硬件和系統(tǒng)產(chǎn)生了那些具體的改變和影響，以及未來(lái)還將有怎樣的硬件創(chuàng)新，尤其是芯片層面的技術(shù)創(chuàng)新。

可以說(shuō)，以ChatGPT為代表所引領(lǐng)的AI新時(shí)代，以全場(chǎng)景自動(dòng)化感知和多模態(tài)處理的大模型（LLM, Large Language Model）大大拓展了AI的感知能力，同時(shí)拓寬了應(yīng)用場(chǎng)景。但與此同時(shí)，AI對(duì)于大算力的需求也進(jìn)一步引發(fā)了大算力硬件的投入需求。這是一次“由軟到硬”的產(chǎn)業(yè)鏈傳導(dǎo)過(guò)程。

AI融入嵌入式系統(tǒng)深刻改變嵌入式硬件現(xiàn)狀

值得一提的是，就在今年嵌入式展會(huì)開(kāi)展前一天，蘋(píng)果在其今年的WWDC上公布了一系列重磅AI戰(zhàn)略，包括發(fā)布了其人工智能系統(tǒng)Apple Intelligence以及與OpenAI的戰(zhàn)略合作，并預(yù)告未來(lái)的iPhone等終端硬件中將嵌入OpenAI的AI技術(shù)。在過(guò)去一兩年里，蘋(píng)果在這場(chǎng)由ChatGPT引領(lǐng)的新一輪AI競(jìng)賽中的存在感并不強(qiáng)。而這此其一系列發(fā)布也顯示出這家全球科技大佬“all in AI”的決心。

而隨著蘋(píng)果吹響AI向智能終端加速滲透的沖鋒號(hào)，也預(yù)示著“大模型AI +硬件”大規(guī)模產(chǎn)品化開(kāi)始。這對(duì)于整個(gè)電子產(chǎn)業(yè)鏈的帶動(dòng)效應(yīng)也將逐步顯現(xiàn)，從芯片到傳感器、攝像頭、連接器等元器件、模組等電子產(chǎn)業(yè)鏈上下游各個(gè)節(jié)點(diǎn)都有望獲得新的增長(zhǎng)動(dòng)力，同時(shí)也將啟動(dòng)更多的嵌入式硬件的創(chuàng)新。

據(jù)分析機(jī)構(gòu)Canalys預(yù)測(cè)，2024年，全球16%的智能手機(jī)出貨為AI手機(jī)，到2028年，這一比例將激增至54%。受消費(fèi)者對(duì)AI助手和端側(cè)處理等增強(qiáng)功能需求的推動(dòng)，2023年至2028年間，AI手機(jī)市場(chǎng)以63%的年均復(fù)合增長(zhǎng)率增長(zhǎng)。

到2028年;AI手機(jī)市場(chǎng)份額將達(dá)到54%：

貿(mào)博士注意到，在今年嵌入式的主題演講中，業(yè)內(nèi)專業(yè)人士及相關(guān)產(chǎn)業(yè)鏈廠商也都將話題聚焦在AI的新突破給嵌入式系統(tǒng)帶來(lái)的變革，以及AIGC（生成式AI）的入口是什么等一系列話題上。其中一大共識(shí)是，AIGC的入口很大程度將在“始終在線”的輕量化智能可穿戴設(shè)備領(lǐng)域。通過(guò)硬件終端，感知視覺(jué)、聲音、動(dòng)作等，并連接到系統(tǒng)上，通過(guò)上下文意識(shí)來(lái)預(yù)測(cè)用戶的環(huán)境、情境和需求。這將帶動(dòng)一些嵌入式硬件的新增量以及新一波創(chuàng)新需求。

中關(guān)村智用人工智能研究院院長(zhǎng)孫明俊指出，AI將會(huì)融入嵌入式系統(tǒng)中并深刻地改變嵌入式系統(tǒng)硬件。比如大量的傳感器被改變了，包括音頻領(lǐng)域的麥克風(fēng)陣列，視頻領(lǐng)域中的攝像頭、傳感器等。而在AI大模型時(shí)代，新一代的硬件將會(huì)持續(xù)出現(xiàn)，至于會(huì)呈現(xiàn)怎樣的狀態(tài)，這取決于多項(xiàng)技術(shù)的同時(shí)進(jìn)步突破，跨領(lǐng)域技術(shù)的融合疊加，這也是未來(lái)3-5年嵌入式系統(tǒng)硬件的重要挑戰(zhàn)。

近年來(lái)，各廠商都不約而同地認(rèn)定，語(yǔ)音交互是未來(lái)交互的主流方案。隨著AI加持端側(cè)人機(jī)語(yǔ)音交互功能趨勢(shì)漸顯，智能語(yǔ)音助手用戶數(shù)量還有望進(jìn)一步增長(zhǎng)。根據(jù)eMarketer的數(shù)據(jù)顯示，到2025年，預(yù)計(jì)使用谷歌助手的用戶數(shù)量將達(dá)到9190萬(wàn)，而Siri的用戶數(shù)量則有望達(dá)到8650萬(wàn)。而隨著以iPhone新版Siri為代表的語(yǔ)音助手帶動(dòng)人機(jī)語(yǔ)音交互需求提升，升級(jí)麥克風(fēng)功能將成為實(shí)現(xiàn)AI技術(shù)應(yīng)用的關(guān)鍵一環(huán)。因而麥克風(fēng)或?yàn)樾略隽糠较颉?br />
據(jù)科創(chuàng)版日?qǐng)?bào)援引供應(yīng)鏈消息稱，蘋(píng)果的iPhone 16系列將采用指向性麥克風(fēng)（定向麥克風(fēng)）作為標(biāo)配。這種設(shè)備能集中捕捉來(lái)自特定方向的聲音，同時(shí)對(duì)其他方向的噪音有較強(qiáng)的抑制作用，同時(shí)還具備更好的防水性。對(duì)此，知名分析師郭明錤預(yù)計(jì)，新款iPhone配備先進(jìn)麥克風(fēng)技術(shù)以及iOS18升級(jí)預(yù)計(jì)將導(dǎo)致每部iPhone16的麥克風(fēng)平均售價(jià)（ASP）大幅上漲100%-150%。

德邦證券的研報(bào)分析指出，電子設(shè)備廠商及智能手機(jī)廠商對(duì)麥克風(fēng)更高信噪比及性能的需求有望帶動(dòng)價(jià)值量提升。因?yàn)锳I語(yǔ)音交互趨勢(shì)下，高信噪比MEMS麥克風(fēng)有望被蘋(píng)果之外的更多安卓廠商采用，并且逐漸從AI手機(jī)進(jìn)一步滲透到AI PC、AI音箱等更多智能硬件終端應(yīng)用中。

在貿(mào)澤電子代理的原廠中就有不少提供優(yōu)秀MEMS麥克風(fēng)產(chǎn)品的廠商。比如TDK InvenSense ICS-40800低噪聲定向MEMS麥克風(fēng)具有70dBA超高信噪比(SNR)和±1dB靈敏度容差，適合用于遠(yuǎn)場(chǎng)語(yǔ)音控制和語(yǔ)音應(yīng)用。該產(chǎn)品的典型應(yīng)用場(chǎng)景包括平板電腦、電話會(huì)議系統(tǒng)、數(shù)碼相機(jī)、通信耳機(jī)、安全和監(jiān)控等。另外，還有CUI Devices寬頻MEMS麥克風(fēng)，信噪比為62dBA或64dBA，靈敏度等級(jí)為-38dB，靈敏度容差低至±1dB，非常適合用于各種便攜式消費(fèi)電子產(chǎn)品。

大算力硬件稀缺芯片技術(shù)創(chuàng)新構(gòu)建AI算力引擎

而很多業(yè)內(nèi)分析也指出，AI模型巨頭和智能手機(jī)巨頭的緊密綁定將大幅提升AI大模型產(chǎn)品的滲透率。由此產(chǎn)生的推理算力需求和間接產(chǎn)生的訓(xùn)練算力需求將對(duì)整個(gè)AI算力產(chǎn)業(yè)鏈形成催化?？梢哉f(shuō)，AI手機(jī)等終端硬件與AI大模型雙向賦能。

芯原董事長(zhǎng)戴偉民在嵌入式展期間的一場(chǎng)主題演講中提出的關(guān)于“兩輪科技牛市”的論述和預(yù)測(cè)讓貿(mào)博士頗有印象。他指出，上一輪科技“牛市”發(fā)生在2010年，是“先硬后軟”——由硬件領(lǐng)域的創(chuàng)新突破開(kāi)啟，代表性事件是iPhone 4的誕生，開(kāi)啟了智能手機(jī)引領(lǐng)的移動(dòng)互聯(lián)網(wǎng)“牛市”(2013-2015)；而這一輪“牛市”則是“先軟后硬”，代表事件是2023年ChatGPT的問(wèn)世，他預(yù)測(cè)由AI大模型引領(lǐng)的大算力硬件的“牛市”將從2026年開(kāi)啟。

因?yàn)楫?dāng)前的產(chǎn)業(yè)現(xiàn)狀是，大算力硬件非常缺乏。從芯片技術(shù)層面的創(chuàng)新突破來(lái)為AI提供算力引擎尤為關(guān)鍵。

Chiplet（芯?；蛐⌒酒┘夹g(shù)賦能AI大模型算力的潛能正在顯現(xiàn)。Chiplet是一種將復(fù)雜芯片拆分成多個(gè)小型、獨(dú)立且可復(fù)用的模塊的設(shè)計(jì)方法。這些模塊可以是處理器核心、內(nèi)存芯片、傳感器或其他類型的集成電路，它們通過(guò)高速接口或連接器相互連接，形成一個(gè)完整的系統(tǒng)芯片(SoC)。與傳統(tǒng)單片IC設(shè)計(jì)相比，Chiplet通過(guò)將大型芯片拆分成多個(gè)小型、獨(dú)立的模塊的設(shè)計(jì)方法，實(shí)現(xiàn)像“搭樂(lè)高積木”一般的模塊化靈活組裝設(shè)計(jì)，可以顯著降低設(shè)計(jì)復(fù)雜性，實(shí)現(xiàn)更高的靈活性、可擴(kuò)展性和可復(fù)用性。因?yàn)槊總€(gè)模塊都可以獨(dú)立設(shè)計(jì)和生產(chǎn)，然后根據(jù)需要進(jìn)行組合，這不僅提高了設(shè)計(jì)的靈活性，還促進(jìn)了跨廠商和跨領(lǐng)域的協(xié)同設(shè)計(jì)和優(yōu)化。

近年來(lái)，Chiplet市場(chǎng)獲得了極大的關(guān)注和增長(zhǎng)。這一趨勢(shì)是由多種因素推動(dòng)的，包括現(xiàn)代電子設(shè)備的復(fù)雜性和需求不斷增加、加快上市時(shí)間的需求以及有效利用專業(yè)半導(dǎo)體技術(shù)的愿望，以及對(duì)定制和專用集成電路（ASIC）不斷增長(zhǎng)的需求也推動(dòng)了這一趨勢(shì)。

而AI對(duì)大算力的需求也將推動(dòng)Chiplet技術(shù)的發(fā)展。因?yàn)锳I訓(xùn)練、推理需要大量高性能、高可靠性的服務(wù)器芯片來(lái)支持各種計(jì)算和存儲(chǔ)任務(wù)。通過(guò)將服務(wù)器芯片拆分為多個(gè)小型、獨(dú)立的計(jì)算和存儲(chǔ)模塊，可以實(shí)現(xiàn)更高效、更可靠的計(jì)算和存儲(chǔ)服務(wù)。據(jù)研究機(jī)構(gòu)Omida統(tǒng)計(jì)，微處理器是Chiplet最大的細(xì)分市場(chǎng)，支持Chiplet的微處理器市場(chǎng)份額預(yù)計(jì)將從2018年的4.52億美元增長(zhǎng)到2024年的24億美元。

據(jù)市調(diào)機(jī)構(gòu)Market.us公布的最新報(bào)告數(shù)據(jù)，2023年全球Chiplet市場(chǎng)產(chǎn)生的市場(chǎng)規(guī)模約31億美元，預(yù)計(jì)到2024年將達(dá)到44億美元。2024年至2033年，Chiplet行業(yè)的復(fù)合年均增長(zhǎng)率預(yù)計(jì)將達(dá)到42.5%，到2033年估值將達(dá)到1070億美元。按細(xì)分市場(chǎng)來(lái)看，2023年，CPU Chiplet占據(jù)主導(dǎo)地位，占據(jù)超過(guò)41%的份額。應(yīng)用方面，2023年，消費(fèi)電子領(lǐng)域在Chiplet市場(chǎng)中占據(jù)主導(dǎo)地位，占據(jù)超過(guò)26%的份額。

RISC-V+ AI是另一個(gè)方向。近年來(lái)，RISC-V開(kāi)源指令集架構(gòu)快速發(fā)展，已成為當(dāng)前國(guó)際科技競(jìng)爭(zhēng)的焦點(diǎn)，同時(shí)也成為一個(gè)有效抓手來(lái)以開(kāi)源開(kāi)放凝聚產(chǎn)業(yè)發(fā)展共識(shí)，打造全球算力產(chǎn)業(yè)生態(tài)。

貿(mào)博士在嵌入式展期間了解到，盡管當(dāng)前英偉達(dá)的GPU及其之上的CUDA軟件生態(tài)主導(dǎo)著全球Al算力市場(chǎng)，但產(chǎn)業(yè)界迫切希望建建立新的軟件生態(tài)以突破CUDA生態(tài)壁壘。通過(guò)RISC-V+Al擴(kuò)展指令，用開(kāi)源來(lái)打破英偉達(dá)壟斷，已經(jīng)逐漸成為全球業(yè)界新共識(shí)。Google、Meta、Microsoft、OpenAI等均在Al芯片中使用RISC-V架構(gòu)。而當(dāng)前RISC-V+Al擴(kuò)展指令尚無(wú)統(tǒng)一標(biāo)準(zhǔn)，RISC-V國(guó)際基金會(huì)正在加快推動(dòng)以開(kāi)源開(kāi)放的方式共同制定Al擴(kuò)展指令集標(biāo)淮，并合作研發(fā)其上的開(kāi)源Al系統(tǒng)軟件棧。

RISC-V架構(gòu)開(kāi)源、精簡(jiǎn)、可擴(kuò)展性強(qiáng)，在此輪芯片產(chǎn)業(yè)周期中發(fā)展最為迅速。公開(kāi)數(shù)據(jù)顯示，2022年全球共生產(chǎn)100億顆RISC-V芯片，有一半源于中國(guó)。

嵌入式AI方案應(yīng)用一覽：

在本次嵌入式展期間，我們的展臺(tái)上也展示了多個(gè)來(lái)自原廠的多個(gè)嵌入式AI方案的DEMO應(yīng)用展示。

ADI：小尺寸有大智慧，基于機(jī)器視覺(jué)的機(jī)械臂應(yīng)用

該機(jī)械臂方案由三個(gè)模組構(gòu)成，第一個(gè)是ADI的MAX78000攝像頭模組，第二個(gè)是中央處理器，第三個(gè)是馬達(dá)控制驅(qū)動(dòng)器。這一應(yīng)用可以通過(guò)MAX78000攝像頭模組來(lái)識(shí)別二維碼標(biāo)簽及位置信息，并發(fā)送給中央處理器；中央處理器通過(guò)計(jì)算規(guī)劃路徑，驅(qū)動(dòng)馬達(dá)控制器來(lái)控制機(jī)械臂進(jìn)行跟蹤抓取。

ADI MAX78000攝像頭模組是由ADI開(kāi)發(fā)的超低功耗邊緣AI處理器MAX78000 SoC加一個(gè)攝像頭所組成。該邊緣AI處理器具有以下特征：其一是配備了64個(gè)并行處理器可同時(shí)進(jìn)行并行運(yùn)算，極大提升處理性能；MAX78000是一顆深度學(xué)習(xí)的推理芯片，它在推理過(guò)程中幾乎不需要其他微控制器核的介入，操作的流線化程度高。其二，在做卷積神經(jīng)網(wǎng)絡(luò)計(jì)算的時(shí)候，其卷積神經(jīng)網(wǎng)絡(luò)加速器的內(nèi)部集成了RAM存儲(chǔ)功能，使得微控制器無(wú)需在連續(xù)的數(shù)學(xué)運(yùn)算中每次都要通過(guò)總線來(lái)獲取相關(guān)參數(shù)。其三，該模組還對(duì)卷積神經(jīng)網(wǎng)絡(luò)進(jìn)行了特別的優(yōu)化處理，可以在本地以低功耗實(shí)時(shí)執(zhí)行AI處理，大幅提高機(jī)器視覺(jué)、語(yǔ)音和面部識(shí)別等應(yīng)用的工作效率。

NXP：嵌入式AI開(kāi)發(fā)如何加速？一款基于MCX N947的人臉追蹤風(fēng)扇解決方案

恩智浦在貿(mào)澤電子展位展示了一款基于MCX N947的人臉追蹤風(fēng)扇解決方案，形象地展示了如何將AI與嵌入式系統(tǒng)開(kāi)發(fā)有機(jī)結(jié)合起來(lái)，營(yíng)造新的開(kāi)發(fā)生態(tài)，打造與眾不同的創(chuàng)新用例。來(lái)自恩智浦的新一代MCX系列MCU平臺(tái)，以及與之配套的FRDM開(kāi)發(fā)生態(tài)充分展現(xiàn)出該公司在推動(dòng)嵌入式AI發(fā)展的信心和實(shí)力。

onsemi：用于雙向OBC的6.6KW CLLC隔離DC-DC轉(zhuǎn)換器

CLLC繼承了LLC拓?fù)涞奶攸c(diǎn)，采用脈沖頻率調(diào)節(jié)來(lái)控制增益，具有同樣的軟開(kāi)關(guān)特性，因此，能效高且EMI表現(xiàn)好，但也存在增益調(diào)整范圍窄、難以滿足寬廣的電池電壓變化范圍的挑戰(zhàn)。

在其功率板中，位于母線側(cè)和電池測(cè)的兩個(gè)有源橋分別由四顆1200 V/40毫歐NVHL040N120SC1和四顆900 V/20毫歐NVHL020N090SC1碳化硅(SiC) MOS構(gòu)成。相比于硅器件，碳化硅器件可以實(shí)現(xiàn)更高的功率密度、更高的開(kāi)關(guān)頻率和極高效的設(shè)計(jì)。

Silicon Labs：引領(lǐng)智能家居風(fēng)向標(biāo)的Matter標(biāo)準(zhǔn)

Matter作為物聯(lián)網(wǎng)設(shè)備的新標(biāo)準(zhǔn)，與其他的一些標(biāo)準(zhǔn)不同，Matter不依賴于特定的無(wú)線網(wǎng)絡(luò)技術(shù)，由于其基于IP的基礎(chǔ)，Matter可以于多種網(wǎng)絡(luò)標(biāo)準(zhǔn)及物理層配合使用。作為物聯(lián)網(wǎng)及Matter解決方案的領(lǐng)導(dǎo)供應(yīng)商之一，Silicon Labs展示了基于EFR32MG2x系列無(wú)線多模SoC開(kāi)發(fā)的一套本地化的智能家居系統(tǒng)。在未來(lái)的智能家居系統(tǒng)中，都會(huì)存在一個(gè)或者多個(gè)智能網(wǎng)關(guān)，不同廠家的智能設(shè)備都會(huì)接入到智能網(wǎng)關(guān)中。由于EFR32MG2x系列無(wú)線多模SoC支持低功耗藍(lán)牙、Thread、Zigbee、Matter等協(xié)議開(kāi)發(fā)，并且該無(wú)線多模SoC獨(dú)有的Secure Vault物聯(lián)網(wǎng)安全技術(shù)，可以充分保障物聯(lián)網(wǎng)產(chǎn)品的安全性能。因此在這次展示的demo中可以看到支持不同無(wú)線協(xié)議的智能設(shè)備通過(guò)智能網(wǎng)關(guān)（基于EFR32MG2x系列無(wú)線多模SoC設(shè)計(jì)）組成一套完整的智能家居系統(tǒng)。

關(guān)于作者

Carrie Gan (干曄)

擁有14年媒體從業(yè)經(jīng)驗(yàn)，她擅長(zhǎng)深度剖析半導(dǎo)體和電子產(chǎn)業(yè)鏈的發(fā)展，專注于AI、自動(dòng)駕駛等新興技術(shù)和應(yīng)用的報(bào)道，曾供職于福布斯中國(guó)和IT時(shí)代周刊等知名媒體機(jī)構(gòu)。在2022年，加入貿(mào)澤電子，負(fù)責(zé)技術(shù)內(nèi)容的創(chuàng)作和管理工作，致力于創(chuàng)作有趣、新鮮且具有深度的硬核科技內(nèi)容。