99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

詳解NPU如何實(shí)現(xiàn)邊緣端本地AI/ML應(yīng)用

jf_f8pIz0xS ? 來源:21ic中國電子網(wǎng) ? 作者:劉巖軒 ? 2021-04-15 18:26 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

[導(dǎo)讀]“新的i.MX系列應(yīng)用處理器的進(jìn)步是增加了EdgeLock來增強(qiáng)Secure,通過Energy Flex來增強(qiáng)能效比;增加Arm的NPU增加本地的算力;Azure增加云端能力。”

近年來在邊緣端的算力需求的提升是一個趨勢, 所以MCU廠商的新品的主頻都已經(jīng)向上到了GHz級別,用上了多核的架構(gòu);而應(yīng)用處理器廠商也向下探,推出更易用的跨界應(yīng)用處理器,例如NXP的i.MX RT系列?,F(xiàn)在新的趨勢是將人工智能AI)和機(jī)器學(xué)習(xí)(ML)的細(xì)分應(yīng)用下沉到邊緣端,實(shí)現(xiàn)更加智能的邊緣端應(yīng)用。這種AI和ML在邊緣端的部署,對于處理器的性能、功耗、連接性和安全性都提出了更高的要求。為了響應(yīng)這些新的設(shè)計(jì)需求,NXP宣布其EdgeVerse?產(chǎn)品系列新增了跨界應(yīng)用處理器,包括i.MX 8ULP、經(jīng)Microsoft Azure Sphere認(rèn)證的i.MX 8ULP-CS(云安全)系列和新一代高性能智能應(yīng)用處理器i.MX 9系列。在i.MX應(yīng)用處理器媒體溝通會上,恩智浦大中華區(qū)工業(yè)與物聯(lián)網(wǎng)市場高級總監(jiān)金宇杰,恩智浦邊緣處理事業(yè)部軟件研發(fā)總監(jiān)翁鐵成和恩智浦邊緣處理事業(yè)部系統(tǒng)工程總監(jiān)王朋朋進(jìn)行了精彩的分享。

實(shí)現(xiàn)安全和能效提升:EdgeLock和ENERGY FLEX

在最新的i.MX 8ULP、i.MX 8ULP-CS和i.MX 9系列跨界應(yīng)用處理器中,我們可以看到EdgeLock?安全區(qū)域和ENERGY FLEX架構(gòu)的出現(xiàn)。從名稱上我們就可以看出,EdgeLock?安全區(qū)域主要是確保邊緣設(shè)備的安全性,而Energy Flex架構(gòu)提供了多種不同的功耗管理模式。

據(jù)翁鐵成先生介紹,安全正是NXP非常重要的標(biāo)志技術(shù)之一,EdgeLock涵蓋了密鑰管理、信任根處理、各種豐富的加解密處理,設(shè)備范圍的安全智能也包含其中。安全策略啟動和信任根方面是使用了EdgeLock2Go的技術(shù),該技術(shù)的信任根包含在EdgeLock里面,可以通過信任根與EdgeLock的云服務(wù)做交互,保證其實(shí)現(xiàn)安全的認(rèn)證。例如NXP可以將AZURE SPHERE的信任根結(jié)合到Edge Lock中,這樣開發(fā)者也可以享用到AZURE SPHERE提供的安全的云服務(wù)。

針對異構(gòu)的i.MX應(yīng)用處理器,NXP還提供了全新的Energy Flex技術(shù)。Cortex-A35的核本身就具備高效和節(jié)能的特點(diǎn), Cortex-M33作為實(shí)時處理的核也具備低功耗的特質(zhì)。再將GPU、DSP加入處理器內(nèi),基于Energy Flex技術(shù)可以將一個應(yīng)用處理器配置出大約20多種不同的能耗配置,針對不同的工作負(fù)載提供更為細(xì)致的功耗配置和響應(yīng),從而降低最終應(yīng)用的整體功耗。

在domain間進(jìn)行不同工作負(fù)載的轉(zhuǎn)換時,其實(shí)也會存在受到旁路攻擊的風(fēng)險,而EdgeLock也具備一個獨(dú)特的“功率感知”的能力,可以智能地跟蹤功率轉(zhuǎn)換,采取一些干擾措施來增強(qiáng)抵抗和阻止新興的攻擊面。

通過NPU實(shí)現(xiàn)邊緣端本地AI/ML應(yīng)用

對于做嵌入式開發(fā)、進(jìn)行邊緣端設(shè)計(jì)的工程師而言,學(xué)習(xí)完整的AI和ML的算法和應(yīng)用,然后進(jìn)行實(shí)際的本地應(yīng)用部署,這是一件非常費(fèi)時費(fèi)力的事情。這也是當(dāng)前嵌入式工程師在進(jìn)行邊緣端的AI/ML應(yīng)用開發(fā)時面臨的難題。而NXP也積極地通過戰(zhàn)略投資、生態(tài)合作的一系列舉措來推動邊緣人工智能的新浪潮,從而在一系列嵌入式設(shè)備中構(gòu)建經(jīng)濟(jì)高效的人工智能解決方案。

據(jù)金宇杰先生分享,NXP的應(yīng)用處理器是希望幫助普通的公司和開發(fā)者也可以進(jìn)入到自己所需的細(xì)分AI領(lǐng)域,實(shí)現(xiàn)輕松的邊緣AI構(gòu)建。多個細(xì)分的模型算法在云端都已經(jīng)慢慢成熟,所以在i.MX平臺就像一個轉(zhuǎn)換器一樣方便,直接從邊緣端拿到數(shù)據(jù)進(jìn)行本地的處理就可以,這個概念叫做BYOD(Bring Your Own Data)。

在硬件層面,NXP通過將Arm Ethos-U65在應(yīng)用處理器中嵌入,積極推進(jìn)microNPU的概念。microNPU可以達(dá)到0.5TOPS的算力,恰好是為了補(bǔ)充i.MX 9的512GOPS和i.MX 8M Plus上2.5 TOPS之間的這個空白,所以整個的產(chǎn)品的布局出來之后,不同的AI算力需求的智能邊緣端都可以找到合適的能耗比的硬件平臺。在軟件層面,NXP 發(fā)布了eIQ機(jī)器學(xué)習(xí)(ML)軟件對Glow神經(jīng)網(wǎng)絡(luò)(NN)編譯器的支持功能,針對恩智浦的i.MX RT跨界MCU,帶來業(yè)界首個實(shí)現(xiàn)以較低存儲器占用提供更高性能的神經(jīng)網(wǎng)絡(luò)編譯器應(yīng)用。

所以i.MX這樣整體的一個硬件和軟件的平臺出來后,對于傳統(tǒng)的嵌入式開發(fā)的設(shè)計(jì)者而言 ,可以快速實(shí)現(xiàn)邊緣端AI/ML的部署,將自己的想法借助AI/ML的力量落地。

以前,嵌入式MCU開發(fā)者的一個較為集中的痛點(diǎn)是需要應(yīng)用處理器的高性能,但難以適應(yīng)應(yīng)用處理器的架構(gòu)的變化、學(xué)習(xí)成本較高。NXP用i.MX RT系列跨界應(yīng)用處理器很好的解決了這個痛點(diǎn),市場也通過訂單給予了NXP積極的肯定?,F(xiàn)在,AI/ML的細(xì)分應(yīng)用在邊緣端部署將會是另一個集中的痛點(diǎn),能夠幫助設(shè)計(jì)者解決這一痛點(diǎn)的平臺,想必也會贏得開發(fā)者的青睞,獲得更多市場份額。
編輯:lyn

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 處理器
    +關(guān)注

    關(guān)注

    68

    文章

    19896

    瀏覽量

    235256
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35164

    瀏覽量

    279982
  • ML
    ML
    +關(guān)注

    關(guān)注

    0

    文章

    151

    瀏覽量

    35078
  • NPU
    NPU
    +關(guān)注

    關(guān)注

    2

    文章

    330

    瀏覽量

    19758
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    邊緣AI盒子技術(shù)解析:ASIC/FPGA/GPU芯片及邊緣-云端協(xié)同與自適應(yīng)推理

    ? 電子發(fā)燒友網(wǎng)綜合報道 邊緣AI盒子是一種集成了高性能芯片、AI算法和數(shù)據(jù)處理能力的硬件設(shè)備,部署在數(shù)據(jù)源的邊緣側(cè),如工廠、商場、交通路口等,能在
    的頭像 發(fā)表于 07-13 08:25 ?2349次閱讀

    側(cè)AI需求大爆發(fā)!安謀科技發(fā)布新一代NPU IP,賦能AI終端應(yīng)用

    ,汽車自動駕駛的本地決策,都依賴算力提升,這對側(cè)AI SoC的性能帶來挑戰(zhàn),上游IP廠商的新品可以給SoC廠商帶來最新助力。 7月9日,在上海張江舉辦的側(cè)
    的頭像 發(fā)表于 07-11 01:16 ?6456次閱讀
    <b class='flag-5'>端</b>側(cè)<b class='flag-5'>AI</b>需求大爆發(fā)!安謀科技發(fā)布新一代<b class='flag-5'>NPU</b> IP,賦能<b class='flag-5'>AI</b>終端應(yīng)用

    邊緣AI實(shí)現(xiàn)的核心環(huán)節(jié):硬件選擇和模型部署

    邊緣AI實(shí)現(xiàn)原理是將人工智能算法和模型部署到靠近數(shù)據(jù)源的邊緣設(shè)備上,使這些設(shè)備能夠在本地進(jìn)行數(shù)據(jù)處理、分析和決策,而無需將數(shù)據(jù)傳輸?shù)竭h(yuǎn)程的
    的頭像 發(fā)表于 06-19 12:19 ?502次閱讀
    <b class='flag-5'>邊緣</b><b class='flag-5'>AI</b><b class='flag-5'>實(shí)現(xiàn)</b>的核心環(huán)節(jié):硬件選擇和模型部署

    邊緣AI實(shí)現(xiàn)的核心環(huán)節(jié):硬件選擇和模型部署

    電子發(fā)燒友網(wǎng)綜合報道 邊緣AI實(shí)現(xiàn)原理是將人工智能算法和模型部署到靠近數(shù)據(jù)源的邊緣設(shè)備上,使這些設(shè)備能夠在本地進(jìn)行數(shù)據(jù)處理、分析和決策,而
    發(fā)表于 05-26 07:09 ?928次閱讀

    蘋芯科技 N300 存算一體 NPU,開啟側(cè) AI 新征程

    隨著側(cè)人工智能技術(shù)的爆發(fā)式增長,智能設(shè)備對本地算力與能效的需求日益提高。而傳統(tǒng)馮·諾依曼架構(gòu)在數(shù)據(jù)處理效率上存在瓶頸,“內(nèi)存墻”問題成為制約側(cè)AI性能突破的關(guān)鍵掣肘。在這一背景下,
    的頭像 發(fā)表于 05-06 17:01 ?473次閱讀
    蘋芯科技 N300 存算一體 <b class='flag-5'>NPU</b>,開啟<b class='flag-5'>端</b>側(cè) <b class='flag-5'>AI</b> 新征程

    6TOPS算力NPU加持!RK3588如何重塑8K顯示的邊緣計(jì)算新邊界

    技術(shù),能夠在保證畫質(zhì)的前提下,大幅降低視頻數(shù)據(jù)的傳輸帶寬。同時,芯片還支持硬件加速的AI推理,使得開發(fā)者能夠?qū)?fù)雜的AI模型部署到邊緣設(shè)備上,實(shí)現(xiàn)
    發(fā)表于 04-18 15:32

    Arm推出全球首個Armv9邊緣AI計(jì)算平臺

    全球首個 Armv9 邊緣 AI 計(jì)算平臺以 Cortex-A320 CPU 和 Ethos-U85 NPU 為核心,專為物聯(lián)網(wǎng)應(yīng)用優(yōu)化,支持運(yùn)行超 10 億參數(shù)的側(cè)
    的頭像 發(fā)表于 02-27 17:08 ?889次閱讀

    研華推出GenAI Studio邊緣AI軟件平臺 助力本地大語言模型開發(fā),推動邊緣AI創(chuàng)新

    2025年初,全球AIoT平臺與服務(wù)提供商研華科技宣布推出一款新的軟件產(chǎn)品——GenAI Studio,該產(chǎn)品是研華Edge AI SDK的一部分,主要目標(biāo)是為了滿足對成本效益高、本地部署的大語言
    發(fā)表于 02-19 11:13 ?197次閱讀
    研華推出GenAI Studio<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b>軟件平臺 助力<b class='flag-5'>本地</b><b class='flag-5'>端</b>大語言模型開發(fā),推動<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b>創(chuàng)新

    AI賦能邊緣網(wǎng)關(guān):開啟智能時代的新藍(lán)海

    ,準(zhǔn)確率達(dá)到99.9%。 這一技術(shù)革新正在創(chuàng)造巨大的商業(yè)價值。在智慧城市領(lǐng)域,AI邊緣網(wǎng)關(guān)可以實(shí)現(xiàn)交通流量實(shí)時分析、違章行為智能識別;在工業(yè)互聯(lián)網(wǎng)中,能夠實(shí)現(xiàn)設(shè)備預(yù)測性維護(hù)、生產(chǎn)工藝優(yōu)
    發(fā)表于 02-15 11:41

    Arm與ExecuTorch合作加速側(cè)生成式AI實(shí)現(xiàn)

    Arm 正在與 Meta 公司的 PyTorch 團(tuán)隊(duì)攜手合作,共同推進(jìn)新的 ExecuTorch 測試版 (Beta) 上線,旨在為全球數(shù)十億邊緣側(cè)設(shè)備和數(shù)百萬開發(fā)者提供人工智能 (AI) 和機(jī)器學(xué)習(xí) (ML) 功能,進(jìn)而確保
    的頭像 發(fā)表于 11-15 11:30 ?795次閱讀

    NPU邊緣計(jì)算中的優(yōu)勢

    隨著物聯(lián)網(wǎng)(IoT)和5G技術(shù)的發(fā)展,邊緣計(jì)算作為一種新興的計(jì)算模式,正在逐漸成為處理和分析數(shù)據(jù)的重要手段。 NPU的定義與功能 NPU是一種專門為深度學(xué)習(xí)和神經(jīng)網(wǎng)絡(luò)運(yùn)算設(shè)計(jì)的處理器。與傳統(tǒng)的CPU
    的頭像 發(fā)表于 11-15 09:13 ?1261次閱讀

    NPU技術(shù)如何提升AI性能

    隨著人工智能技術(shù)的飛速發(fā)展,深度學(xué)習(xí)作為AI領(lǐng)域的核心驅(qū)動力,對計(jì)算能力的需求日益增長。NPU技術(shù)應(yīng)運(yùn)而生,為AI性能的提升提供了強(qiáng)大的硬件支持。 NPU技術(shù)概述
    的頭像 發(fā)表于 11-15 09:11 ?1457次閱讀

    側(cè)AI應(yīng)用趨熱:NPU如何解決其關(guān)鍵痛點(diǎn)

    當(dāng)前,AI大模型正逐步從云端遷移至邊緣,甚至深入至日常生活中的手機(jī)、個人電腦(PC)、汽車等終端。在這場變革中,側(cè)智能正逐漸嶄露頭角,預(yù)示著未來的智能設(shè)備將能夠更實(shí)時、高效地理解和服務(wù)用戶。在E維
    的頭像 發(fā)表于 10-31 15:00 ?1304次閱讀

    NXP推出集成NPU的MCU,支持AI邊緣設(shè)備!MCU實(shí)現(xiàn)AI功能的多種方式

    旨在顯著節(jié)省功耗,可在邊緣提供高達(dá)172倍的AI加速。 ? MCU 集成NPU 支持AI 功能 ? 恩智浦推出的這款i.MX RT700內(nèi)
    的頭像 發(fā)表于 09-29 01:11 ?5289次閱讀

    Silicon Labs將于8月深圳物聯(lián)網(wǎng)展上展示熱門無線連接和AI/ML邊緣智能參考設(shè)計(jì)

    Silicon Labs(亦稱“芯科科技”)即將參加 8 月 28 至 30 日 舉辦的 “2024 年深圳物聯(lián)網(wǎng)展( IOTEShenzhen )”,演示最新的物聯(lián)網(wǎng)無線連接和AI/ML邊緣智能
    的頭像 發(fā)表于 08-05 11:41 ?1370次閱讀