隨著人工智能技術(shù)的不斷發(fā)展，邊緣計(jì)算（Edge Computing）已成為企業(yè)創(chuàng)新與數(shù)字化轉(zhuǎn)型的重要引擎。如何在有限的計(jì)算資源下，實(shí)現(xiàn)高速且精確的 AI 推理任務(wù)，是企業(yè)面臨的主要挑戰(zhàn)之一。Axelera AI 憑借其卓越的 AI 加速解決方案，致力于協(xié)助企業(yè)快速部署高性能、低功耗的邊緣計(jì)算平臺(tái)，廣泛應(yīng)用于智慧城市、智慧交通及工業(yè)檢測(cè)等領(lǐng)域。接下來(lái)說(shuō)明 Axelera AI 產(chǎn)品特色與技術(shù)重點(diǎn)（Key Features and Technologies）。

Axelera AI 提供的 AI 加速產(chǎn)品具有以下特色與技術(shù)優(yōu)勢(shì)：

Voyager SDK 的易用性和集成性：支持 ONNX，這是一種為機(jī)器學(xué)習(xí)設(shè)計(jì)的開放式文件格式，用于存儲(chǔ)訓(xùn)練好的模型?？梢宰尣煌娜斯ぶ悄芸蚣?，例如 Pytorch、MXNet，采用相同的格式存儲(chǔ)模型數(shù)據(jù)并進(jìn)行交互使用，從而實(shí)現(xiàn)易于集成和快速部署。

高性能AI模型推理加速：通過(guò)獨(dú)有的軟硬件協(xié)同優(yōu)化技術(shù)，大幅提升推理效率并降低功耗。Metis AIPU 支持在 INT8 精度下高達(dá) 214 TOPS，ResNet-50 推理速度可達(dá)3,200幀每秒，遠(yuǎn)超同級(jí)加速器，并且根據(jù) Axelera 公布的基準(zhǔn)測(cè)試結(jié)果，結(jié)合其 Voyager SDK，Metis 的平均推理速度超越主要競(jìng)品。它的速度比 Hailo-8（26 TOPs）快約10倍，比高通的驍龍X（Snapdragon X 45 TOPs）快約4倍，在某些情況下甚至可以媲美 NVIDIA Jetson Orin AGX，性價(jià)比也令人印象深刻。在 M.2規(guī)格的開發(fā)版中，競(jìng)爭(zhēng)對(duì)手寥寥無(wú)幾，主要包括 Hailo、Google Coral、Kneron、DeepX 和 Sima.ai。就原始性能而言，Metis M.2 是目前最快的選擇之一。

軟硬件協(xié)同加速：Voyager SDK 可自動(dòng)處理量化、模型優(yōu)化、前后處理并行執(zhí)行（推理在 AIPU 上進(jìn)行，其他處理可在 CPU/GPU 上并行執(zhí)行），進(jìn)一步縮短從圖像輸入到結(jié)果輸出的整體延遲。

1. 
   Axelera Voyager SDK

多核可以同時(shí)處理多個(gè)模型：Metis AIPU 可選擇將四核心并發(fā)運(yùn)行于單一大型模型，或獨(dú)立執(zhí)行多個(gè)輕量模型，支持多流、多任務(wù) AI pipeline，用于復(fù)雜圖像分析，例如多攝像頭或多階段處理。

功耗表現(xiàn)卓越：Axelera AI提供的產(chǎn)品，在邊緣設(shè)備中實(shí)現(xiàn)了高性能與低功耗的理想平衡。高效能達(dá)到15 TOPS/W，其推理計(jì)算與功耗比極具競(jìng)爭(zhēng)力，典型運(yùn)行功耗僅為8–15 W。Metis PCIe 模塊的實(shí)測(cè)功耗范圍在8到15瓦之間，而M.2卡的功耗更低，可低至3.5 W，峰值不超過(guò)9 W，非常適合用于功耗敏感的嵌入式或無(wú)風(fēng)扇系統(tǒng)，適用于功耗嚴(yán)格限制的嵌入式與邊緣設(shè)備。

支持動(dòng)態(tài)頻率調(diào)整（降頻）：可根據(jù)實(shí)際運(yùn)行需求調(diào)整時(shí)鐘，以進(jìn)一步降低功耗并優(yōu)化性能/能耗比。Metis AIPU內(nèi)置降頻功能，能夠根據(jù)實(shí)際運(yùn)行場(chǎng)景動(dòng)態(tài)調(diào)整運(yùn)算時(shí)鐘，靈活降低功耗。同時(shí)通過(guò)Voyager SDK智能配置，保持高效的fps/W，更適合在不同使用場(chǎng)景下實(shí)現(xiàn)功耗優(yōu)化與性能兼顧。

D-IMC 架構(gòu)優(yōu)化能量使用：利用數(shù)字內(nèi)存計(jì)算（Digital In-Memory Computing）減少數(shù)據(jù)搬移，避免能源浪費(fèi)，是高性能結(jié)合低功耗的核心。

完整的開發(fā)生態(tài)圈：通過(guò)開源的GitHub平臺(tái)，提供詳盡的SDK安裝指南、模型轉(zhuǎn)換流程以及豐富的部署示例，簡(jiǎn)化開發(fā)過(guò)程。

Axelera Github:https://github.com/axelera-ai-hub/voyager-sdk/blob/release/v1.3/README.md

再來(lái)說(shuō)到應(yīng)用案例分析，Axelera AI 已在實(shí)際應(yīng)用案例中展現(xiàn)了顯著的性能提升，以下是幾個(gè)案例分析：

1. 智慧交通 - 實(shí)時(shí) AI 推理性能：使用 Metis AIPU 配合 Voyager SDK 處理視頻流的性能可超過(guò) 780 FPS，彰顯其具備超高吞吐能力，非常適用于交通監(jiān)控與車輛檢測(cè)等實(shí)時(shí)應(yīng)用場(chǎng)景。以交通流量為例，將獲取的原始數(shù)據(jù)或采用實(shí)時(shí)的攝像頭來(lái)截取車流數(shù)據(jù)，可以計(jì)算特定時(shí)段的車流量數(shù)據(jù)，用于智慧交通的規(guī)劃。

2. 工業(yè)自動(dòng)化與質(zhì)量檢測(cè)：在工業(yè)制造領(lǐng)域，Axelera 強(qiáng)調(diào) Metis AIPU 能在不損失準(zhǔn)確度的前提下，提供GPU水平卻更低功耗的機(jī)器視覺(jué)性能，說(shuō)明其能夠在生產(chǎn)線上實(shí)時(shí)完成缺陷檢測(cè)與分揀，相較人工具備更高的速度與精確度。以水果工廠為例，可在流水線上實(shí)時(shí)完成缺陷檢測(cè)與分揀，從而節(jié)省人工篩選的時(shí)間成本。

圖片出處：Axelera

3. 倉(cāng)儲(chǔ)自動(dòng)化多串流實(shí)時(shí)識(shí)別：也有企業(yè)導(dǎo)入 Metis M.2 卡，進(jìn)行倉(cāng)儲(chǔ)訂單核對(duì)系統(tǒng)，使用四路 1080p 高清影像進(jìn)行實(shí)時(shí)手部與物體檢測(cè)，以高兼容性和低功耗成功取代傳統(tǒng)工業(yè)電腦。

Axelera AI邊緣計(jì)算加速方案憑借其卓越的性能、極佳的功耗效率以及簡(jiǎn)便的部署流程，能夠有效幫助企業(yè)提升運(yùn)營(yíng)效率并降低整體成本。建議各行業(yè)的企業(yè)引入該方案，以有效增強(qiáng)產(chǎn)品和服務(wù)質(zhì)量，推動(dòng)企業(yè)智慧創(chuàng)新的發(fā)展。

?場(chǎng)景應(yīng)用圖

?產(chǎn)品實(shí)體圖

?展示板照片

?方案方塊圖

?核心技術(shù)優(yōu)勢(shì)

1. Metis AIPU芯片：INT8量化高達(dá)214 TOPS，提供卓越的推理性能和低功耗表現(xiàn)。

2. 數(shù)字記憶體內(nèi)運(yùn)算（Digital In-Memory Computing, D-IMC）：顯著減少數(shù)據(jù)搬移需求，大幅提升能量效率。

3. Voyager SDK軟硬協(xié)同優(yōu)化技術(shù)：自動(dòng)化模型量化、編譯及部署，實(shí)現(xiàn)性能最大化和易用性提升。

4. 多核彈性運(yùn)用：支持多串流推理、單一大型模型并行處理，靈活適應(yīng)復(fù)雜應(yīng)用場(chǎng)景。

5. 低功耗設(shè)計(jì)（Low-Power Design）：PCIe模塊功耗為8–15W，M.2模塊功耗僅為3.5–9W，專為邊緣部署設(shè)計(jì)。

6. Downclock技術(shù)（動(dòng)態(tài)時(shí)鐘調(diào)整）：動(dòng)態(tài)平衡功耗與性能，可根據(jù)不同實(shí)際需求靈活調(diào)整。

?方案規(guī)格

1. 推理性能：高達(dá) 214 TOPS (INT8 精度)

2. 模型支持 ONNX

3. 典型推理 FPS：ResNet-50 模型 3,200 FPS 以上

4. PCIe 版本功耗：典型 8–15W

5. M.2 版本功耗：典型 3.5–9W

6. 軟硬件接口支持：PCIe Gen3 x4, M.2 接口 (2280 規(guī)格)

7. SDK：Voyager SDK (量化、優(yōu)化、自動(dòng)部署)

8. 支持操作系統(tǒng)：Linux (Ubuntu)

9. 編程語(yǔ)言支持：Python, C++

登錄大大通網(wǎng)站，查看方案原文，了解更多詳情！
原文鏈接：https://www.wpgdadatong.com.cn/reurl/jMnMne