在2025年，人工智能(AI) 與邊緣計算(Edge Computing) 將迎來一個嶄新的里程碑。DeepX 推出了一款革命性的產(chǎn)品 DeepX DX-M1 AI 推理加速卡 采用 PCIe Gen3 M.2 M-Key 接口，具備高達 25 TOPS 的卓越運算性能，以及高準確度、低功耗、低溫度等性能表現(xiàn)。

通過結(jié)合 Orange Pi 5 Plus(Rockchip RK3588) 與 DeepX AI 加速卡，這套解決方案以極高性價比為基礎(chǔ)，能夠為工業(yè)電腦提供即插即用的便捷體驗，并以「平臺升級，迎接AI智能時代」為設(shè)計理念，助力開發(fā)者輕松邁向人工智能領(lǐng)域，為 AI 應(yīng)用開啟了全新篇章。

圖1 基于 DeepX AI 加速卡結(jié)合 Rockchip RK3588 多路物體檢測解決方案優(yōu)勢示意圖

同時，提供豐富的軟件資源與主流深度學(xué)習框架 ( 例如 TensorFlow、PyTorch 和 ONNX ) 的全面支持，無論是初學(xué)者還是專業(yè)人士，都能迅速掌握操作技巧，輕松完成 AI 模型的部署，讓更多人能夠參與其中。人工智能的應(yīng)用開發(fā)中，促使創(chuàng)新變得更加觸手可及。

其中 邊緣計算(Edge Computing) 與 神經(jīng)運算處理芯片(Neural Processing Unit, NPU) 將是掀起這項浪潮的關(guān)鍵指標得以將智能設(shè)備更貼近人們的日常生活。

AI技術(shù)的進一步發(fā)展，更多的創(chuàng)新應(yīng)用將逐步落地，徹底重塑我們的日常應(yīng)用，于以下領(lǐng)域：

智能監(jiān)控：通過實時目標檢測、行為分析與入侵預(yù)警，強化城市安全與監(jiān)控系統(tǒng)。

智慧零售：通過顧客行為分析與智能貨架管理，提升購物體驗，優(yōu)化銷售策略。

醫(yī)療影像分析：運用 AI 協(xié)助醫(yī)生進行疾病診斷(如腫瘤檢測)，提高醫(yī)療準確性。

工業(yè)質(zhì)檢：自動化檢測產(chǎn)品瑕疵，提高制造業(yè)質(zhì)量管控與生產(chǎn)效率。

高級輔助駕駛系統(tǒng)(ADAS)：通過 AI 視覺技術(shù)，分析道路、行人等狀況，以實現(xiàn)行車安全的目標。

農(nóng)業(yè)監(jiān)測：監(jiān)測作物健康狀況，檢測病蟲害，優(yōu)化農(nóng)業(yè)管理，提高產(chǎn)量和品質(zhì)。

自走車：通過傳感器和 AI 算法，自主導(dǎo)航并避開障礙物，應(yīng)用于物流、巡檢等多種場景。

機械手臂：結(jié)合 AI 與視覺系統(tǒng)，能精確地執(zhí)行組裝、焊接等任務(wù)，提高生產(chǎn)效率和產(chǎn)品質(zhì)量。

自動送餐系統(tǒng)：外賣平臺如 Uber Eats，正在美國多個城市部署由 Serve Robotics 開發(fā)的送餐機器人，這些機器人配備 AI 技術(shù)，能自主導(dǎo)航至顧客所在地，提供高效的送餐服務(wù)。

無人機影像分析：AI 驅(qū)動的視覺系統(tǒng)使無人機能夠進行地形物體檢測、災(zāi)害評估和基礎(chǔ)設(shè)施檢查，提供高效的數(shù)據(jù)收集和分析。

圖2 AI應(yīng)用方向示意圖，出處 ChatGPT 生成

另外，可以通過 DeepX 的卓越運算性能，可以輕松打造 多路(Multi-Streamer) 的物體檢測(Object Detection) 應(yīng)用。無論是使用普通 USB 攝像頭，還是通過網(wǎng)絡(luò)流媒體來源，都能完美整合到各種智能場景中。由于目前 Orange Pi 5 Plus 的攝像頭極限大約為 16 路 480p 流媒體輸入，如果采用更高端的 NVR 作為主平臺，更能發(fā)揮出 DX-M1 的極限。因此，更能適用于小型商場、停車場、會展中心等商品防盜、車輛安全管控、人流統(tǒng)計等應(yīng)用中。

圖3 多路物件檢測解決方案應(yīng)用示意圖，出處 ChatGPT 生成

DeepX：引領(lǐng)智能新浪潮的造勢者

在邊緣計算浪潮中，DeepX 是韓國的一家初創(chuàng)公司，擁有約 240 多項智能專利。并在 CES 2024 一次榮獲嵌入式、機器人、電腦整合三項創(chuàng)新獎等大獎。甚至被美國消費者技術(shù)協(xié)會 (CTA)評為“必訪公司”，成為全球市場的焦點。

DeepX DX-M1 AI 加速卡強勢來襲，能夠提供每瓦 5 TOPS 的計算性能，擁有強大的邊緣計算能力 (25TOPS) 以及IQ8(Intelligent Quantization Integer 8) 獨有的量化技術(shù)，足夠媲美 GPU 的準確度，在擁有 INT8 的極致效率的同時也能享受到 FP32 準確度，實現(xiàn)無與倫比的 AI 精度。

其內(nèi)置搭配 4 GB 的內(nèi)存(DDR) 用于訪問模塊，不會占用主系統(tǒng)的資源，大幅度減輕系統(tǒng)集成的負擔。其卓越的性能表現(xiàn)成為智能監(jiān)控、智慧醫(yī)療、智能制造等邊緣 AI 應(yīng)用的唯一首選。

圖4 DeepX AI 芯片規(guī)格示意圖

軟件持續(xù)優(yōu)化更新：打造最佳用戶體驗

DeepX 不僅擁有強大的硬件性能，并且打造了一個完整且友好的軟件生態(tài)系統(tǒng)，為開發(fā)者提供全方位的支持。其生態(tài)系統(tǒng)包含詳細的快速入門指南(Quick Start Guide)、功能強大的軟件開發(fā)工具包(SDK)、豐富的模型資源庫(Model Zoo)，以及多樣化的示例應(yīng)用程序。這些資源能有效協(xié)助開發(fā)者迅速整合并優(yōu)化 AI 模型的運行，縮短開發(fā)時間，同時提升應(yīng)用性能，讓 AI 創(chuàng)新變得更加輕松實現(xiàn)。

軟件由三大核心組件構(gòu)成，分別是量化器(Quantizer)、編譯器(DX-COM Compiler) 以及 運行時環(huán)境(DX-RT Runtime)，共同驅(qū)動旗下的 DeepX AI SoC 系列產(chǎn)品。這些組件相互協(xié)作，形成一個高效的人工智能計算平臺，為各種應(yīng)用場景提供強大的支持。以下圖示范說明其架構(gòu)：

圖5 DeepX 開發(fā)環(huán)境示意圖，出處官方文件

卓越的AI性能

利用 DeepX DX-M1 芯片運行當前最熱門的 YOLOv5s (640x640) 目標檢測算法，可輕松達到每秒約 330 張。

圖6 DeepX DX-M1 芯片性能數(shù)據(jù)表

下列表格是 GPU 與 DX-M1 的準確度分析，其中綠色字體表示 Full Precision 代表 GPU，藍色字體表示 IQ8 代表 DeepX NPU。

圖7 DeepX DX-M1與GPU準確度比較表，出處官方文件

豐富的 AI 應(yīng)用

DeepX 致力于推動人工智能技術(shù)的普及，提供多樣化的 AI 示例與教學(xué)資源，循序漸進地引導(dǎo)開發(fā)者掌握 AI 應(yīng)用的實現(xiàn)過程。通過示例，開發(fā)者不僅能深入了解人工智能的核心技術(shù)，還能學(xué)習如何將其靈活運用于實際場景，從而加速創(chuàng)新與技術(shù)落地。

圖8 DeepX 實際應(yīng)用示意圖

場景應(yīng)用圖

展示板照片

方案方塊圖

核心技術(shù)優(yōu)勢

1. 采用 IQ8 (Intelligent Quantization Integer 8) 量化技術(shù)，媲美 GPU 的準確度：

DeepX 的 IQ8 技術(shù)需要配合數(shù)據(jù)集 (DataSet) 校正，即可輕松擁有 INT8 的極致效率的同時也能享受到 FP32 準確度，實現(xiàn)媲美 GPU 的 AI 準確度。

2. 不占用系統(tǒng)內(nèi)存：

模塊采用獨立內(nèi)存架構(gòu)進行運作，其內(nèi)建 4GB 存取容量，完全不依賴主系統(tǒng)的 RAM 資源，成功減輕了對系統(tǒng)整體性能的負擔。

3. 最佳數(shù)據(jù)流優(yōu)化，最大限度減少數(shù)據(jù)移動：

采用數(shù)據(jù)傳輸流優(yōu)化設(shè)計，將內(nèi)存設(shè)計于加速卡中，能夠大幅度減少數(shù)據(jù)在主系統(tǒng)傳輸次數(shù)，從而顯著提升處理速度并大幅降低延遲。

4. 高性價比與低功耗解決方案：

將主平臺 Orange Pi 5 Plus 搭配 DeepX DX-M1 的 AI 芯片，即可無痛升級為更高階的 AI 平臺，每秒能夠運行約 480 幀 (YOLOv5s) 的物體檢測；且 DX-M1 擁有 5 TOPS/W 的性能表現(xiàn)，整套多路物體檢測解決方案僅耗電約 14 W。

5. 多路應(yīng)用的新概念：

隨著邊緣計算技術(shù)的快速發(fā)展，若將其結(jié)合區(qū)域化的應(yīng)用場景，或許能開創(chuàng)出一種創(chuàng)新且具成本效益的解決方案。通過使用易于獲取的攝像頭，搭配一臺智能工業(yè)主機以及 DeepX M.2 加速卡，便能實現(xiàn)多樣化的應(yīng)用需求。

此外，前端的攝像頭還可根據(jù)實際需求進行靈活更換與配置，進一步提升系統(tǒng)的適應(yīng)性與靈活性，為各個行業(yè)提供了更多可能性。

方案規(guī)格

1.主平臺開發(fā)板采用 RockChip RK3588 平臺為基礎(chǔ)，搭載四顆 Cortex-A76 處理器與四顆 Cortex-A55 處理器，并提供高性能圖像處理器 Arm Mali-G610 與神經(jīng)運算處理器 NPU 等強大核心架構(gòu)。

2.I/O Board 開發(fā)板提供強大的周邊配置，如千兆以太網(wǎng)（Gigabit Ethernet）、HDMI 高清多媒體接口、USB Type A/C 3.0 通用串行總線接口、M.2 E-Key 傳輸接口、M.2 M-Key 傳輸接口，并能夠通過擴展的 40 pin 針腳來模擬常用的 UART、I2C、SPI、CAN 等信號。

3.DeepX DX-M1 芯片提供強大的 AI 運算能力（25 TOPS），采用 PCIe Gen3 M.2 2280 M-Key 接口設(shè)計，搭載高性能的 DX-M1 芯片，展現(xiàn)出每瓦高達 5 TOPS 的卓越低功耗運算能力。此外，內(nèi)置 4GB 動態(tài)隨機存取存儲器（DRAM），確保模塊訪問的高效性與穩(wěn)定性。該加速卡全面支持 Linux 與 Windows 操作系統(tǒng)，并為開發(fā)者提供豐富的軟件資源，方便快速集成與應(yīng)用。

參考網(wǎng)站：

DeepX 官網(wǎng)

DeepX DX-M1 產(chǎn)品介紹

DeepX 開發(fā)網(wǎng)站

Orange Pi 5 Plus網(wǎng)站

歡迎關(guān)注大大通博主：ATU 伊布小編 (一部)

了解MPU技術(shù)整合、深度學(xué)習、電腦視覺技術(shù)與人工智能（AI）的發(fā)展等更多相關(guān)內(nèi)容！

登錄大大通網(wǎng)站查看原文：https://www.wpgdadatong.com.cn/reurl/viYnyi ，下載術(shù)文檔，了解更多資訊！