ONNX Runtime支持龍架構(gòu)，AI推理生態(tài)再添新翼
近日，備受矚目的AI推理框架開源社區(qū)ONNX Runtime宣布推出支持龍架構(gòu)的新版本1.17.0，這一里程碑式的更新意味著龍芯平臺上的AI推理應(yīng)用開發(fā)與部署將更加便捷。
ONNX Runtime（ORT）作為近年來興起的AI推理框架軟件，已逐漸成為眾多AI應(yīng)用的首選基礎(chǔ)推理引擎。此次更新不僅豐富了ORT的算力后端支持，更在軟件生態(tài)層面為龍架構(gòu)注入了新的活力。新版本將支持PyTorch、Tensorflow、TFLite等多種模型格式輸入，覆蓋CPU、GPU、IoT、NPU、FPGA等多樣化算力平臺，從而滿足各種復(fù)雜的AI推理需求。
此次ONNX Runtime對龍架構(gòu)的支持，無疑將進(jìn)一步推動龍芯平臺在AI領(lǐng)域的應(yīng)用和發(fā)展，為開發(fā)者提供更加廣闊的創(chuàng)新空間。同時(shí)，這也標(biāo)志著龍架構(gòu)軟件生態(tài)正在不斷完善，為未來的AI技術(shù)革新奠定了堅(jiān)實(shí)基礎(chǔ)。
聲明：本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問題，請聯(lián)系本站處理。
舉報(bào)投訴
-
龍芯
+關(guān)注
關(guān)注
3文章
381瀏覽量
31989 -
AI
+關(guān)注
關(guān)注
88文章
35194瀏覽量
280244 -
開源
+關(guān)注
關(guān)注
3文章
3695瀏覽量
43852
發(fā)布評論請先 登錄
相關(guān)推薦
熱點(diǎn)推薦
AI推理的存儲，看好SRAM？
電子發(fā)燒友網(wǎng)報(bào)道（文/黃晶晶）近幾年，生成式AI引領(lǐng)行業(yè)變革，AI訓(xùn)練率先崛起，帶動高帶寬內(nèi)存HBM一飛沖天。但我們知道AI推理的廣泛應(yīng)用才能推動A
信而泰×DeepSeek：AI推理引擎驅(qū)動網(wǎng)絡(luò)智能診斷邁向 “自愈”時(shí)代
DeepSeek-R1：強(qiáng)大的AI推理引擎底座DeepSeek是由杭州深度求索人工智能基礎(chǔ)技術(shù)研究有限公司開發(fā)的新一代AI大模型。其核心優(yōu)勢在于強(qiáng)大的推理引擎能力，融合了自然語言處理（
發(fā)表于 07-16 15:29
Nordic收購 Neuton.AI 關(guān)于產(chǎn)品技術(shù)的分析
與 Nordic 的 nRF54 系列超低功耗無線 SoC 結(jié)合，使得即使是資源極為有限的設(shè)備也能高效運(yùn)行邊緣 AI。Nordic 目前正在將 Neuton 深度集成到自身開發(fā)生態(tài)中，未來會提供更多工具、固件
發(fā)表于 06-28 14:18
【米爾MYC-YM90X安路飛龍DR1開發(fā)板】安路科技 SALDRAGON開發(fā)板介紹
基于Buildroot或Yocto的定制化Linux系統(tǒng)，支持Cortex-A35雙核的OpenMP/OpenCL多線程編程，優(yōu)化NPU的TensorFlow Lite/ONNX Runtime
發(fā)表于 04-28 17:57
首創(chuàng)開源架構(gòu)，天璣AI開發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手
，聯(lián)發(fā)科帶來了全面升級的天璣AI開發(fā)套件2.0，在模型庫規(guī)模、架構(gòu)開放程度、前沿端側(cè)AI技術(shù)支持和端側(cè)LoRA訓(xùn)練落地等方面均迎來全面躍遷，為開發(fā)者提供了更全面、更開放、更強(qiáng)大的端側(cè)
發(fā)表于 04-13 19:52
硅基覺醒已至前夜，聯(lián)發(fā)科攜手生態(tài)加速智能體化用戶體驗(yàn)時(shí)代到來
推動AI從“能用”到“好用”，關(guān)鍵不只是算力升級，更在于工具鏈與生態(tài)的協(xié)同完善。在MDDC 2025大會上，聯(lián)發(fā)科首度集成發(fā)布AI+游戲全場景支持平臺：Neuron Studio聚焦
發(fā)表于 04-13 19:51
龍芯中科發(fā)布2024年版龍架構(gòu)生態(tài)白皮書
近日，《龍架構(gòu)生態(tài)白皮書（2024年）》正式發(fā)布。經(jīng)過三年轉(zhuǎn)型發(fā)展，龍芯自主CPU設(shè)計(jì)達(dá)到國際主流水平，基于龍架構(gòu)CPU的新一代產(chǎn)品性能倍增
【幸狐Omni3576邊緣計(jì)算套件試用體驗(yàn)】RKNN 推理測試與圖像識別
本節(jié)介紹了 RKNN 推理測試的相關(guān)流程，包括 rknn_model_zoo 模型部署、編譯及板端測試。
rknn_model_zoo
rknn_model_zoo 是瑞芯微官方提供的 RKNPU 支持
發(fā)表于 03-20 16:14
Banana Pi 發(fā)布 BPI-AI2N & BPI-AI2N Carrier，助力 AI 計(jì)算與嵌入式開發(fā)
和 Renesas一直致力于推動開源生態(tài)的發(fā)展，并積極合作打造高效、開放的計(jì)算平臺。BPI-AI2N & BPI-AI2N Carrier 的發(fā)布，不僅為開發(fā)者提供了強(qiáng)大的硬件支持
發(fā)表于 03-19 17:54
無法在GPU上運(yùn)行ONNX模型的Benchmark_app怎么解決？
在 CPU 和 GPU 上運(yùn)行OpenVINO? 2023.0 Benchmark_app推斷的 ONNX 模型。
在 CPU 上推理成功，但在 GPU 上失敗。
發(fā)表于 03-06 08:02
使用NVIDIA推理平臺提高AI推理性能
NVIDIA推理平臺提高了 AI 推理性能，為零售、電信等行業(yè)節(jié)省了數(shù)百萬美元。
生成式AI推理技術(shù)、市場與未來
OpenAI o1、QwQ-32B-Preview、DeepSeek R1-Lite-Preview的相繼發(fā)布，預(yù)示著生成式AI研究正從預(yù)訓(xùn)練轉(zhuǎn)向推理（Inference），以提升AI邏輯推理
2024龍架構(gòu)創(chuàng)新產(chǎn)品獎發(fā)布
龍架構(gòu)生態(tài)的蓬勃發(fā)展離不開眾多中小企業(yè)生態(tài)伙伴的支持及新產(chǎn)品的持續(xù)推出。為鼓勵龍芯中小企業(yè)生態(tài)伙
Alpine操作系統(tǒng)社區(qū)發(fā)布龍架構(gòu)版本
近日，開源軟件世界和云計(jì)算領(lǐng)域重要的操作系統(tǒng)發(fā)行版社區(qū)Alpine Linux正式發(fā)布3.21最新版本，以完整的系統(tǒng)形態(tài)實(shí)現(xiàn)對龍架構(gòu)的原生支持，將有力促進(jìn)龍
AMD以49億美元收購ZT Systems，強(qiáng)化AI芯片競爭力
AMD在AI領(lǐng)域的雄心壯志再添新翼，近日宣布以49億美元巨資并購全球領(lǐng)先的超大規(guī)模計(jì)算AI基礎(chǔ)設(shè)施提供商ZT Systems。這一戰(zhàn)略舉措不
工商網(wǎng)監(jiān)
評論