99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

一個全新的深度學習框架——計圖

倩倩 ? 來源:電子技術(shù)應用ChinaAET ? 2020-03-26 15:50 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

深度學習技術(shù)正廣泛應用于人工智能的各個領域,如計算機視覺、機器翻譯、自然語言處理、智能機器人等,取得了前所未有的突破。當前,一方面,隨著深度學習新技術(shù)的出現(xiàn)、任務復雜度的提高,易于擴展同時保持高效的架構(gòu)成為發(fā)展趨勢;另一方面,我國人工智能產(chǎn)業(yè)發(fā)展迅速,急需構(gòu)建自己的開源深度學習生態(tài)。

清華大學計算機系胡事民教授研究團隊提出了一個全新的深度學習框架——計圖(Jittor)。Jittor是一個采用元算子表達神經(jīng)網(wǎng)絡計算單元、完全基于動態(tài)編譯(Just-in-Time)的深度學習框架。

圖1 “計圖”通過元算子融合實現(xiàn)深度神經(jīng)網(wǎng)絡模型

深度學習采用的卷積神經(jīng)網(wǎng)絡是由算子(Operator)組成的一個計算網(wǎng)絡。由于架構(gòu)設計和不斷擴充等原因,當前深度學習框架有多達2000種算子,系統(tǒng)復雜,優(yōu)化和移植困難。Jittor則將算子運算進一步分解,形成了更加底層的三類20余種元算子閉包,目前神經(jīng)網(wǎng)絡常用算子均可以使用元算子的組合進行表達。面向未來深度學習框架的發(fā)展趨勢,Jittor利用元算子組合表達的優(yōu)勢,提出統(tǒng)一計算圖進行優(yōu)化,并從底層開始設計了一個全新的動態(tài)編譯架構(gòu)。該架構(gòu)支持多種編譯器,實現(xiàn)了所有代碼的即時編譯和動態(tài)運行,確保了實現(xiàn)和優(yōu)化分離,大幅提升了應用開發(fā)靈活性、可拓展性和可移植性。

圖2 “計圖”與其他平臺的計算圖特性對比

Jittor與國際主流平臺相比,具有多項先進特性(圖2)。目前ResNet、VGG、SSD、DeepLab、LSGAN等多個網(wǎng)絡模型已經(jīng)在Jittor平臺實現(xiàn),可供用戶使用。與同類型框架相比,Jittor在收斂精度一致情況下,推理速度取得了10%-50%的性能提升(圖3)。

圖3 Jittor和PyTorch推理與訓練速度對比

Jittor的研發(fā)得到了國家自然科學基金創(chuàng)新群體項目、北京信息科學與技術(shù)國家研究中心團隊項目和清華-騰訊聯(lián)合實驗室項目的資助。期望Jittor能為學界和業(yè)界提供一個靈活高效的深度學習平臺,促進人工智能的研究和應用,賦能人工智能產(chǎn)業(yè)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 神經(jīng)網(wǎng)絡

    關注

    42

    文章

    4814

    瀏覽量

    103670
  • 人工智能
    +關注

    關注

    1807

    文章

    49029

    瀏覽量

    249640
  • 深度學習
    +關注

    關注

    73

    文章

    5561

    瀏覽量

    122805
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    百度飛槳框架3.0正式版發(fā)布

    、推理等任務都離不開深度學習框架的優(yōu)化與支撐。 飛槳框架3.0,從設計理念上實現(xiàn)了從底層硬件適配到頂層開發(fā)體驗的全面進化,在訓練效率、性能、兼容性等關鍵指標上建立了新標桿。 其中, “
    的頭像 發(fā)表于 04-02 19:03 ?731次閱讀
    百度飛槳<b class='flag-5'>框架</b>3.0正式版發(fā)布

    嵌入式AI技術(shù)之深度學習:數(shù)據(jù)樣本預處理過程中使用合適的特征變換對深度學習的意義

    ? 作者:蘇勇Andrew 使用神經(jīng)網(wǎng)絡實現(xiàn)機器學習,網(wǎng)絡的每個層都將對輸入的數(shù)據(jù)做次抽象,多層神經(jīng)網(wǎng)絡構(gòu)成深度學習框架,可以
    的頭像 發(fā)表于 04-02 18:21 ?890次閱讀

    STM32如何移植Audio框架?

    最近在學習音頻解碼,想用下Audio框架。 1、這個該如何移植到自己創(chuàng)建的BSP并對接到device框架中?看了官方移植文檔沒有對沒有對該部分的描述。 2、我只想實現(xiàn)
    發(fā)表于 04-01 08:08

    軍事應用中深度學習的挑戰(zhàn)與機遇

    ,并廣泛介紹了深度學習在兩主要軍事應用領域的應用:情報行動和自主平臺。最后,討論了相關的威脅、機遇、技術(shù)和實際困難。主要發(fā)現(xiàn)是,人工智能技術(shù)并非無所不能,需要謹慎應用,同時考慮到其局限性、網(wǎng)絡安全威脅以及
    的頭像 發(fā)表于 02-14 11:15 ?540次閱讀

    BP神經(jīng)網(wǎng)絡與深度學習的關系

    ),是種多層前饋神經(jīng)網(wǎng)絡,它通過反向傳播算法進行訓練。BP神經(jīng)網(wǎng)絡由輸入層、或多個隱藏層和輸出層組成,通過逐層遞減的方式調(diào)整網(wǎng)絡權(quán)重,目的是最小化網(wǎng)絡的輸出誤差。 二、深度
    的頭像 發(fā)表于 02-12 15:15 ?863次閱讀

    Triton編譯器在機器學習中的應用

    1. Triton編譯器概述 Triton編譯器是NVIDIA Triton推理服務平臺的部分,它負責將深度學習模型轉(zhuǎn)換為優(yōu)化的格式,以便在NVIDIA GPU上高效運行。Triton編譯器支持
    的頭像 發(fā)表于 12-24 18:13 ?996次閱讀

    卷積神經(jīng)網(wǎng)絡的實現(xiàn)工具與框架

    卷積神經(jīng)網(wǎng)絡因其在圖像和視頻處理任務中的卓越性能而廣受歡迎。隨著深度學習技術(shù)的快速發(fā)展,多種實現(xiàn)工具和框架應運而生,為研究人員和開發(fā)者提供了強大的支持。 TensorFlow 概述
    的頭像 發(fā)表于 11-15 15:20 ?672次閱讀

    NPU在深度學習中的應用

    隨著人工智能技術(shù)的飛速發(fā)展,深度學習作為其核心驅(qū)動力之,已經(jīng)在眾多領域展現(xiàn)出了巨大的潛力和價值。NPU(Neural Processing Unit,神經(jīng)網(wǎng)絡處理單元)是專門為深度
    的頭像 發(fā)表于 11-14 15:17 ?1923次閱讀

    Pytorch深度學習訓練的方法

    掌握這 17 種方法,用最省力的方式,加速你的 Pytorch 深度學習訓練。
    的頭像 發(fā)表于 10-28 14:05 ?661次閱讀
    Pytorch<b class='flag-5'>深度</b><b class='flag-5'>學習</b>訓練的方法

    GPU深度學習應用案例

    能力,可以顯著提高圖像識別模型的訓練速度和準確性。例如,在人臉識別、自動駕駛等領域,GPU被廣泛應用于加速深度學習模型的訓練和推理過程。 二、自然語言處理 自然語言處理(NLP)是深度學習
    的頭像 發(fā)表于 10-27 11:13 ?1384次閱讀

    激光雷達技術(shù)的基于深度學習的進步

    信息。這使得激光雷達在自動駕駛、無人機、機器人等領域具有廣泛的應用前景。 二、深度學習技術(shù)的發(fā)展 深度學習是機器學習
    的頭像 發(fā)表于 10-27 10:57 ?1073次閱讀

    FPGA加速深度學習模型的案例

    FPGA(現(xiàn)場可編程門陣列)加速深度學習模型是當前硬件加速領域的熱門研究方向。以下是些FPGA加速
    的頭像 發(fā)表于 10-25 09:22 ?1238次閱讀

    AI大模型與深度學習的關系

    AI大模型與深度學習之間存在著密不可分的關系,它們互為促進,相輔相成。以下是對兩者關系的介紹: 、深度學習是AI大模型的基礎 技術(shù)支撐 :
    的頭像 發(fā)表于 10-23 15:25 ?2900次閱讀

    FPGA做深度學習能走多遠?

    ,共同進步。 歡迎加入FPGA技術(shù)微信交流群14群! 交流問題() Q:FPGA做深度學習能走多遠?現(xiàn)在用FPGA做深度學習加速成為
    發(fā)表于 09-27 20:53

    NVIDIA推出全新深度學習框架fVDB

    在 SIGGRAPH 上推出的全新深度學習框架可用于打造自動駕駛汽車、氣候科學和智慧城市的 AI 就緒型虛擬表示。
    的頭像 發(fā)表于 08-01 14:31 ?1152次閱讀