深度學習技術(shù)正廣泛應用于人工智能的各個領域,如計算機視覺、機器翻譯、自然語言處理、智能機器人等,取得了前所未有的突破。當前,一方面,隨著深度學習新技術(shù)的出現(xiàn)、任務復雜度的提高,易于擴展同時保持高效的架構(gòu)成為發(fā)展趨勢;另一方面,我國人工智能產(chǎn)業(yè)發(fā)展迅速,急需構(gòu)建自己的開源深度學習生態(tài)。
清華大學計算機系胡事民教授研究團隊提出了一個全新的深度學習框架——計圖(Jittor)。Jittor是一個采用元算子表達神經(jīng)網(wǎng)絡計算單元、完全基于動態(tài)編譯(Just-in-Time)的深度學習框架。
圖1 “計圖”通過元算子融合實現(xiàn)深度神經(jīng)網(wǎng)絡模型
深度學習采用的卷積神經(jīng)網(wǎng)絡是由算子(Operator)組成的一個計算網(wǎng)絡。由于架構(gòu)設計和不斷擴充等原因,當前深度學習框架有多達2000種算子,系統(tǒng)復雜,優(yōu)化和移植困難。Jittor則將算子運算進一步分解,形成了更加底層的三類20余種元算子閉包,目前神經(jīng)網(wǎng)絡常用算子均可以使用元算子的組合進行表達。面向未來深度學習框架的發(fā)展趨勢,Jittor利用元算子組合表達的優(yōu)勢,提出統(tǒng)一計算圖進行優(yōu)化,并從底層開始設計了一個全新的動態(tài)編譯架構(gòu)。該架構(gòu)支持多種編譯器,實現(xiàn)了所有代碼的即時編譯和動態(tài)運行,確保了實現(xiàn)和優(yōu)化分離,大幅提升了應用開發(fā)靈活性、可拓展性和可移植性。
圖2 “計圖”與其他平臺的計算圖特性對比
Jittor與國際主流平臺相比,具有多項先進特性(圖2)。目前ResNet、VGG、SSD、DeepLab、LSGAN等多個網(wǎng)絡模型已經(jīng)在Jittor平臺實現(xiàn),可供用戶使用。與同類型框架相比,Jittor在收斂精度一致情況下,推理速度取得了10%-50%的性能提升(圖3)。
圖3 Jittor和PyTorch推理與訓練速度對比
Jittor的研發(fā)得到了國家自然科學基金創(chuàng)新群體項目、北京信息科學與技術(shù)國家研究中心團隊項目和清華-騰訊聯(lián)合實驗室項目的資助。期望Jittor能為學界和業(yè)界提供一個靈活高效的深度學習平臺,促進人工智能的研究和應用,賦能人工智能產(chǎn)業(yè)。
-
神經(jīng)網(wǎng)絡
+關注
關注
42文章
4814瀏覽量
103670 -
人工智能
+關注
關注
1807文章
49029瀏覽量
249640 -
深度學習
+關注
關注
73文章
5561瀏覽量
122805
發(fā)布評論請先 登錄
百度飛槳框架3.0正式版發(fā)布

評論