2020年10月26日，燧原科技正式推出搭載燧原科技云燧T10的PCIe Gen4全互聯(lián)AI高算力訓(xùn)練系統(tǒng)。該系統(tǒng)目前為國(guó)內(nèi)第一套基于PCIe Gen4的全互聯(lián)AI高算力訓(xùn)練系統(tǒng)，不僅使配備云燧T10的機(jī)內(nèi)PCIe帶寬得以全面提升，同時(shí)結(jié)合燧原科技GCU-LARE技術(shù)可實(shí)現(xiàn)系統(tǒng)高性能互聯(lián)。

Supermicro 4U A+ 服務(wù)器（搭載8張?jiān)旗軹10）

技術(shù)革新，GCU-LARE實(shí)現(xiàn)高性能互聯(lián)

PCIe Gen4全互聯(lián)AI高算力訓(xùn)練系統(tǒng)由燧原科技與Supermicro合作研發(fā)，其中，燧原科技云燧系列產(chǎn)品PCIe Gen4的高帶寬和GCU-LARE智能互聯(lián)特點(diǎn)，在此研發(fā)中發(fā)揮了關(guān)鍵作用。

以該系統(tǒng)的創(chuàng)新技術(shù)——GCU-LARE來(lái)說(shuō)，燧原科技GCU-LARE智能互聯(lián)技術(shù)為系統(tǒng)提供了最大提供雙向200GB/s的互聯(lián)帶寬。在2D Torus 6x6節(jié)點(diǎn)連接方式中，若采用GCU-LARE互聯(lián)，一個(gè)機(jī)柜內(nèi)3臺(tái)8卡服務(wù)器，垂直方向環(huán)6個(gè)節(jié)點(diǎn)，水平方向用2張RDMA/RoCE網(wǎng)卡，通過(guò)類似可擴(kuò)展的連接方式，可以實(shí)現(xiàn)千卡級(jí)別高線性度互聯(lián)，其線性加速比可達(dá)86%以上，遠(yuǎn)超業(yè)內(nèi)水平，故而實(shí)現(xiàn)其高性能互聯(lián)特色。

2D Torus 6x6節(jié)點(diǎn)示意圖（144張?jiān)旗軹10）

精準(zhǔn)攻克，強(qiáng)強(qiáng)聯(lián)手解決算力瓶頸

燧原科技產(chǎn)品部資深總監(jiān)鄧輝表示，隨著AI模型的復(fù)雜化和大型化，AI算力需求成指數(shù)級(jí)增長(zhǎng)。其中，運(yùn)算集群和CPU的通信帶寬，以及運(yùn)算加速卡節(jié)點(diǎn)之間scale out時(shí)的高性能、低延遲、智能化互聯(lián)成為高算力集群的瓶頸。

此次燧原科技正式推出的PCIe Gen4全互聯(lián)AI高算力訓(xùn)練系統(tǒng)，便著重解決通信帶寬與運(yùn)算加速卡節(jié)點(diǎn)之間的高性能、低延遲、智能化互聯(lián)問(wèn)題。

PCIe Gen4連接拓?fù)?/p>

燧原科技通過(guò)直接連接PCIe Gen4 x16 CPU至云燧T10，使得Supermicro新的4U A+ Server 4124GS-TNR系統(tǒng)支持最多可8張?jiān)旗軹10 PCIe AI加速卡，而單機(jī)8張?jiān)旗軹10支持4卡作為一個(gè)節(jié)點(diǎn)的HCM(HybridCube Mesh)互聯(lián)拓?fù)?，?jié)點(diǎn)內(nèi)通過(guò)GCU-LARE橋接卡實(shí)現(xiàn)4卡間點(diǎn)對(duì)點(diǎn)全互聯(lián)，節(jié)點(diǎn)之間通過(guò)GCU-LARE高速線纜實(shí)現(xiàn)互聯(lián)，總互聯(lián)帶寬高達(dá)800GB/s。最終，該系統(tǒng)無(wú)需任何PCIe Switch，便可實(shí)現(xiàn)最低延遲、最高帶寬和最大限度的加速。

GCU-LARE互聯(lián)HCM拓?fù)洌▎螜C(jī)8卡）

此外，該系統(tǒng)還支持最多兩個(gè)額外高性能PCIe Gen4擴(kuò)展槽，且支持單個(gè)PCIe Gen4 x8以及最多2個(gè)用于RDMA高速網(wǎng)卡提供最高200Gb/s的高性能網(wǎng)絡(luò)連接，用于實(shí)現(xiàn)最先進(jìn)的2D Torus的高性能AI訓(xùn)練集群互聯(lián)拓?fù)洹?/p>

多方攻克，具有強(qiáng)大算力與超高加速的PCIe Gen4全互聯(lián)AI高算力訓(xùn)練系統(tǒng)搭載燧原科技云燧T10，應(yīng)運(yùn)而生。該系統(tǒng)加速了計(jì)算和網(wǎng)絡(luò)性能，極大的豐富和提升了整個(gè)AI高算力訓(xùn)練系統(tǒng)互聯(lián)拓?fù)浜蛶?，為客戶帶?lái)強(qiáng)大的產(chǎn)品性能和可擴(kuò)展性，使其擁有前所未有的速度為最復(fù)雜的Al網(wǎng)絡(luò)進(jìn)行訓(xùn)練。

系統(tǒng)落地，彰顯訓(xùn)練芯片實(shí)力

燧原科技正是認(rèn)可Supermicro在全球企業(yè)服務(wù)器先進(jìn)解決方案上的突出地位，并與其創(chuàng)新性、革命性的研發(fā)特理念不謀而合，故而憑借其獨(dú)創(chuàng)的GCU-LARE互聯(lián)技術(shù)與Supermicro展開(kāi)合作，成功地推出了中國(guó)第一套PCIe Gen4的多卡AI服務(wù)器訓(xùn)練系統(tǒng)，解決了大型AI訓(xùn)練系統(tǒng)互聯(lián)接口的瓶頸和規(guī)模部署的門檻。此次合作的成功還為雙方后期深入合作奠定了良好基礎(chǔ)，讓未來(lái)更多基于多卡互聯(lián)的AI模型訓(xùn)練系統(tǒng)逐一實(shí)現(xiàn)。

對(duì)于燧原科技而言，這款搭載云燧T10的中國(guó)第一套PCIe Gen4全互聯(lián)AI高算力訓(xùn)練系統(tǒng)成功推出，是對(duì)其研發(fā)方向的極致肯定，同時(shí)也彰顯了燧原科技在訓(xùn)練芯片領(lǐng)域的技術(shù)實(shí)力與企業(yè)地位。

燧原科技創(chuàng)始人兼COO張亞林認(rèn)為，能與全球企業(yè)服務(wù)器先進(jìn)解決方案的倡導(dǎo)者和領(lǐng)先者Supermicro保持前瞻性技術(shù)上的一致，并展開(kāi)深入合作，最后成功落地合作成果，是燧原科技走向國(guó)際舞臺(tái)的標(biāo)志性一步，代表我國(guó)訓(xùn)練芯片行業(yè)曙光在即，前景遠(yuǎn)大。

未來(lái)，AI訓(xùn)練芯片的算力需求將以每三個(gè)月增長(zhǎng)一倍的驚人速度增長(zhǎng)，而AI應(yīng)用率到2025年將達(dá)80%。急速變化的AI訓(xùn)練芯片技術(shù)、產(chǎn)量需求為該領(lǐng)域企業(yè)帶來(lái)了嚴(yán)峻考驗(yàn)，燧原科技必將全力踐行其研發(fā)戰(zhàn)略，全面攻克數(shù)據(jù)分析、深度學(xué)習(xí)和深度學(xué)習(xí)推理等多方難題，為真正的算力普惠和應(yīng)用落地創(chuàng)造價(jià)值和鋪平道路。

原文標(biāo)題：燧原科技上線AI高算力訓(xùn)練系統(tǒng)PCIe Gen4

文章出處：【微信公眾號(hào)：燧原科技Enflame】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。

責(zé)任編輯：haq