通過內(nèi)置NVIDIA AI、HPC和圖形SDK等功能，NVIDIA 為Arm在高性能計算、云、邊緣和PC平臺在內(nèi)的生態(tài)系統(tǒng)帶來GPU和DPU加速

從手機(jī)、自動駕駛汽車、邊緣系統(tǒng)到全球速度最快的超級計算機(jī)——日本的Fugaku，Arm已成為數(shù)十億臺設(shè)備的核心。

這種廣泛的系統(tǒng)得到了約1300萬開發(fā)者的支持。NVIDIA為這個充滿活力的社區(qū)帶來了自主開發(fā)的擴(kuò)展工具集。

該工具集包括：

NVIDIA AI– 加速AI訓(xùn)練和推理的行業(yè)標(biāo)準(zhǔn)

NVIDIA RAPIDS– 一套可在GPU上運行數(shù)據(jù)科學(xué)和分析的軟件庫

NVIDIA HPC SDK– 用于高性能計算的編譯器、庫和軟件工具

NVIDIA RTX– 提供光線追蹤和AI功能的圖形驅(qū)動器

多年來，NVIDIA一直將JetsonSoC中的Arm核心用于邊緣計算和自主機(jī)器。最近，又將該核心用在BlueField DPU等網(wǎng)絡(luò)產(chǎn)品中。

在合作伙伴和獨立軟件供應(yīng)商的支持下，BlueFieldDPU可加速并保護(hù)云、嵌入式和企業(yè)級應(yīng)用的網(wǎng)絡(luò)與存儲工作。

Arm是高能效計算領(lǐng)域的領(lǐng)導(dǎo)者，NVIDIA通過為其提供這些資源，從而增加客戶的選擇，并為Arm和NVIDIA合作伙伴在四個主要領(lǐng)域的發(fā)展提供更多機(jī)會。

NVIDIA對Arm的支持范圍：從超級計算機(jī)到個人和嵌入式系統(tǒng)

高性能計算的新方向

Arm正在通過可伸縮向量擴(kuò)展指令（SVE）擴(kuò)展其處理器技術(shù)，從而滿足這一全球最大、性能最強(qiáng)的系統(tǒng)的需求。NVIDIA工程師已開始為富士通A64FX（Fugaku內(nèi)置的處理器）中的SVE提供支持。

SVE是Arm Neoverse平臺用于數(shù)據(jù)中心計算和網(wǎng)絡(luò)的最新產(chǎn)品。其強(qiáng)大的模擬功能推動了Fugaku的科學(xué)研究，并在TOP500全球性能最強(qiáng)大的計算機(jī)榜單上排名第一。

NVIDIA將幫助Arm合作伙伴和客戶為同時使用Neoverse CPU和NVIDIA GPU的系統(tǒng)生成經(jīng)過優(yōu)化的軟件。2019年6月，NVIDIA宣布了HPC計劃的最新舉措，該計劃旨在為NVIDIA用于Arm加速計算和 AI的CUDA軟件提供支持。

除了NVIDIA HPC SDK之外，用于HPC網(wǎng)絡(luò)主干NVIDIA Mellanox InfiniBand的軟件現(xiàn)已得到完整支持并部署在Arm服務(wù)器上。工程師們正在NVIDIA Magnum IO中擴(kuò)展對Arm的支持。 NVIDIA Magnum IO軟件用于實現(xiàn)多節(jié)點系統(tǒng)存儲和網(wǎng)絡(luò)性能的最大化。

云端游戲創(chuàng)造良機(jī)

在云計算領(lǐng)域，NVIDIA與Arm服務(wù)器SoC和OEM合作伙伴開展了多個方面的合作。

例如，NVIDIA與Ampere Computing合作，將Mt. Jade服務(wù)器平臺擴(kuò)展至云游戲。基于Ampere Altra的系統(tǒng)包含兩個80核Arm SoC、四個NVIDIA T4 GPU和一個NVIDIA Mellanox BlueField-2 DPU。它們可以同時為128名游戲用戶提供服務(wù)，為Android-in-Cloud服務(wù)提供流媒體服務(wù)，這種服務(wù)受到中國越來越多的5G智能手機(jī)用戶的歡迎。

在NVIDIA的幫助下，Ampere Computing的Mt. Jade平臺正在開拓云游戲新興市場

此外，NVIDIA工程師不斷在向Arm移植代碼，并開發(fā)新的工具來優(yōu)化Arm服務(wù)器和用戶之間的云游戲編碼、渲染和串流傳輸方式。這些工具被技嘉科技、浪潮和緯穎等Arm服務(wù)器OEM合作伙伴所廣泛使用。

根據(jù)運行其服務(wù)GeForce NOW所獲得的經(jīng)驗，NVIDIA了解到云游戲的潛力。

除游戲外，云服務(wù)供應(yīng)商還支持用于GPU加速的機(jī)器學(xué)習(xí)、存儲和其他應(yīng)用的Arm服務(wù)器。因此，NVIDIA為Arm服務(wù)器提供一系列GPU管理和監(jiān)控工具，包括可以在內(nèi)置Kubernetes的Arm上運行Docker容器的NVIDIA容器工具集。

為每家公司提供企業(yè)級AI

企業(yè)網(wǎng)絡(luò)的邊緣是下一個重要的計算領(lǐng)域。NVIDIA EGX 邊緣AI平臺將支持包括Arm在內(nèi)的所有主要處理器架構(gòu)。

由于認(rèn)識到邊緣對高能效計算的需求，NVIDIA將Arm作為其各垂直市場加速計算和AI平臺的核心。通常，這些平臺將GPU與像Jetson等嵌入式模塊中的多核Arm CPU配對。

NVIDIA將這些模塊的定制版本與專用于醫(yī)療（Clara）、機(jī)器人（Isaac）、自動駕駛汽車（DRIVE）等行業(yè)的開發(fā)者套件配對，為Arm軟件合作伙伴和SoC供應(yīng)商提供了大量實現(xiàn)企業(yè)AI的機(jī)會。

此外，如NVIDIA在收購公告中指出，通過Arm提供的IP，隨著NVIDIA的擴(kuò)展它們將會變得越來越豐富。

未來的發(fā)展趨勢

多家供應(yīng)商的Windows PC和Chromebook已在Arm處理器上運行，并且更多消費級平臺正在加入其中，此舉推動了未來個人系統(tǒng)的發(fā)展。

NVIDIA長期以來使用GPU（包括Arm系統(tǒng)）支持各種形狀和尺寸的PC，包括基于Arm的系統(tǒng)。最近的一項調(diào)查顯示，超過70％的游戲PC使用NVIDIA GPU。

未來，具有豐富圖形和連接性、性能與當(dāng)今PC一樣強(qiáng)大且更加節(jié)能的AI加速的個人系統(tǒng)將迎來機(jī)遇。Arm生態(tài)系統(tǒng)可以在個人系統(tǒng)等各個市場中使用NVIDIA 參考設(shè)計，就像當(dāng)前在醫(yī)療市場中使用的那樣。

構(gòu)建平臺的工具

得到NVIDIA大量工具支持的Arm處理器IP產(chǎn)品組合等先進(jìn)技術(shù)讓各種新的平臺成為可能。

用于Arm的CUDA工具包將NVIDIA GPU加速計算和AI功能引入Arm生態(tài)系統(tǒng)。通過CUDA，開發(fā)者可以訪問TensorRT進(jìn)行深度學(xué)習(xí)推理、訪問DeepStream進(jìn)行視頻分析等。

NVIDIA提供一整套Nsight可視化開發(fā)者工具，利用分析器、調(diào)試器等工具為Arm SoC和服務(wù)器提供支持。用戶可以通過NVIDIA的開發(fā)者網(wǎng)站訪問所有的工具、SDK和平臺。

NVIDIA已經(jīng)為Arm提供了十多年的支持，而這僅僅是個開始。我們很高興能夠加入這個不斷擴(kuò)展的社區(qū)，該社區(qū)為從智能卡、超級計算機(jī)到未來的各項技術(shù)提供了強(qiáng)大支持。

我們對未來設(shè)想了許多可能性，并且希望從Arm生態(tài)系統(tǒng)中的1300萬開發(fā)人員身上學(xué)到大量知識與經(jīng)驗。