99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

借助 NVIDIA 融合加速器開(kāi)發(fā)套件加速數(shù)據(jù)中心 AI

NVIDIA英偉達(dá) ? 來(lái)源:NVIDIA 英偉達(dá) ? 作者:NVIDIA 英偉達(dá) ? 2021-11-16 16:12 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

現(xiàn)代數(shù)據(jù)中心變得越來(lái)越難以管理。應(yīng)用程序和 PB 級(jí)日志數(shù)據(jù)之間有數(shù)十億條可能的連接路徑。靜態(tài)規(guī)則不足以適應(yīng)動(dòng)態(tài)微服務(wù)的安全策略,而且人工已經(jīng)無(wú)法應(yīng)對(duì)數(shù)量龐大的日志數(shù)據(jù)的分析。

AI 是通往未來(lái)安全和自主管理式數(shù)據(jù)中心的唯一出路。

NVIDIA 融合加速器在業(yè)界率先推出 AI 增強(qiáng)型 DPU。它將 GPU 的強(qiáng)大計(jì)算能力與 DPU 的網(wǎng)絡(luò)加速和安全優(yōu)勢(shì)相結(jié)合,為 AI 增強(qiáng)型數(shù)據(jù)中心管理創(chuàng)造了統(tǒng)一平臺(tái)。融合加速器可將 AI 生成的規(guī)則應(yīng)用于數(shù)據(jù)中心網(wǎng)絡(luò)中的每個(gè)數(shù)據(jù)包,為實(shí)現(xiàn)實(shí)時(shí)安全和管理創(chuàng)造新的可能性。圖像展示了將 BlueField-2 DPU 和 Ampere GPU 相結(jié)合的 NVIDIA 新型融合加速器。

在 NVIDIA GTC 大會(huì)上,我們推出了兩款新型融合加速器。A100X 在單一模組中融合了 A100 Tensor Core GPU 和 NVIDIA BlueField-2 DPU。A30X 則融合了 A30 Tensor Core GPU 和相同的 BlueField-2 DPU。融合卡具有獨(dú)特的能力,除了 BlueField-2 的卸載、隔離和加速網(wǎng)絡(luò)功能,進(jìn)一步拓展到 AI 推理和訓(xùn)練功能。

兩款加速器都包含一個(gè)集成的 PCIe 交換機(jī)實(shí)現(xiàn)DPU 和 GPU 連接。集成交換機(jī)能夠消除對(duì)主機(jī)資源的爭(zhēng)用,實(shí)現(xiàn)線速 GPUDirect RDMA 性能。集成交換機(jī)還通過(guò)隔離 GPU 和網(wǎng)卡之間移動(dòng)的數(shù)據(jù)來(lái)提高安全性。

AI 增強(qiáng)型 DPU

融合加速器支持兩種運(yùn)行模式:

標(biāo)準(zhǔn)模式 – BlueField-2 DPU 和 GPU 分別獨(dú)立運(yùn)行。

BlueField-X模式 – PCI 交換機(jī)進(jìn)行了重新配置,GPU 將專(zhuān)用于 DPU,并且對(duì)于主機(jī)系統(tǒng)不可見(jiàn)。

在 BlueField-X 模式下,只有 DPU 上運(yùn)行的操作系統(tǒng)可見(jiàn)到GPU。BlueField-X 模式在業(yè)界首創(chuàng)了一種新型加速器類(lèi)型:GPU 加速的 DPU。圖像展示了在 BlueField-X 模式下,主機(jī)服務(wù)器中的 CPU 連接到融合加速器。融合加速器的 PCIe 交換機(jī)連接到 CPU 和 DPU。而 GPU 僅通過(guò) PCIe 交換機(jī)與 DPU連接。

在 BlueField-X 模式下,GPU 可以對(duì)流經(jīng) DPU 的數(shù)據(jù)運(yùn)行 AI 模型,成為 “bump in the wire”。保障安全同時(shí),無(wú)性能損耗。AI 模型無(wú)需消耗主機(jī)資源,實(shí)現(xiàn)完全加速。

BlueField-X 為網(wǎng)絡(luò)安全、數(shù)據(jù)中心管理和 I/O 加速解鎖新穎使用場(chǎng)景。例如,Morpheus 網(wǎng)絡(luò)安全框架使用機(jī)器學(xué)習(xí)對(duì)以往無(wú)法識(shí)別的安全威脅進(jìn)行有效處理。Morpheus 通過(guò) DPU 從數(shù)據(jù)中心的各個(gè)服務(wù)器獲取遙測(cè)數(shù)據(jù),并將其發(fā)送到配備 GPU 的服務(wù)器進(jìn)行分析。

有了 BlueField-X,AI 模型可以在每個(gè)服務(wù)器的融合加速器上直接本地運(yùn)行。這使 Morpheus 能夠更快地分析更多數(shù)據(jù),同時(shí)消除代價(jià)很高的數(shù)據(jù)移動(dòng),并縮小惡意攻擊面。由 BlueField-X 加速的 Morpheus 使用案例包括惡意軟件檢測(cè)、數(shù)據(jù)泄漏預(yù)防和動(dòng)態(tài)防火墻規(guī)則創(chuàng)建等。

Morpheus 示例僅僅是 BlueField-X 實(shí)現(xiàn)加速的一種使用場(chǎng)景。我們的客戶經(jīng)常與我們分享一些我們尚未考慮到的新想法。為了對(duì) AI 增強(qiáng)的網(wǎng)絡(luò)進(jìn)行更多創(chuàng)造性的探索,我們現(xiàn)正推出 NVIDIA 融合加速器開(kāi)發(fā)套件。

結(jié)合此開(kāi)發(fā)套件,我們?yōu)橛幸鈽?gòu)建新一代加速 AI 網(wǎng)絡(luò)應(yīng)用的特定客戶和合作伙伴提供 A30X 加速器的搶先體驗(yàn)計(jì)劃。在邊緣計(jì)算或數(shù)據(jù)中心管理中探索 BlueField-X 的新應(yīng)用場(chǎng)景。以下例子為您做參考:

透明視頻預(yù)處理 – Bump-in-the-wire 視頻預(yù)處理(解密、交錯(cuò)、格式轉(zhuǎn)換等),以提高 IVA 吞吐量和攝像頭密度。

小基站 RU 解決方案 – RAN 信號(hào)處理聚合加速器,以增加商業(yè) gNodeB 服務(wù)器上的用戶密度和吞吐量。

計(jì)算存儲(chǔ) – Bump-in-the-wire 存儲(chǔ)加密、索引和哈希,為長(zhǎng)期存儲(chǔ)主機(jī)數(shù)據(jù)準(zhǔn)備處理卸載昂貴的 CPU 資源。

作弊檢測(cè) – 檢測(cè)流式游戲服務(wù)中的惡意游戲/作弊

開(kāi)始使用 NVIDIA 融合加速器開(kāi)發(fā)套件

NVIDIA 融合加速器開(kāi)發(fā)套件包含有結(jié)合 CUDA 和 NVIDIA DOCA 的示例應(yīng)用程序,以及幫助安裝、配置新型融合加速器的文檔。最重要的是,可提供 A30X 及應(yīng)用支持來(lái)?yè)Q取用戶的寶貴反饋。

要開(kāi)始使用,只需在 NVIDIA 融合加速器開(kāi)發(fā)套件網(wǎng)頁(yè)上完成注冊(cè)。獲得批準(zhǔn)后,一旦硬件準(zhǔn)備好發(fā)貨,將由工作人員主動(dòng)聯(lián)系。之后就可以開(kāi)啟新一代加速應(yīng)用之旅了。

編輯:jq

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 加速器
    +關(guān)注

    關(guān)注

    2

    文章

    827

    瀏覽量

    39110
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4943

    瀏覽量

    131209
  • 主機(jī)
    +關(guān)注

    關(guān)注

    0

    文章

    1038

    瀏覽量

    35980
  • 數(shù)據(jù)中心
    +關(guān)注

    關(guān)注

    16

    文章

    5226

    瀏覽量

    73503
  • DPU
    DPU
    +關(guān)注

    關(guān)注

    0

    文章

    393

    瀏覽量

    24925

原文標(biāo)題:GTC21 | 借助 NVIDIA 融合加速器開(kāi)發(fā)套件加速數(shù)據(jù)中心 AI

文章出處:【微信號(hào):NVIDIA_China,微信公眾號(hào):NVIDIA英偉達(dá)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    NVIDIA攜手諾和諾德借助AI加速藥物研發(fā)

    NVIDIA 宣布與諾和諾德開(kāi)展合作,借助創(chuàng)新 AI 應(yīng)用加速藥物研發(fā)。此次合作也將支持諾和諾德與丹麥 AI 創(chuàng)新
    的頭像 發(fā)表于 06-12 15:49 ?503次閱讀

    首創(chuàng)開(kāi)源架構(gòu),天璣AI開(kāi)發(fā)套件讓端側(cè)AI模型接入得心應(yīng)手

    倍,可見(jiàn)天璣的AI開(kāi)發(fā)者解決方案已經(jīng)被開(kāi)發(fā)者高度認(rèn)可,天璣AI生態(tài)圈正在飛速成長(zhǎng)起來(lái)。 聯(lián)發(fā)科與OPPO深度合作,共同研發(fā),借助天璣
    發(fā)表于 04-13 19:52

    是德科技推出AI數(shù)據(jù)中心構(gòu)建

    是德科技(NYSE:KEYS)推出Keysight AI (KAI)數(shù)據(jù)中心構(gòu)建,這是一款先進(jìn)的軟件套件,通過(guò)模擬真實(shí)工作負(fù)載來(lái)評(píng)估新算法、組件和協(xié)議對(duì)
    的頭像 發(fā)表于 04-07 11:06 ?499次閱讀

    適用于數(shù)據(jù)中心AI時(shí)代的800G網(wǎng)絡(luò)

    和性能隔離能力,以保障不同用戶任務(wù)互不干擾。 分布式AI計(jì)算與網(wǎng)絡(luò)架構(gòu)設(shè)計(jì) 分布式計(jì)算已成為AI訓(xùn)練的主流方式,通過(guò)將工作負(fù)載分配到多個(gè)GPU節(jié)點(diǎn)并行處理,以加速模型訓(xùn)練。這對(duì)數(shù)據(jù)中
    發(fā)表于 03-25 17:35

    NVIDIA加速的Apache Spark助力企業(yè)節(jié)省大量成本

    隨著 NVIDIA 推出 Aether 項(xiàng)目,通過(guò)采用 NVIDIA 加速的 Apache Spark 企業(yè)得以自動(dòng)加速數(shù)據(jù)中心規(guī)模的分析
    的頭像 發(fā)表于 03-25 15:09 ?538次閱讀
    <b class='flag-5'>NVIDIA</b><b class='flag-5'>加速</b>的Apache Spark助力企業(yè)節(jié)省大量成本

    Cadence 利用 NVIDIA Grace Blackwell 加速AI驅(qū)動(dòng)的工程設(shè)計(jì)和科學(xué)應(yīng)用

    融合設(shè)計(jì)專(zhuān)業(yè)知識(shí)與加速計(jì)算,推動(dòng)科技創(chuàng)新、實(shí)現(xiàn)能效和工程生產(chǎn)力方面的突破性進(jìn)展,引領(lǐng)全球生活新范式 內(nèi)容提要 ●?Cadence 借助 NVIDIA 最新 Blackwell 系統(tǒng),將
    的頭像 發(fā)表于 03-24 10:14 ?773次閱讀

    FPGA+AI王炸組合如何重塑未來(lái)世界:看看DeepSeek東方神秘力量如何預(yù)測(cè)......

    FPGA的硬件加速能力處理傳感數(shù)據(jù)。? 低功耗設(shè)計(jì):針對(duì)邊緣設(shè)備和物聯(lián)網(wǎng)應(yīng)用,開(kāi)發(fā)低功耗的FPGA解決方案,以滿足嚴(yán)格的功耗限制。 4.借助
    發(fā)表于 03-03 11:21

    數(shù)據(jù)中心中的FPGA硬件加速器

    ? 再來(lái)看一篇FPGA的綜述,我們都知道微軟包括國(guó)內(nèi)的云廠商其實(shí)都在數(shù)據(jù)中心的服務(wù)中部署了FPGA,所以這篇論文就以數(shù)據(jù)中心的視角,來(lái)看下FPGA這個(gè)硬件加速器。 還是一樣,想要論文
    的頭像 發(fā)表于 01-14 10:29 ?656次閱讀
    <b class='flag-5'>數(shù)據(jù)中心</b>中的FPGA硬件<b class='flag-5'>加速器</b>

    從版本控制到全流程支持:揭秘Helix Core如何成為您的創(chuàng)意加速器

    加速器
    龍智DevSecOps
    發(fā)布于 :2024年11月26日 13:42:47

    NVIDIA加速AI在日本各行各業(yè)的應(yīng)用

    企業(yè)借助基于 NVIDIA AI Enterprise 與 Omniverse 工業(yè) AI 構(gòu)建的創(chuàng)新中心和服務(wù)
    的頭像 發(fā)表于 11-19 15:45 ?766次閱讀

    日本企業(yè)借助NVIDIA產(chǎn)品加速AI創(chuàng)新

    日本領(lǐng)先企業(yè)和大學(xué)正在使用 NVIDIA NeMo、NIM 微服務(wù)和 NVIDIA Isaac 加速 AI 創(chuàng)新。
    的頭像 發(fā)表于 11-19 14:34 ?941次閱讀

    借助OpenUSD和NVIDIA Omniverse開(kāi)發(fā)數(shù)字孿生應(yīng)用

    接口、軟件開(kāi)發(fā)套件和服務(wù)組成的,使開(kāi)發(fā)者能夠開(kāi)發(fā)基于 OpenUSD 的應(yīng)用 NVIDIA Omniverse開(kāi)發(fā)了一款數(shù)字孿生應(yīng)用。
    的頭像 發(fā)表于 09-06 14:18 ?743次閱讀

    【xG24 Matter開(kāi)發(fā)套件試用體驗(yàn)】深入了解Silicon Labs xG24 Matter開(kāi)發(fā)套件

    -使用Silicon Labs xG24開(kāi)發(fā)套件支持智能加速器以構(gòu)建聲音感知門(mén)鎖”(Creating a Smarthome Device That Is Truly Smart - Building
    發(fā)表于 08-27 20:23

    適用于數(shù)據(jù)中心應(yīng)用中的硬件加速器的直流/直流轉(zhuǎn)換解決方案

    電子發(fā)燒友網(wǎng)站提供《適用于數(shù)據(jù)中心應(yīng)用中的硬件加速器的直流/直流轉(zhuǎn)換解決方案.pdf》資料免費(fèi)下載
    發(fā)表于 08-26 09:38 ?0次下載
    適用于<b class='flag-5'>數(shù)據(jù)中心</b>應(yīng)用中的硬件<b class='flag-5'>加速器</b>的直流/直流轉(zhuǎn)換<b class='flag-5'>器</b>解決方案

    借助NVIDIA NIM加速AI應(yīng)用部署

    大語(yǔ)言模型(LLM)在企業(yè)組織中的應(yīng)用日益廣泛,許多企業(yè)都將其整合到 AI 應(yīng)用中。雖然從基礎(chǔ)模型著手十分高效,但需要花費(fèi)一定的精力才能將它們整合到生產(chǎn)就緒型環(huán)境中。NVIDIA NIM簡(jiǎn)化了這一過(guò)程,使企業(yè)能夠在數(shù)據(jù)中心、云、
    的頭像 發(fā)表于 08-23 16:38 ?763次閱讀
    <b class='flag-5'>借助</b><b class='flag-5'>NVIDIA</b> NIM<b class='flag-5'>加速</b><b class='flag-5'>AI</b>應(yīng)用部署