十多年來，傳統(tǒng)的云數(shù)據(jù)中心一直是計算基礎設施的基石，滿足了各種用戶和應用程序的需求。然而，近年來，為了跟上技術(shù)的進步和對 AI 驅(qū)動的計算需求的激增，數(shù)據(jù)中心進行了發(fā)展。本文探討了網(wǎng)絡在塑造數(shù)據(jù)中心的未來和推動 AI 時代方面發(fā)揮的關鍵作用。

專用數(shù)據(jù)中心：AI 工廠和 AI 云

目前正在涌現(xiàn)兩類不同的數(shù)據(jù)中心：AI 工廠和 AI 云。這兩類數(shù)據(jù)中心都是為滿足 AI 工作負載的獨特需求而定制的，其特點是都依賴于加速計算。

AI 工廠旨在處理大語言模型（LLM）和其他基礎 AI 模型等大規(guī)模算法模型，這些模型是構(gòu)建更先進 AI 系統(tǒng)的基礎模組。因此，為了實現(xiàn)擁有數(shù)千個 GPU 的集群可以無縫擴展和資源的高效利用，強大的高性能網(wǎng)絡勢在必行。

AI 云擴展了傳統(tǒng)云基礎設施的功能，以支持大規(guī)模生成式人工智能應用程序。生成式 AI 超越了傳統(tǒng)的 AI 系統(tǒng)，它基于其訓練的數(shù)據(jù)創(chuàng)建新的內(nèi)容，例如圖像、文本和音頻。管理擁有數(shù)千名用戶的 AI 云需要高級管理工具和網(wǎng)絡基礎設施，以便高效處理各種工作負載。

AI 和分布式計算

AI 工作負載具有計算密集型，尤其是涉及 ChatGPT 和 BERT 等大型復雜模型的工作負載。為了加速模型訓練和對大量數(shù)據(jù)集的處理，AI 從業(yè)者已轉(zhuǎn)向分布式計算。這種方法涉及將工作負載分配到多個通過高速、低延時網(wǎng)絡連接的服務器節(jié)點上。

分布式計算是 AI 取得成功的關鍵，而網(wǎng)絡的可擴展性和處理越來越多節(jié)點的能力至關重要。高度可擴展的網(wǎng)絡使 AI 研究人員能夠利用更多的計算資源，從而更快、更出色地提升性能。

在為 AI 數(shù)據(jù)中心構(gòu)建網(wǎng)絡架構(gòu)時，必須優(yōu)先創(chuàng)建以分布式計算為核心的集成解決方案。需要數(shù)據(jù)中心架構(gòu)師必須認真考慮網(wǎng)絡設計，根據(jù)他們計劃部署的 AI 工作負載的獨特需求定制解決方案。

NVIDIA Quantum-2 InfiniBand 和 NVIDIA Spectrum-X 是兩個專為應對 AI 數(shù)據(jù)中心的網(wǎng)絡挑戰(zhàn)而設計的網(wǎng)絡平臺，每個平臺都有自己獨特的功能和創(chuàng)新。

InfiniBand 提升 AI 性能

InfiniBand 技術(shù)一直是大規(guī)模復雜分布式科學計算部署應用的驅(qū)動力。它已成為 AI 工廠網(wǎng)絡的事實標準。憑借超低延遲，InfiniBand 已成為加速當今主流高性能計算（HPC）和 AI 應用的關鍵。高效 AI 系統(tǒng)所需的許多關鍵網(wǎng)絡功能均原生于 NVIDIA Quantum-2 InfiniBand 平臺。

InfiniBand 的網(wǎng)絡計算是將基于硬件的計算引擎集成到網(wǎng)絡中，利用 NVIDIA Scalable Hierarchical Aggregation and Reduction Protocol（SHARP）（一種網(wǎng)絡內(nèi)聚合機制）。SHARP 支持多個并發(fā)集合操作，可將數(shù)據(jù)帶寬翻倍，以增強集群性能，卸載大量復雜的計算到網(wǎng)絡上來。

InfiniBand 自適應路由能夠以最佳方式分散流量，從而緩解擁塞并提高資源利用率。在子網(wǎng)管理器的管理下，InfiniBand 會根據(jù)網(wǎng)絡條件選擇無擁塞的路由，從而在不影響數(shù)據(jù)包到達順序的情況下最大限度地提高效率。

InfiniBand 擁塞控制架構(gòu)可確保確定性帶寬和延遲。它使用三個階段來管理擁塞，從而防止 AI 工作負載中遇到性能瓶頸。

這些固有的優(yōu)化使 InfiniBand 能夠滿足 AI 應用的需求，最終實現(xiàn)卓越的性能和效率。

在以太網(wǎng)中探索 AI 部署

為 AI 基礎架構(gòu)部署以太網(wǎng)產(chǎn)品首先需要滿足以太網(wǎng)協(xié)議的特定需求。但是，隨著時間的推移，為了滿足各種網(wǎng)絡場景的需求，以太網(wǎng)融入了非常廣泛而復雜的功能。

因此，開箱即用的傳統(tǒng)以太網(wǎng)并非專為高性能而設計。使用傳統(tǒng)以太網(wǎng)絡搭建的 AI 云只能實現(xiàn)部署了優(yōu)化過以太網(wǎng)絡的 AI 云所能實現(xiàn)的一小部分性能。

在多個 AI 作業(yè)同時運行的多租戶環(huán)境中，性能隔離對于防止性能降低至關重要。如果出現(xiàn)鏈路故障，傳統(tǒng)以太網(wǎng)可能會導致 AI 集群性能減半。這是因為傳統(tǒng)以太網(wǎng)主要針對日常企業(yè)工作流程進行了優(yōu)化，而不是為了滿足那些依賴于 NVIIDA Collective Communication Library（NCCL）的高性能 AI 應用程序的需求而設計的。

這些性能問題是由傳統(tǒng)以太網(wǎng)的固有因素造成的，包括：

• 更高的交換機延時，在其他商用的 ASIC 競品中很常見

• 分立的交換機 Buffer 架構(gòu)，這可能會導致帶寬不公平

• 負載均衡缺乏針對 AI 工作負載生成的大型流進行了二次優(yōu)化

• 缺乏性能隔離而導致相鄰噪聲問題嚴重

Spectrum-X 網(wǎng)絡平臺解決了這些問題以及更多其他問題。Spectrum–X 基于標準以太網(wǎng)協(xié)議構(gòu)建，支持 RDMA over Converged Ethernet（RoCE）協(xié)議，可提高 AI 的性能。Spectrum-X 網(wǎng)絡平臺利用 InfiniBand 原生的最佳實踐，并為以太網(wǎng)帶來了自適應路由和擁塞控制等創(chuàng)新。

Spectrum-X 是唯一一款能夠為多租戶生成式 AI 云提供高效帶寬和性能隔離的以太網(wǎng)平臺，這得益于 Spectrum-4 和 NVIDIA BlueField-3 DPU。

總結(jié)

AI 時代已然來臨，而網(wǎng)絡是其成功的基石。為了充分發(fā)揮 AI 的潛力，數(shù)據(jù)中心架構(gòu)師必須仔細考慮網(wǎng)絡設計，并根據(jù) AI 工作負載的獨特需求定制這些設計。解決網(wǎng)絡問題是釋放 AI 技術(shù)潛力和推動數(shù)據(jù)中心行業(yè)創(chuàng)新的關鍵。

NVIDIA Quantum InfiniBand 憑借超低延時、可擴展性能和先進的功能集，成為 AI 工廠的理想選擇。而 NVIDIA Spectrum-X 則憑借專為 AI 打造的技術(shù)創(chuàng)新，為構(gòu)建基于以太網(wǎng)的 AI 云的組織提供了突破性解決方案。

掃描下方二維碼，查看更多有關NVIDIA Spectrum-X 的信息。

掃描下方二維碼，查看更多有關NVIDIA Quantum-2 InfiniBand 的信息。

?

更多精彩內(nèi)容 新的 MLPerf 推理網(wǎng)絡部分展現(xiàn) NVIDIA InfiniBand 網(wǎng)絡和 GPUDirect RDMA 的強大能力
借助 NVIDIA Spectrum 以太網(wǎng)最大限度地提高存儲網(wǎng)絡性能
使用 NVIDIA Spectrum-X 網(wǎng)絡平臺加速生成式 AI 工作負載