人工智能(AI)性能的新突破,掀起了一場(chǎng)未來(lái)強(qiáng)大數(shù)據(jù)中心的競(jìng)賽。隨著 AI 應(yīng)用的復(fù)雜性不斷提高,以及對(duì)計(jì)算的需求呈指數(shù)級(jí)增長(zhǎng),電源可能決定著哪些數(shù)據(jù)中心可提升到更高一級(jí)的處理水平并保持領(lǐng)先地位。
近年來(lái),AI 在各行各業(yè)帶來(lái)了翻天覆地的變化——從醫(yī)療保健和金融到交通運(yùn)輸。機(jī)器學(xué)習(xí)算法和深度神經(jīng)網(wǎng)絡(luò)已成為數(shù)據(jù)分析、模式識(shí)別和決策方面的強(qiáng)大工具。然而,這些 AI 應(yīng)用需要大量的計(jì)算能力和能源才能有效運(yùn)作。
訓(xùn)練大的 AI 模型可能會(huì)消耗大量電力,圖形處理器 (GPU) 或張量處理器 (TPU) 等專(zhuān)用硬件常常被用來(lái)執(zhí)行深度學(xué)習(xí)算法所需的復(fù)雜矩陣計(jì)算,這樣的計(jì)算速度比傳統(tǒng) CPU 快得多。這些專(zhuān)用硬件單元旨在處理大量數(shù)據(jù)以及優(yōu)化機(jī)器學(xué)習(xí)所需的處理。
當(dāng)大模型開(kāi)始擴(kuò)展
近期的例子表明,訓(xùn)練模型可能需要多達(dá)數(shù)百千瓦的電力。例如,OpenAI 的大語(yǔ)言模型 (LLM) GPT-3 的訓(xùn)練使用了 1,750 億個(gè)參數(shù)和來(lái)自互聯(lián)網(wǎng)的 570GB 數(shù)據(jù),據(jù)稱消耗了 355 兆瓦的電力。
OpenAI 的下一個(gè)版本 GPT-4 比 GPT-3 強(qiáng)大數(shù)百倍,其訓(xùn)練集包括 170 萬(wàn)億個(gè)參數(shù),使其成為有史以來(lái)最強(qiáng)大的 AI 引擎——至少在目前是這樣。
OpenAI 使用了 Microsoft Azure 數(shù)據(jù)中心來(lái)開(kāi)展 GPT 項(xiàng)目。公司將會(huì)繼續(xù)在自己的場(chǎng)所內(nèi)打造并維護(hù)數(shù)據(jù)中心,以幫助提升自身知名度或迅速擴(kuò)大用戶群。但公司可能還需要依賴基于云的服務(wù),例如 Microsoft Azure、Amazon Web Services 和 Google Cloud Platform,以提供額外計(jì)算能力來(lái)滿足突然激增的需求。
這些大規(guī)模云平臺(tái)一直引領(lǐng)著超大規(guī)模數(shù)據(jù)中心最佳實(shí)踐的發(fā)展,并推動(dòng)數(shù)據(jù)中心在計(jì)算速度和帶寬方面的性能不斷進(jìn)步。
在這個(gè)競(jìng)爭(zhēng)激烈的環(huán)境中,前景廣闊 AI 項(xiàng)目將會(huì)在最大計(jì)算處理負(fù)載的可靠數(shù)據(jù)中心方面展開(kāi)爭(zhēng)奪。展望 AI 發(fā)展和數(shù)據(jù)中心升級(jí)的下一階段,可能沒(méi)有足夠的優(yōu)質(zhì)數(shù)據(jù)中心服務(wù)供每個(gè)人使用。
造成瓶頸的原因在很大程度上可能是電力限制。一項(xiàng)以 800 多名設(shè)計(jì)工程師及其經(jīng)理為調(diào)查對(duì)象的 Molex莫仕調(diào)查顯示,40% 的受訪者將電源管理列為在數(shù)據(jù)中心實(shí)施電源系統(tǒng)時(shí)面臨的最大挑戰(zhàn)。有 20% 的受訪者認(rèn)為,配電問(wèn)題是第二大挑戰(zhàn)。
讓數(shù)據(jù)能力翻倍
當(dāng)今一流的數(shù)據(jù)中心可提供高達(dá) 112 Gbps 的數(shù)據(jù)傳輸率。許多數(shù)據(jù)中心正在升級(jí)硬件和連接器,以期達(dá)到這種速度和性能水平。
打造224 Gbps-PAM4數(shù)據(jù)中心趨勢(shì)已初現(xiàn)端倪,以滿足不斷增長(zhǎng)的 AI 處理需求。然而,適用于 224G 的基礎(chǔ)設(shè)施組件還處于上市的早期階段,這意味著完全采用 224G 技術(shù)的設(shè)施要在幾年后才會(huì)普及。
讓全世界數(shù)據(jù)中心的數(shù)據(jù)傳輸率總體上翻倍將是一項(xiàng)艱巨的任務(wù),因?yàn)檫@需要大幅增加發(fā)電量。鑒于如今 AI 消耗的能源量占了能源消耗總量的 2%,未來(lái)的升級(jí)可能相當(dāng)于在這個(gè)世界新增幾個(gè)大城市,每個(gè)城市需要有自己的發(fā)電廠。
事實(shí)上,典型 GPU 模塊的電力需求已從 2018 年的每個(gè)模塊 450W 增加到 2022 年的 1000W,OCP OAM 的電力需求從每個(gè)機(jī)箱 3600W 增加到 8000W——推動(dòng)這種增長(zhǎng)的因素是對(duì)更強(qiáng)計(jì)算能力的需求。這種電力增長(zhǎng)帶來(lái)了前所未有的高發(fā)熱量,并促使需要能夠耐受更高溫度的散熱片和組件。Molex莫仕 Mirror Mezz 連接器可滿足更高的電力需求并實(shí)現(xiàn)相關(guān)的熱管理。這些連接器可用于 450W 和 1000W GPU 型號(hào),且具有出色的氣冷和液冷性能。
適應(yīng)未來(lái)發(fā)展趨勢(shì)
AI 數(shù)據(jù)中心的電力需求成倍增長(zhǎng),這與現(xiàn)有設(shè)施的局限性形成了矛盾,解決這種矛盾需要?jiǎng)?chuàng)造性的解決方案。目前,一些超大規(guī)模數(shù)據(jù)中心可能只是因?yàn)榈乩砦恢貌患讯鵁o(wú)法進(jìn)行下一代升級(jí)。某些地區(qū)可能不會(huì)選擇將本已有限的發(fā)電量分配給云服務(wù)提供商。而且,老舊的電網(wǎng)(即使已開(kāi)始過(guò)渡到使用可再生資源)可能會(huì)出現(xiàn)間歇性停電,事實(shí)證明,這種情況會(huì)導(dǎo)致數(shù)據(jù)服務(wù)出現(xiàn)問(wèn)題。
隨著數(shù)據(jù)中心從一種技術(shù)過(guò)渡到另一種技術(shù)并充分利用內(nèi)部配電架構(gòu),數(shù)據(jù)中心內(nèi)部也可能會(huì)出現(xiàn)瓶頸。除了硬件投資外,行業(yè)打造 AI 驅(qū)動(dòng)的數(shù)據(jù)中心的趨勢(shì),數(shù)據(jù)中心還必須著眼于尋找新方法優(yōu)化自身的功耗。優(yōu)化功耗的方法可能包括使用先進(jìn)的冷卻系統(tǒng)、高效節(jié)能的硬件和創(chuàng)新的電源管理策略。對(duì)于想方設(shè)法優(yōu)化現(xiàn)有資源的數(shù)據(jù)中心來(lái)說(shuō),AI 驅(qū)動(dòng)的管理工具甚至可能是理想的未來(lái)解決方案。
AI 不斷重塑計(jì)算世界,數(shù)據(jù)中心必須做出調(diào)整,以滿足這些應(yīng)用不斷增長(zhǎng)的需求。隨著 AI 領(lǐng)域的發(fā)展,以及越來(lái)越多公司希望在業(yè)務(wù)中部署 AI 應(yīng)用,對(duì)強(qiáng)大計(jì)算資源的爭(zhēng)奪將愈演愈烈。數(shù)據(jù)中心運(yùn)營(yíng)商必須投資于最新的技術(shù)和策略,以在這個(gè)不斷變化的環(huán)境中保持領(lǐng)先地位和競(jìng)爭(zhēng)優(yōu)勢(shì)。因此,Molex莫仕投資于未來(lái)的技術(shù),其中包括 224 Gbps-PAM4 功能以及一整套數(shù)據(jù)中心電源管理解決方案。
-
連接器
+關(guān)注
關(guān)注
99文章
15327瀏覽量
139984 -
AI
+關(guān)注
關(guān)注
88文章
34868瀏覽量
277600 -
機(jī)器學(xué)習(xí)
+關(guān)注
關(guān)注
66文章
8499瀏覽量
134394 -
莫仕
+關(guān)注
關(guān)注
0文章
95瀏覽量
11949
發(fā)布評(píng)論請(qǐng)先 登錄
Nordic收購(gòu) Neuton.AI 關(guān)于產(chǎn)品技術(shù)的分析
中軟國(guó)際科創(chuàng)中心驅(qū)動(dòng)AI產(chǎn)業(yè)未來(lái)發(fā)展
AI技術(shù)助力打造綠色未來(lái)
Banana Pi 發(fā)布 BPI-AI2N & BPI-AI2N Carrier,助力 AI 計(jì)算與嵌入式開(kāi)發(fā)
數(shù)據(jù)采集在AI行業(yè)的應(yīng)用、優(yōu)勢(shì)及未來(lái)發(fā)展趨勢(shì)

FPGA+AI王炸組合如何重塑未來(lái)世界:看看DeepSeek東方神秘力量如何預(yù)測(cè)......
數(shù)據(jù)驅(qū)動(dòng)AI工具好用嗎
數(shù)據(jù)驅(qū)動(dòng)AI工具在哪
AI技術(shù)驅(qū)動(dòng)半導(dǎo)體產(chǎn)業(yè)升級(jí),芯原布局未來(lái)智能計(jì)算領(lǐng)域
未來(lái)AI大模型的發(fā)展趨勢(shì)
《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第6章人AI與能源科學(xué)讀后感
AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第4章-AI與生命科學(xué)讀后感
《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第二章AI for Science的技術(shù)支撐學(xué)習(xí)心得
《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第一章人工智能驅(qū)動(dòng)的科學(xué)創(chuàng)新學(xué)習(xí)心得
英特爾攜手運(yùn)營(yíng)商伙伴,共探AI驅(qū)動(dòng)通信網(wǎng)絡(luò)新未來(lái)

評(píng)論