在過(guò)去的五年中,人工智能(AI)的使用激增,引發(fā)了有關(guān)該主題的幾次新會(huì)議。但是,最重要的活動(dòng)已成為Nvidia的GPU技術(shù)會(huì)議(GTC),最近的一次活動(dòng)是在上周在加利福尼亞州圣何塞舉行的。出席人數(shù)高達(dá)8,500人,比GTC17多出2,000人。(注:Nvidia是ZK Research的客戶。)
雖然該展會(huì)由Nvidia主持,但它已成為行業(yè)展會(huì),正在討論和解決擴(kuò)展AI方面的一些最大挑戰(zhàn)。
按照GTC的慣例,Nvidia宣布了許多公告。以下是我認(rèn)為最引人注意的內(nèi)容,以及CIO應(yīng)該關(guān)心的原因。
GPU計(jì)算面臨的挑戰(zhàn)之一是將足夠的數(shù)據(jù)推入GPU中,以使其保持繁忙,尤其是對(duì)于多GPU系統(tǒng)而言。通常,在高數(shù)據(jù)負(fù)載下,PCI總線速度太慢,因此Nvidia開發(fā)了一種專有互連,將兩個(gè)GPU(稱為NVLink)橋接在一起,從而繞過(guò)了PCI總線。在GTC18上,Nvidia首次推出了一項(xiàng)名為NVSwitch的創(chuàng)新技術(shù),該技術(shù)可使16個(gè)GPU通過(guò)高速結(jié)構(gòu)連接在一起。
在其主題演講中,首席執(zhí)行官黃仁勛展示了16種GPU系統(tǒng)之一,并開玩笑說(shuō)它是世界上最大的GPU,因?yàn)樗行У貏?chuàng)建了一個(gè)大型GPU。網(wǎng)絡(luò)專業(yè)人員會(huì)熟悉該架構(gòu),因?yàn)檫@種縱橫制交換矩陣被用作當(dāng)今大多數(shù)高速交換機(jī)的互連,因此被稱為NVSwtich。
CIO為什么要關(guān)心:企業(yè)必須分析的數(shù)據(jù)量只會(huì)增加。實(shí)際上,使用通用對(duì)抗網(wǎng)絡(luò)(GAN)可使機(jī)器生成自己的綜合數(shù)據(jù)。NVSwitch幫助組織將更多的GPU互連在一起,以便數(shù)據(jù)科學(xué)家可以處理更大,更復(fù)雜的數(shù)據(jù)集。
大約一年前,Nvidia推出了Tesla V100 GPU,它配備了16GB的HBM2內(nèi)存。該公司在GTC18大會(huì)上宣布將立即將總內(nèi)存增加一倍至32 GB。升級(jí)意味著Nvidia現(xiàn)在與其主要競(jìng)爭(zhēng)對(duì)手AMD處于內(nèi)存平價(jià)。V100的性能始終為同類AMD產(chǎn)品吹牛。但是,總內(nèi)存是它滯后的地方-現(xiàn)在它已經(jīng)縮小了差距。
-
NVIDIA
+關(guān)注
關(guān)注
14文章
5304瀏覽量
106323 -
gpu
+關(guān)注
關(guān)注
28文章
4938瀏覽量
131193 -
人工智能
+關(guān)注
關(guān)注
1806文章
48996瀏覽量
249201
發(fā)布評(píng)論請(qǐng)先 登錄
英偉達(dá)擬再推中國(guó)特供GPU,今年6月量產(chǎn)!
自然語(yǔ)言提示原型在英特爾Vision大會(huì)上首次亮相
新思科技亮相英偉達(dá)GTC 2025大會(huì)
羅德與施瓦茨與英偉達(dá)合作展示基于AI/ML的神經(jīng)接收器
英偉達(dá)GB300訂單配置初步敲定

加速拋棄英偉達(dá),微軟又發(fā)布一顆芯片 #微軟 #英偉達(dá) #半導(dǎo)體 #芯片 #電路知識(shí)
軟銀升級(jí)人工智能計(jì)算平臺(tái),安裝4000顆英偉達(dá)Hopper GPU
Inflection AI轉(zhuǎn)向英特爾Gaudi 3,放棄英偉達(dá)GPU
英偉達(dá)Blackwell GPU量產(chǎn)加速,Q4營(yíng)收沖刺百億美元大關(guān)
挑戰(zhàn)英偉達(dá):聚焦本土GPU領(lǐng)軍企業(yè)崛起
英偉達(dá)Blackwell可支持10萬(wàn)億參數(shù)模型AI訓(xùn)練,實(shí)時(shí)大語(yǔ)言模型推理
ARM進(jìn)軍GPU領(lǐng)域,挑戰(zhàn)英偉達(dá)與英特爾
英偉達(dá)或取消B100轉(zhuǎn)用B200A代替

評(píng)論