99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

贏麻了!英偉達(dá)發(fā)布史上最強(qiáng)“巨型GPU”,黃仁勛:CPU擴(kuò)張時(shí)代結(jié)束了

Hobby觀察 ? 來源:電子發(fā)燒友網(wǎng) ? 作者:梁浩斌 ? 2023-05-31 09:08 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報(bào)道(文/梁浩斌)今年英偉達(dá)可謂風(fēng)生水起,過去五個(gè)月市值增長近三倍,自上周四公布今年一季度財(cái)報(bào)以來,截至5月30日股價(jià)也飆漲27%,市值9632億美元,有望進(jìn)入萬億美元俱樂部。作為在這一輪生成式AI浪潮中的核心算力硬件供應(yīng)商,已經(jīng)“贏麻了”的英偉達(dá)并未有因此停下腳步,而是趁熱打鐵繼續(xù)推出驚人的算力硬件。

wKgaomR2nkKAC4AGAAYE7vCm_W4996.jpg
圖源:英偉達(dá)中國


英偉達(dá)CEO黃仁勛在周一的臺北Computex展上帶來了2小時(shí)的激情演講,發(fā)布上推出了GH200 Grace Hopper超級芯片,以及將多達(dá)256塊GH200超級芯片整合到一起的DGX GH200“巨型GPU”,同時(shí)還展示了一系列AI相關(guān)的應(yīng)用和產(chǎn)品。

黃仁勛表示:CPU擴(kuò)張的時(shí)代已經(jīng)結(jié)束了。

新計(jì)算時(shí)代:GPU買得越多,省得越多!

在這場2小時(shí)的演講開場,黃仁勛就提出了一個(gè)“暴論”,他表示“CPU擴(kuò)張的時(shí)代已經(jīng)結(jié)束了”。

加速計(jì)算和AI重塑計(jì)算機(jī)行業(yè)的當(dāng)下,從需要持續(xù)提升算力的數(shù)據(jù)中心可以看到,CPU的需求越來越少,而GPU的需求則不斷增長。黃仁勛認(rèn)為,如今的計(jì)算機(jī)是指數(shù)據(jù)中心、是指云服務(wù),與此同時(shí)可以為未來“計(jì)算機(jī)”編寫程序的程序員,如今將面臨行業(yè)的變革。

“我們已經(jīng)到達(dá)生成式AI的爆點(diǎn),從此世界的每一個(gè)角落,都會有計(jì)算需求?!痹谶@樣的計(jì)算需求背景下,計(jì)算的性價(jià)比也非常重要。黃仁勛舉了兩個(gè)例子證明GPU比CPU在AI計(jì)算時(shí)代更有優(yōu)勢:

在1000萬美元的成本下,可以用于建設(shè)一個(gè)有960顆CPU的數(shù)據(jù)中心,其中可以處理1X LLM(大語言模型)的數(shù)據(jù)量,同時(shí)需要消耗11GWh的能耗;同樣成本下,如果用于建設(shè)一個(gè)有48顆GPU的數(shù)據(jù)中心,不僅可以處理的LLM數(shù)據(jù)量是同成本CPU數(shù)據(jù)中心44倍,在功耗方面還能大幅降低至3.2GWh。

所以,黃仁勛不禁喊出了“The more you buy,The more you save”的口號,買GPU越多,你省下的錢也就越多。

強(qiáng)到離譜的GH200和DGX GH200

這次發(fā)布會上最重磅的產(chǎn)品無疑是GH200 Grace Hopper超級芯片,在發(fā)布會上,黃仁勛也公布了該款芯片的細(xì)節(jié)。GH200是基于NVIDIA NVLink-C2C互連技術(shù),將Arm架構(gòu)的NVIDIA Grace CPU和Hopper架構(gòu)的 GPU實(shí)現(xiàn)互聯(lián)整合,最終實(shí)現(xiàn)高達(dá)900GB/s的總帶寬,這相比傳統(tǒng)的PCIe 5.0通道帶寬要高出7倍,可以滿足需求最嚴(yán)苛的AI 和HPC應(yīng)用。

去年三月,英偉達(dá)在GTC大會上發(fā)布了基于Arm架構(gòu)的Grace CPU,這款CPU專為計(jì)算加速平臺設(shè)計(jì),擁有多達(dá)72個(gè)Armv9 CPU核心,緩存容量高達(dá)198MB,支持LPDDR5X ECC內(nèi)存,帶寬高達(dá)1TB/s,并支持NVLink-C2C和PCIe 5.0兩種互連協(xié)議。

同樣是在去年的GTC大會上,英偉達(dá)發(fā)布了基于Hopper架構(gòu)的全新H100 GPU,截至目前,H100依然是英偉達(dá)用于AI加速、HPC和數(shù)據(jù)分析等處理的最強(qiáng)GPU。

H100采用臺積電4nm定制工藝,擁有多達(dá)800億個(gè)晶體管,集成了18432個(gè)CUDA核心、576個(gè)Tenor核心、60MB二級緩存,并支持6144-bit位寬的HBM3/2e高帶寬內(nèi)存。

而GH200 Grace Hopper,就是將72核的Grace CPU和當(dāng)今世上最強(qiáng)的GPU H100,加上96GB的HBM3顯存、512GB的LPDDR5X內(nèi)存封裝在一起,集成到一片“超級芯片”上。

wKgZomR2nk6ABzyrAAnYC8xJtq4959.jpg
圖源:英偉達(dá)中國


黃仁勛將GH200 Grace Hopper形容為“這是一臺計(jì)算機(jī),而不是芯片”。同時(shí)他透露,GH200 Grace Hopper目前已經(jīng)全面投產(chǎn)。

如果GH200 Grace Hopper還不能滿足你的需求,英偉達(dá)還提供了一個(gè)由256個(gè)GH200 Grace Hopper組成的超級計(jì)算機(jī)系統(tǒng)——DGX GH200,而上一代的系統(tǒng)在不影響性能的前提下只能通過NVLink將8個(gè)GPU整合成一個(gè)系統(tǒng)。

那么DGX GH200是如何做到將256個(gè)GH200 Grace Hopper連接成一個(gè)系統(tǒng)?GH200 Grace Hopper和NVLink4.0、NVLink Switch System(交換機(jī)系統(tǒng))是組建DGX GH200的重點(diǎn)。NVLink交換機(jī)系統(tǒng)形成了一個(gè)兩級、無阻塞、胖樹NVLink結(jié)構(gòu),結(jié)合新的NVLink 4.0和第三代NV SWitch,英偉達(dá)可以用一個(gè)前所未有的高帶寬水平來構(gòu)建大規(guī)模NVLink交換機(jī)系統(tǒng)。通過計(jì)算節(jié)點(diǎn)外的交換機(jī)模塊,將最高256個(gè)計(jì)算節(jié)點(diǎn),也就是GPU連接為一個(gè)整體。

最終這個(gè)擁有256個(gè)GH200 Grace Hopper超級芯片的DGX GH200超級計(jì)算機(jī)能夠提供高達(dá)能夠提供1 Exaflop(百億億次)級別的性能、并具有144TB的共享內(nèi)存,內(nèi)容容量幾乎是上一代的500倍。

黃仁勛稱DGX GH200是“巨型GPU”,并預(yù)計(jì)DGX GH200將在今年年底開始供貨并投入使用,Google Cloud、Meta與微軟將會是首批能夠使用DGX GH200的公司。

除此之外,英偉達(dá)還在使用DGX GH200打造一個(gè)更大規(guī)模的超級計(jì)算機(jī),這款被稱為NVIDIA Helios的超級計(jì)算機(jī)將配備4個(gè)DGX GH200,通過英偉達(dá)的Quantum-2 InfiniBand交換機(jī)進(jìn)行互連。那么NVIDIA Helios將成為一個(gè)由1024個(gè)GH200 Grace Hopper超級芯片構(gòu)成的巨型AI計(jì)算系統(tǒng),這套系統(tǒng)也將會在今年年底啟用。

AI應(yīng)用遍地開花

發(fā)布會上,黃仁勛還宣布推出一種名為Avatar Cloud Engine(ACE)的AI模型代工服務(wù),這種模型主要應(yīng)用在游戲領(lǐng)域,可以為游戲開發(fā)人員提供訓(xùn)練模型,通過簡單的操作定制想要的游戲AI模型。

wKgaomR2nluATyrWAAFrbWnAHyU904.jpg
圖源:英偉達(dá)中國


在演示中,游戲玩家可以用自己的聲音與NPC角色進(jìn)行對話,由生成式AI加持的NPC,可以根據(jù)玩家的語音實(shí)時(shí)生成不同的回答,增強(qiáng)游戲的沉浸體驗(yàn)。

在內(nèi)容方面,英偉達(dá)目前正在與全球最大的廣告集團(tuán)WPP合作,開發(fā)一款利用NVIDIA Omniverse和AI的內(nèi)容引擎,以更高效地幫助創(chuàng)意團(tuán)隊(duì)制作高質(zhì)量商業(yè)內(nèi)容,并針對客戶的品牌產(chǎn)出不同的針對性內(nèi)容,這或許是AI顛覆廣告行業(yè)的一個(gè)嘗試。

除此之外,在工業(yè)領(lǐng)域,英偉達(dá)也正在用AI來幫助工業(yè)生產(chǎn)提高效率,比如用于模擬和測試機(jī)器人的英偉達(dá)Isaac Sim;用于自動光學(xué)檢測的英偉達(dá)Metropolis視覺AI框架;用于3D設(shè)計(jì)協(xié)作的英偉達(dá)Omniverse等。

黃仁勛表示,目前富士康工業(yè)互聯(lián)網(wǎng)、宜鼎國際、和碩、廣達(dá)、緯創(chuàng)等制造業(yè)巨頭都在使用英偉達(dá)的參考工作流程,比如構(gòu)建數(shù)字孿生、模擬協(xié)作機(jī)器人、檢測自動化等。

小結(jié):

今年AIGC發(fā)展速度超出所有人想象,近期甚至有調(diào)研機(jī)構(gòu)在一個(gè)半月之內(nèi)將今年AI服務(wù)器出貨量增長預(yù)期從15.4%提升至38.4%。毫無疑問,黃仁勛和他的英偉達(dá)是在這新一輪AI革命中最大的贏家。

截至5月30日18時(shí),英偉達(dá)盤前漲近4%,市值突破萬億美元,英偉達(dá)成為全球第一家市值破萬億美元的芯片公司。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • cpu
    cpu
    +關(guān)注

    關(guān)注

    68

    文章

    11066

    瀏覽量

    216617
  • 英偉達(dá)
    +關(guān)注

    關(guān)注

    22

    文章

    3935

    瀏覽量

    93429
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    中國行的背后,AI芯片暗戰(zhàn)與英偉達(dá)生存博弈

    電子發(fā)燒友網(wǎng)報(bào)道(文/黃山明)4月17日,英偉達(dá)創(chuàng)始人再次來到了中國,這也并非是他今年第一次來中國。早在1月下旬,
    的頭像 發(fā)表于 04-19 00:44 ?2648次閱讀

    英偉達(dá):我們要做巨型芯片!最強(qiáng)顯卡RTX 5090發(fā)布,汽車芯片Thor算力翻20倍

    電子發(fā)燒友網(wǎng)報(bào)道(文/莫婷婷)北京時(shí)間1月7日10:30,英偉達(dá)在CES 2025上舉辦主題演講,英偉達(dá)CEO
    的頭像 發(fā)表于 01-08 08:59 ?3577次閱讀
    <b class='flag-5'>英偉</b><b class='flag-5'>達(dá)</b><b class='flag-5'>黃</b><b class='flag-5'>仁</b><b class='flag-5'>勛</b>:我們要做<b class='flag-5'>巨型</b>芯片!<b class='flag-5'>最強(qiáng)</b>顯卡RTX 5090<b class='flag-5'>發(fā)布</b>,汽車芯片Thor算力翻20倍

    :不再將中國市場納入業(yè)績預(yù)測

    據(jù)外媒報(bào)道,在一次采訪時(shí)英偉達(dá)表示,由于美國芯片管制措施,英偉
    的頭像 發(fā)表于 06-13 14:29 ?962次閱讀

    :美對華芯片管制失敗,英偉達(dá)在華市占率暴跌

    電子發(fā)燒友網(wǎng)綜合報(bào)道 日前,英偉達(dá)首席執(zhí)行官表示,美國對中國人工智能芯片的出口管制是 “失敗的”。他指出,這一管制不僅未能阻擋中國在芯
    的頭像 發(fā)表于 05-23 01:06 ?2180次閱讀

    :人工智能將提高全球GDP 談中國AI市場未來規(guī)??蛇_(dá)500億美元

    的一舉一動都牽動著很多人的關(guān)注,比較英偉達(dá)在AI領(lǐng)域的號召力還是有目共睹的;我們來看看英偉
    的頭像 發(fā)表于 05-07 14:05 ?511次閱讀

    會見DeepSeek創(chuàng)始人梁文鋒

    4月17日英偉達(dá)公司首席執(zhí)行官應(yīng)中國貿(mào)促會的邀請抵達(dá)北京。這是
    的頭像 發(fā)表于 04-18 11:56 ?1453次閱讀

    時(shí)隔3個(gè)月再次到訪北京 :中國是英偉達(dá)非常重要的市場

    今天 (4月17日)英偉達(dá)公司首席執(zhí)行官應(yīng)中國貿(mào)促會的邀請抵達(dá)北京。這是
    的頭像 發(fā)表于 04-17 19:26 ?559次閱讀

    :我們正重新發(fā)明計(jì)算機(jī)

    近日,英偉達(dá)在北京舉辦了答謝迎春會,英偉達(dá)創(chuàng)始人兼CEO
    的頭像 發(fā)表于 01-21 10:08 ?406次閱讀

    英偉達(dá)中國員工近4000人,離職率極低

    辦公室為公司的全球業(yè)務(wù)提供強(qiáng)有力的支持。近年來,英偉達(dá)在中國招募大量優(yōu)秀的研究人員,他們在公司的創(chuàng)新和發(fā)展中發(fā)揮了重要作用。 值得一提的是,
    的頭像 發(fā)表于 01-20 14:56 ?698次閱讀

    英偉達(dá)CoWoS產(chǎn)能將大幅增加

    近日,英偉達(dá)公司CEO親臨硅品精密臺中潭子新廠,并發(fā)表一系列重要言論。
    的頭像 發(fā)表于 01-17 10:33 ?542次閱讀

    看點(diǎn):英偉達(dá)CEO本周訪華 俄羅斯再罰谷歌80億盧布 寒武紀(jì)發(fā)布業(yè)績預(yù)告

    給大家?guī)硪恍┬袠I(yè)資訊: 英偉達(dá)CEO本周訪華? 據(jù)彭博社報(bào)道,英偉
    的頭像 發(fā)表于 01-15 11:52 ?1437次閱讀

    宣布:豐田與英偉達(dá)攜手打造下一代自動駕駛汽車

    自動駕駛技術(shù)的研發(fā)上注入了新的活力。 表示,英偉達(dá)與豐田的合作將充分利用雙方在各自領(lǐng)域的優(yōu)勢,共同推動自動駕駛汽車技術(shù)的發(fā)展。
    的頭像 發(fā)表于 01-09 10:25 ?617次閱讀

    :英偉達(dá)正發(fā)起芯片革命 RTX5090售價(jià)1999美元

    ? 英偉達(dá)創(chuàng)始人、CEO在2025國際消費(fèi)電子展(CES)上發(fā)表開幕主題演講。英偉
    的頭像 發(fā)表于 01-07 17:56 ?1182次閱讀

    2025年CES展:英偉達(dá)CEO將發(fā)表演講并可能進(jìn)行HBM對談

    2025年美國消費(fèi)性電子展(CES)將于1月7日盛大開幕,全球圖形處理器(GPU)巨頭英偉達(dá)的首席執(zhí)行官
    的頭像 發(fā)表于 01-06 13:54 ?5617次閱讀

    6月至今套現(xiàn)約6億美元

    英偉達(dá)CEO近期再次成為市場關(guān)注的焦點(diǎn)。據(jù)美國證券交易委員會(SEC)最新披露的文件,
    的頭像 發(fā)表于 09-06 16:29 ?727次閱讀