99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線(xiàn)課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

浪潮AI服務(wù)器NF5488A5一舉創(chuàng)造18項(xiàng)性能紀(jì)錄

ss ? 來(lái)源:粵訊 ? 作者:粵訊 ? 2020-10-23 16:59 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

美國(guó)東部時(shí)間10月21日,全球備受矚目的權(quán)威AI基準(zhǔn)測(cè)試MLPerf公布今年的推理測(cè)試榜單,浪潮AI服務(wù)器NF5488A5一舉創(chuàng)造18項(xiàng)性能紀(jì)錄,在數(shù)據(jù)中心AI推理性能上遙遙領(lǐng)先其他廠商產(chǎn)品。

MLPerf是當(dāng)前全球最具影響力的AI計(jì)算基準(zhǔn)評(píng)測(cè)組織,由圖靈獎(jiǎng)得主大衛(wèi)·帕特森(David?Patterson)聯(lián)合谷歌、斯坦福、哈佛大學(xué)等單位共同成立,每年組織全球AI訓(xùn)練和AI推理性能測(cè)試并發(fā)榜。此次MLPerf的AI推理基準(zhǔn)測(cè)試有全球23家公司和單位參與,在數(shù)據(jù)中心及邊緣等場(chǎng)景進(jìn)行AI計(jì)算產(chǎn)品的性能比試。今年MLPerf訓(xùn)練榜單已于7月公布。

浪潮NF5488A5獲數(shù)據(jù)中心AI性能絕對(duì)優(yōu)勢(shì)

此次浪潮NF5488A5一舉創(chuàng)造18項(xiàng)MLPerf推理性能紀(jì)錄,成為創(chuàng)紀(jì)錄最多的AI服務(wù)器。今年的測(cè)試中,數(shù)據(jù)中心AI性能最受關(guān)注,全部參與機(jī)構(gòu)提交了507項(xiàng)性能測(cè)試數(shù)據(jù)。浪潮NF5488A5創(chuàng)下了數(shù)據(jù)中心22個(gè)賽項(xiàng)中的13項(xiàng)性能紀(jì)錄以絕對(duì)優(yōu)勢(shì)領(lǐng)先,NVIDIA DGX取得了5項(xiàng)數(shù)據(jù)中心性能紀(jì)錄。而在此前的MLPerf訓(xùn)練榜單中,NF5488A5在最核心的Resnet50訓(xùn)練任務(wù)中也創(chuàng)下了性能紀(jì)錄,單機(jī)性能高居榜首。

浪潮NF5488A5創(chuàng)造18項(xiàng)MLPerf推理性能紀(jì)錄

性能大幅提升3倍,全棧AI能力優(yōu)勢(shì)凸顯

在此次基準(zhǔn)測(cè)試中,浪潮AI服務(wù)器NF5488A5在開(kāi)放優(yōu)化(Open)和固定任務(wù)(Closed)的ResNet50基準(zhǔn)性能測(cè)試中,均表現(xiàn)優(yōu)異,相比2019年MLPerf推理榜單的服務(wù)器最好性能提升高達(dá)3倍。

MLPerf ResNet50推理性能2019 VS 2020對(duì)比

NF5488A5是浪潮自研的新一代AI服務(wù)器,是此次MLPerf全球競(jìng)賽中唯一可以在4U空間內(nèi)支持8塊安培架構(gòu)A100芯片實(shí)現(xiàn)NVLink高速互聯(lián)的AI服務(wù)器。浪潮NF5488A5在系統(tǒng)拓?fù)渖喜捎昧顺脱舆t設(shè)計(jì),支持PCIe 4.0全鏈路極致優(yōu)化,高頻通信單元采用一級(jí)拓?fù)渥罱B接,最大限度提升處理器到AI芯片間的通信性能。同時(shí),通過(guò)配置NUMA節(jié)點(diǎn),確保每顆處理器與其直連的GPU之間通信性能最優(yōu),最大限度降低通信延遲。此外,NF5488A5通過(guò)深度優(yōu)化系統(tǒng)結(jié)構(gòu)設(shè)計(jì),確保設(shè)備可在高溫環(huán)境下穩(wěn)定運(yùn)行。

本次基準(zhǔn)測(cè)試中,浪潮展示出了卓越的AI計(jì)算軟硬件協(xié)同優(yōu)化能力。在硬件層面,通過(guò)對(duì)CPU、GPU硬件性能的精細(xì)校準(zhǔn)和全面優(yōu)化,使CPU性能、GPU性能、CPU與GPU之間的數(shù)據(jù)通路均處于對(duì)AI推理最優(yōu)狀態(tài);在軟件層面,結(jié)合GPU硬件拓?fù)鋵?duì)多GPU的輪詢(xún)調(diào)度優(yōu)化使單卡至多卡性能達(dá)到了近似線(xiàn)性擴(kuò)展;在深度學(xué)習(xí)算法層面,結(jié)合GPU Tensor Core 單元的計(jì)算特征,通過(guò)自研通道壓縮算法成功實(shí)現(xiàn)了模型的極致性能優(yōu)化,在精度無(wú)損的情況下性能提升近2倍。

各服務(wù)器MLPerf AI推理性能對(duì)比(以浪潮NF5488A5為基準(zhǔn),越高越好)

浪潮是全球領(lǐng)先的AI計(jì)算領(lǐng)導(dǎo)廠商,其AI服務(wù)器在中國(guó)的市場(chǎng)份額已連續(xù)三年保持在50%以上。浪潮致力于AI計(jì)算平臺(tái)、資源平臺(tái)和算法平臺(tái)的研發(fā)創(chuàng)新,并通過(guò)元腦生態(tài)與AI領(lǐng)先企業(yè)共同推進(jìn)AI產(chǎn)業(yè)化和產(chǎn)業(yè)AI化進(jìn)程。

責(zé)任編輯:xj

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 服務(wù)器
    +關(guān)注

    關(guān)注

    13

    文章

    9795

    瀏覽量

    87975
  • 浪潮
    +關(guān)注

    關(guān)注

    1

    文章

    475

    瀏覽量

    24694
  • 數(shù)據(jù)中心
    +關(guān)注

    關(guān)注

    16

    文章

    5228

    瀏覽量

    73515
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35136

    瀏覽量

    279774
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    AI 服務(wù)器電源如何迭代升級(jí)?

    AI 算力需求增長(zhǎng)的今天,AI 服務(wù)器電源正陷入 “性能瓶頸與國(guó)產(chǎn)替代并行、場(chǎng)景適配與技術(shù)創(chuàng)新交織” 的雙重挑戰(zhàn)。 由Big-Bit商務(wù)網(wǎng)、廣東省磁性元器件行業(yè)協(xié)會(huì)主辦的2025中國(guó)
    的頭像 發(fā)表于 06-23 14:51 ?151次閱讀

    RAKsmart服務(wù)器如何賦能AI開(kāi)發(fā)與部署

    AI開(kāi)發(fā)與部署的復(fù)雜性不僅體現(xiàn)在算法設(shè)計(jì)層面,更依賴(lài)于底層基礎(chǔ)設(shè)施的支撐能力。RAKsmart服務(wù)器憑借其高性能硬件架構(gòu)、靈活的資源調(diào)度能力以及面向AI場(chǎng)景的深度優(yōu)化,正在成為企業(yè)突破
    的頭像 發(fā)表于 04-30 09:22 ?266次閱讀

    AI 推理服務(wù)器都有什么?2025年服務(wù)器品牌排行TOP10與選購(gòu)技巧

    根據(jù)行業(yè)數(shù)據(jù),AI推理服務(wù)器性能差異可以達(dá)到10倍以上。比如,用普通服務(wù)器個(gè)700億參數(shù)的大模型,可能需要30秒才能出結(jié)果,而用頂級(jí)
    的頭像 發(fā)表于 04-09 11:06 ?1049次閱讀
    <b class='flag-5'>AI</b> 推理<b class='flag-5'>服務(wù)器</b>都有什么?2025年<b class='flag-5'>服務(wù)器</b>品牌排行TOP10與選購(gòu)技巧

    利用RAKsmart服務(wù)器托管AI模型訓(xùn)練的優(yōu)勢(shì)

    AI模型訓(xùn)練需要強(qiáng)大的計(jì)算資源、高效的存儲(chǔ)和穩(wěn)定的網(wǎng)絡(luò)支持,這對(duì)服務(wù)器性能提出了較高要求。而RAKsmart服務(wù)器憑借其核心優(yōu)勢(shì),成為托管AI
    的頭像 發(fā)表于 03-18 10:08 ?262次閱讀

    大功率AI服務(wù)器PSU的革新之路

    在人工智能浪潮的席卷下,AI服務(wù)器作為支撐各類(lèi)復(fù)雜AI運(yùn)算的關(guān)鍵硬件,其電源(PSU)的性能表現(xiàn)成為了決定整個(gè)系統(tǒng)效能的重要因素。作為大功率
    的頭像 發(fā)表于 03-10 15:07 ?947次閱讀
    大功率<b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b>PSU的革新之路

    個(gè)頂倆,新單路反超老雙路! 元腦服務(wù)器NF3290G8翻倍刷新SPEC紀(jì)錄

    北京2025年3月3日?/美通社/ -- 日前,國(guó)際權(quán)威標(biāo)準(zhǔn)性能評(píng)測(cè)組織SPEC公布最新評(píng)測(cè)結(jié)果,浪潮信息元腦服務(wù)器第八代平臺(tái)產(chǎn)品NF3290G8刷新 SPEC CPU2017測(cè)試世界
    的頭像 發(fā)表于 03-03 17:01 ?408次閱讀
    <b class='flag-5'>一</b>個(gè)頂倆,新單路反超老雙路! 元腦<b class='flag-5'>服務(wù)器</b><b class='flag-5'>NF</b>3290G8翻倍刷新SPEC<b class='flag-5'>紀(jì)錄</b>

    仁懋MOS產(chǎn)品在AI服務(wù)器的應(yīng)用選型推薦及優(yōu)勢(shì)

    AI技術(shù)浪潮中,AI服務(wù)器是推動(dòng)智能應(yīng)用飛速發(fā)展的關(guān)鍵力量。而仁懋MOS產(chǎn)品,正以其卓越性能,成為AI
    的頭像 發(fā)表于 01-23 18:00 ?533次閱讀
    仁懋MOS產(chǎn)品在<b class='flag-5'>AI</b><b class='flag-5'>服務(wù)器</b>的應(yīng)用選型推薦及優(yōu)勢(shì)

    Jtti:新加坡服務(wù)器性能如何評(píng)估

    Jtti 新加坡服務(wù)器性能表現(xiàn)如下: 硬件配置 :Jtti新加坡服務(wù)器使用Intel Xeon E5-2660處理,這是高
    的頭像 發(fā)表于 12-19 15:15 ?512次閱讀

    NTP服務(wù)器性能優(yōu)化方法

    NTP(Network Time Protocol,網(wǎng)絡(luò)時(shí)間協(xié)議)服務(wù)器性能的優(yōu)化對(duì)于確保時(shí)間同步的準(zhǔn)確性和可靠性至關(guān)重要。以下是些NTP服務(wù)器
    的頭像 發(fā)表于 12-18 15:24 ?1192次閱讀

    特斯拉加大AI投資,緯創(chuàng)成AI服務(wù)器市場(chǎng)贏家

    近日,特斯拉宣布將全力沖刺AI投資,主要用于訓(xùn)練自動(dòng)駕駛系統(tǒng)。為實(shí)現(xiàn)這目標(biāo),特斯拉計(jì)劃在得州超級(jí)工廠大幅增加AI服務(wù)器的數(shù)量,從目前的2.9萬(wàn)組提升至
    的頭像 發(fā)表于 10-29 11:24 ?769次閱讀

    GPU高性能服務(wù)器配置

    GPU高性能服務(wù)器作為提升計(jì)算速度和效率的關(guān)鍵設(shè)備,在各大應(yīng)用場(chǎng)景中發(fā)揮著越來(lái)越重要的作用。在此,petacloud.ai小編為你介紹GPU高性能
    的頭像 發(fā)表于 10-21 10:42 ?862次閱讀

    服務(wù)器數(shù)據(jù)恢復(fù)—浪潮服務(wù)器硬盤(pán)指示燈亮黃燈的數(shù)據(jù)恢復(fù)案例

    服務(wù)器數(shù)據(jù)恢復(fù)環(huán)境: 臺(tái)浪潮服務(wù)器中有組由6塊SAS硬盤(pán)組建的RAID。服務(wù)器上劃分了1個(gè)
    的頭像 發(fā)表于 10-18 14:15 ?639次閱讀
    <b class='flag-5'>服務(wù)器</b>數(shù)據(jù)恢復(fù)—<b class='flag-5'>浪潮</b><b class='flag-5'>服務(wù)器</b>硬盤(pán)指示燈亮黃燈的數(shù)據(jù)恢復(fù)案例

    微軟Azure首獲英偉達(dá)GB200 AI服務(wù)器

    微軟Azure在社交平臺(tái)上宣布了一項(xiàng)重要進(jìn)展,公司已經(jīng)成功獲得了搭載英偉達(dá)最新GB200超級(jí)芯片的AI服務(wù)器。這一舉措使微軟Azure成為全球云服務(wù)
    的頭像 發(fā)表于 10-10 17:01 ?1036次閱讀

    什么是AI服務(wù)器?AI服務(wù)器的優(yōu)勢(shì)是什么?

    AI服務(wù)器種專(zhuān)門(mén)為人工智能應(yīng)用設(shè)計(jì)的服務(wù)器,它采用異構(gòu)形式的硬件架構(gòu),通常搭載GPU、FPGA、ASIC等加速芯片,利用CPU與加速芯片的組合來(lái)滿(mǎn)足高吞吐量互聯(lián)的需求,為自然語(yǔ)言處
    的頭像 發(fā)表于 09-21 11:43 ?2029次閱讀

    AI服務(wù)器:開(kāi)啟智能計(jì)算新時(shí)代

    、AI服務(wù)器的定義與特點(diǎn) AI服務(wù)器的定義 AI服務(wù)
    的頭像 發(fā)表于 08-09 16:08 ?1646次閱讀