99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

分布式架構(gòu)為AI工作負(fù)載提供有效的解決方案

王濤 ? 來源:秦小姐9048 ? 作者:秦小姐9048 ? 2022-07-22 08:06 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

人工智能AI) 在相對(duì)較短的時(shí)間內(nèi)從科幻小說變成了我們生活中不可或缺的一部分。當(dāng)您想到 AI 時(shí),您可能會(huì)想到能夠在國(guó)際象棋、圍棋或“危險(xiǎn)”中超越人類的自動(dòng)駕駛汽車或計(jì)算機(jī)?,F(xiàn)實(shí)情況是,你會(huì)發(fā)現(xiàn)人工智能應(yīng)用無處不在——在定制的谷歌新聞源、潘多拉播放列表、Netflix 推薦、智能揚(yáng)聲器語音識(shí)別、智能助手中的自然語言處理、車輛中的計(jì)算機(jī)視覺、智能工廠——還有無數(shù)更多的例子。當(dāng)您從亞馬遜購(gòu)物時(shí),機(jī)器學(xué)習(xí) (ML) 會(huì)在幕后工作,從提出購(gòu)買建議到將點(diǎn)擊發(fā)貨時(shí)間縮短到僅 15 分鐘。

隨著人工智能應(yīng)用程序?qū)οM(fèi)者越來越重要,數(shù)十億美元現(xiàn)在在商業(yè)世界中處于危險(xiǎn)之中。例如,97% 的手機(jī)用戶使用人工智能語音助手。Siri 或 Cortana 誤解的語音命令對(duì)我們來說可能是一個(gè)小麻煩,但在語音助手市場(chǎng)上的失敗代表了蘋果、亞馬遜和谷歌之間的競(jìng)爭(zhēng)中損失了數(shù)十億美元的份額 。還有更嚴(yán)重的挑戰(zhàn)——錯(cuò)誤的自動(dòng)駕駛算法或醫(yī)療保健行業(yè)的誤診可能導(dǎo)致致命后果和法律影響。

讓 AI 結(jié)果具有相關(guān)性、可靠性和易于獲得性是一場(chǎng)競(jìng)賽。只有那些在最好的機(jī)器/深度學(xué)習(xí)基礎(chǔ)設(shè)施上訓(xùn)練過的人工智能模型,來自最大的數(shù)據(jù)集,才能生存下來。

ML/深度學(xué)習(xí):不是您的平均計(jì)算工作量

機(jī)器學(xué)習(xí)——尤其是它的子集——深度學(xué)習(xí)系統(tǒng)——構(gòu)成了人工智能基礎(chǔ)設(shè)施的基礎(chǔ)。拋開復(fù)雜的數(shù)學(xué)問題不談,最簡(jiǎn)單的 ML 算法通過對(duì)答案進(jìn)行重復(fù)“猜測(cè)”來實(shí)現(xiàn)一個(gè)目標(biāo)(例如,成功識(shí)別手寫符號(hào)),并通過檢查預(yù)期答案來從每個(gè)不準(zhǔn)確的猜測(cè)中學(xué)習(xí),直到猜測(cè)以非常高的準(zhǔn)確度匹配預(yù)期的答案。這種反饋結(jié)構(gòu)稱為神經(jīng)網(wǎng)絡(luò),訓(xùn)練神經(jīng)網(wǎng)絡(luò)是機(jī)器/深度學(xué)習(xí)的過程。圖 1 顯示了一個(gè)用于手寫識(shí)別的相對(duì)簡(jiǎn)單的神經(jīng)網(wǎng)絡(luò)示例。

圖1 用于手寫識(shí)別的神經(jīng)網(wǎng)絡(luò)示例[6]

深度神經(jīng)網(wǎng)絡(luò)使用更多層來獲得復(fù)雜目標(biāo)的準(zhǔn)確答案。深度學(xué)習(xí)過程使用不斷增加的訓(xùn)練數(shù)據(jù)集來訓(xùn)練深度神經(jīng)網(wǎng)絡(luò)。目標(biāo)越復(fù)雜,神經(jīng)網(wǎng)絡(luò)中的層數(shù)就越多,神經(jīng)網(wǎng)絡(luò)就越難訓(xùn)練。例如,百度的中文語音識(shí)別模型使用約 12,000 小時(shí)的語音訓(xùn)練數(shù)據(jù),需要數(shù)十 exaflops 的計(jì)算,這需要長(zhǎng)達(dá)六周的時(shí)間才能完成。圖像識(shí)別工作負(fù)載的計(jì)算要求呈指數(shù)級(jí)增長(zhǎng)。

傳統(tǒng)的中央處理器CPU) 專為通用控制數(shù)據(jù)流而設(shè)計(jì),對(duì)于 AI/ML 計(jì)算密集型工作負(fù)載效率不高。由于摩爾定律失效,供應(yīng)商無法跟上 CPU 的速度或大到足以處理 AI/ML 工作負(fù)載的速度。

分布式機(jī)器學(xué)習(xí):摩爾定律的治愈方法

設(shè)計(jì)用于處理 AI/ML 工作負(fù)載的現(xiàn)代服務(wù)器遵循分散式架構(gòu) - 一個(gè)由多個(gè)專用加速器包圍的通用 CPU,用于處理從 ML 到加密、安全、存儲(chǔ)和網(wǎng)絡(luò)的任務(wù)。加速器可以是圖形處理單元 (GPU)、定制的現(xiàn)場(chǎng)可編程門陣列 (FPGA) 或定制的專用集成電路的組合。開放計(jì)算項(xiàng)目 (OCP) [10] 最近發(fā)布了 OCP 加速器模塊 (OAM)的通用外形規(guī)格,以簡(jiǎn)化服務(wù)器設(shè)計(jì)并實(shí)現(xiàn)模塊化服務(wù)器架構(gòu)。

分散式架構(gòu)通過使用多個(gè)優(yōu)化的數(shù)據(jù)處理器提供原始 exaflops。然而,為了實(shí)現(xiàn)更大規(guī)模的機(jī)器學(xué)習(xí),處理單元需要相互充分連接。在 2018 年分布式計(jì)算原理研討會(huì)上的演講展示了使用 TensorFlow在 ResNet-152 圖像分類方面的速度提高了近 10 倍。

圖 2中顯示的 ResNet-152 圖像分類示例 還強(qiáng)調(diào)了連接性在現(xiàn)代高度分布式機(jī)器學(xué)習(xí)系統(tǒng)中的重要性,其中多達(dá) 90% 的時(shí)間可能用于節(jié)點(diǎn)通信。

圖 2 分布式機(jī)器學(xué)習(xí)的好處 - 19 天到 2.4 天

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35164

    瀏覽量

    280003
  • 機(jī)器學(xué)習(xí)

    關(guān)注

    66

    文章

    8503

    瀏覽量

    134630
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    分布式光伏發(fā)電監(jiān)控系統(tǒng)

    對(duì)高、低壓并網(wǎng)分布式光伏電站的升壓系統(tǒng)、光伏逆變器等設(shè)備進(jìn)行全面監(jiān)控,采集微機(jī)保護(hù)裝置、自動(dòng)控制設(shè)備、電能質(zhì)量監(jiān)測(cè)裝置、光伏逆變器、一體化電源等設(shè)備數(shù)據(jù),并提供有功功率控制(AGC)、電壓無功綜合
    的頭像 發(fā)表于 06-25 13:41 ?113次閱讀
    <b class='flag-5'>分布式</b>光伏發(fā)電監(jiān)控系統(tǒng)

    基于RAKsmart云服務(wù)器的AI大模型實(shí)時(shí)推理方案設(shè)計(jì)

    面對(duì)高并發(fā)請(qǐng)求、嚴(yán)格的響應(yīng)延遲要求及波動(dòng)的業(yè)務(wù)負(fù)載,傳統(tǒng)本地化部署的算力瓶頸愈發(fā)顯著。RAKsmart云服務(wù)器憑借其彈性計(jì)算資源池、分布式網(wǎng)絡(luò)架構(gòu)與全棧AI加速能力,
    的頭像 發(fā)表于 05-13 10:33 ?235次閱讀

    安科瑞分布式光伏監(jiān)控系統(tǒng):高效、安全、智能的綠色能源解決方案

    ?并網(wǎng)標(biāo)準(zhǔn)如何滿足?運(yùn)維成本如何降低?安科瑞電氣股份有限公司憑借多年行業(yè)經(jīng)驗(yàn),創(chuàng)新推出Acrel-1000DP分布式光伏監(jiān)控系統(tǒng),光伏電站提供全生命周期解決方案。 一、
    的頭像 發(fā)表于 05-08 16:40 ?263次閱讀

    訊維AI分布式系統(tǒng)的十大優(yōu)勢(shì)

    在數(shù)字化轉(zhuǎn)型浪潮中,音視頻技術(shù)正從傳統(tǒng)的信號(hào)傳輸工具演變?yōu)橹悄芙换サ暮诵妮d體。訊維AI分布式系統(tǒng)通過與AI技術(shù)的深度融合,構(gòu)建了"去中心化架構(gòu)+AI
    的頭像 發(fā)表于 04-15 14:53 ?558次閱讀

    CyberArk推出業(yè)內(nèi)首款機(jī)器身份安全解決方案各種環(huán)境下的工作負(fù)載提供安全保障

    CyberArk (NASDAQ: CYBR)是身份安全領(lǐng)域的全球領(lǐng)導(dǎo)者。該公司今日宣布推出CyberArk安全工作負(fù)載訪問解決方案 1,所有重要的非人類身份
    的頭像 發(fā)表于 04-14 10:49 ?235次閱讀

    適用于數(shù)據(jù)中心和AI時(shí)代的800G網(wǎng)絡(luò)

    和性能隔離能力,以保障不同用戶任務(wù)互不干擾。 分布式AI計(jì)算與網(wǎng)絡(luò)架構(gòu)設(shè)計(jì) 分布式計(jì)算已成為AI訓(xùn)練的主流方式,通過將
    發(fā)表于 03-25 17:35

    鐵塔基站分布式儲(chǔ)能揭秘!

    的正常運(yùn)轉(zhuǎn)。為了解決這些問題,安科瑞推出了基站鐵塔分布式儲(chǔ)能解決方案,基站的穩(wěn)定供電提供了可靠的保障。 一、什么是基站鐵塔分布式儲(chǔ)能? 基
    的頭像 發(fā)表于 02-12 16:42 ?763次閱讀
    鐵塔基站<b class='flag-5'>分布式</b>儲(chǔ)能揭秘!

    基于ptp的分布式系統(tǒng)設(shè)計(jì)

    。 PTP概述 PTP是一種網(wǎng)絡(luò)時(shí)間同步協(xié)議,它允許網(wǎng)絡(luò)中的設(shè)備同步它們的時(shí)鐘。PTP基于IEEE 1588標(biāo)準(zhǔn),旨在提供亞微秒級(jí)別的時(shí)間同步精度。PTP通過在網(wǎng)絡(luò)中傳播時(shí)間信息,并使用這些信息來校正本地時(shí)鐘,從而實(shí)現(xiàn)精確的時(shí)間同步。 系統(tǒng)架構(gòu) 基于PTP的
    的頭像 發(fā)表于 12-29 10:09 ?568次閱讀

    分布式、域控及SOA架構(gòu)車身功能測(cè)試方案

    北匯信息推出分布式、域控以及SOA架構(gòu)的車身功能測(cè)試解決方案,支持在實(shí)驗(yàn)室環(huán)境下完成車身單部件、系統(tǒng)級(jí)功能自動(dòng)化測(cè)試,可以極大地提升車身功能的可靠性和穩(wěn)定性。
    的頭像 發(fā)表于 12-27 09:05 ?2705次閱讀
    <b class='flag-5'>分布式</b>、域控及SOA<b class='flag-5'>架構(gòu)</b>車身功能測(cè)試<b class='flag-5'>方案</b>

    分布式光伏企業(yè)帶來哪些便捷!

    光伏開發(fā)試點(diǎn)方案的通知》中指出:“加快推進(jìn)屋頂分布式光伏發(fā)展,擬在全國(guó)組織開展整縣(市、區(qū))推進(jìn)屋頂分布式光伏開發(fā)試點(diǎn)工作”? 一,行業(yè)痛
    的頭像 發(fā)表于 11-18 15:34 ?739次閱讀
    <b class='flag-5'>分布式</b>光伏<b class='flag-5'>為</b>企業(yè)帶來哪些便捷!

    分布式光纖測(cè)溫解決方案

    分布式光纖測(cè)溫解決方案
    的頭像 發(fā)表于 11-12 01:02 ?565次閱讀
    <b class='flag-5'>分布式</b>光纖測(cè)溫<b class='flag-5'>解決方案</b>

    NVIDIA SuperNIC推進(jìn)現(xiàn)代AI基礎(chǔ)設(shè)施發(fā)展

    在生成 AI 時(shí)代,加速網(wǎng)絡(luò)對(duì)于大規(guī)模分布式 AI 工作
    的頭像 發(fā)表于 11-06 13:59 ?789次閱讀

    一文講清什么是分布式云化數(shù)據(jù)庫!

    分布式云化數(shù)據(jù)庫是一種先進(jìn)的數(shù)據(jù)管理系統(tǒng),它將傳統(tǒng)的數(shù)據(jù)庫技術(shù)與分布式計(jì)算、云計(jì)算和大數(shù)據(jù)處理技術(shù)相融合。這種數(shù)據(jù)庫架構(gòu)旨在提供高可用性、高擴(kuò)展性和高性能的數(shù)據(jù)存儲(chǔ)
    的頭像 發(fā)表于 10-14 10:06 ?482次閱讀

    基于分布式存儲(chǔ)系統(tǒng)醫(yī)療影像數(shù)據(jù)存儲(chǔ)解決方案

    基于分布式存儲(chǔ)系統(tǒng)醫(yī)療影像數(shù)據(jù)存儲(chǔ)解決方案
    的頭像 發(fā)表于 09-14 09:53 ?694次閱讀
    基于<b class='flag-5'>分布式</b>存儲(chǔ)系統(tǒng)醫(yī)療影像數(shù)據(jù)存儲(chǔ)<b class='flag-5'>解決方案</b>

    醫(yī)療PACS影像數(shù)據(jù)的極速分布式塊存儲(chǔ)解決方案

    醫(yī)療PACS影像數(shù)據(jù)的極速分布式塊存儲(chǔ)解決方案
    的頭像 發(fā)表于 08-23 10:13 ?745次閱讀
    醫(yī)療PACS影像數(shù)據(jù)的極速<b class='flag-5'>分布式</b>塊存儲(chǔ)<b class='flag-5'>解決方案</b>