99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

深度解析AI算力的現(xiàn)狀和趨勢

8g3K_AI_Thinker ? 來源:未知 ? 作者:胡薇 ? 2018-08-01 16:08 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

7 月 21 日,“決勝算力時代 ”AI 算力高端閉門分享會在北京天使匯極客咖啡舉辦。本次分享會由 CSDN 發(fā)起,由 CTO 俱樂部,深腦鏈、AI 科技大本營和區(qū)塊鏈大本營協(xié)辦。

分享會從 AI 算力的現(xiàn)狀和趨勢談起,并從硬件設(shè)計和算法優(yōu)化兩個層面切入,剖析算力提升的最新落地經(jīng)驗和誤區(qū),最后針對算力成本居高不下的普遍現(xiàn)狀,引入算力的新型協(xié)作方式---借用區(qū)塊鏈生態(tài)的分布式協(xié)作,大幅降低企業(yè)算力成本。

以下為嘉賓分享內(nèi)容簡介:

▌1. 國科大數(shù)據(jù)挖掘與高性能計算實驗室負(fù)責(zé)人劉瑩教授發(fā)表了題為《基于異構(gòu)并行計算的大數(shù)據(jù)分析與挖掘》的演講。

劉瑩教授提到,單 CPU 的發(fā)展已經(jīng)不能滿足實際應(yīng)用的需求,AI 時代必須要依靠并行計算。目前,并行計算的主流架構(gòu)是異構(gòu)并行計算平臺。除了科技巨頭和人工智能公司在做相關(guān)研究之外,她的團(tuán)隊也在做基于異構(gòu)并行環(huán)境的一些數(shù)據(jù)挖掘研究,也就是人工智能的一些算法,包括關(guān)聯(lián)規(guī)則、聚類到分類,而對于自動編碼機(jī),推薦算法他們也做了異構(gòu)并行資源,包含GPU集群上面的加速。

以協(xié)同過濾算法為例,它是一種非常重要的推薦系統(tǒng)算法,他們?yōu)榇嗽O(shè)計了兩個計算核,一個是計算相似度,一個是計算平均值,把這些核心計算全部都在 GPU 上進(jìn)行計算來加速算法。他們團(tuán)隊目前正在做的基于光學(xué)遙感圖像的艦船檢測與識別項目就是在 GPU 加速下完成的,建模時間比 CPU 的速度提升了 57 倍。

PPT鏈接:

https://img-bss.csdn.net/201807241705592588.pdf

▌2. 探智立方聯(lián)合創(chuàng)始人宋煜則介紹了 AutoML,講述了其計算力的需求的分析與展望。

他指出,AutoML 最核心的內(nèi)容就是用計算力和數(shù)學(xué)方法自動做數(shù)據(jù)特征提取以及模型建模。

AutoML 的整個過程需要大量的計算力,它對算力需求分為兩部分,第一部分是本身的模型評估,這與平時模型的訓(xùn)練類似。第二部分是模型搜索,所以模型的搜索過程可能是對最優(yōu)解分布的估計,在估計完之后,過程拿到的結(jié)果反過來會重新影響到參數(shù),重新對最優(yōu)解分布范圍重新做一次估計。

宋煜認(rèn)為,AutoML 的發(fā)展最重要的一點是,用矩陣表達(dá)計算圖結(jié)構(gòu)并且把所有圖操作變成矩陣運算,從而使得模型設(shè)計可以使用 blas 庫加速,以及針對特殊算法設(shè)計加速芯片。

▌3. PerfXLab澎峰科技聯(lián)合創(chuàng)始人張先軼分享了主題為《InferXLite:輕量級深度學(xué)習(xí)推理框架》的內(nèi)容。

張先軼介紹了 InferXLite 輕量級深度學(xué)習(xí)推理框架以及配套的底層性能加速庫。他們關(guān)注在嵌入式端側(cè)的部署,比如無人機(jī)智能攝像頭等。他主要從性能庫(BLAS、DNN庫等)和框架兩個維度講述了嵌入式 AI 性能優(yōu)化。

針對深度學(xué)習(xí)優(yōu)化,他們主要為了解決四個問題:GEMM Kernrl 優(yōu)化,包括 Neon 指令、預(yù)取距離參數(shù)、Unroll 參數(shù);GEMM Pack 函數(shù),Pack 函數(shù)優(yōu)化,盡量連續(xù)寫;并行化,需要細(xì)粒度切分;定點化,要實現(xiàn) int8 gemm。

PPT鏈接:

https://img-bss.csdn.net/201807241658331383.pdf

▌4. 深腦鏈 CEO 何永以《區(qū)塊鏈驅(qū)動的人工智能云計算平臺》為題作了分享。

由于爆炸增長的 AI 算力需求是目前制約人工智能發(fā)展的主要瓶頸,所以他談到了區(qū)塊鏈如何以分布式協(xié)作,將“挖礦”和 AI 訓(xùn)練結(jié)合在一起,將匯集閑散的算力用于 AI 訓(xùn)練中,以及如何將區(qū)塊鏈浪費資源的計算轉(zhuǎn)化為高效率的人工智能深度學(xué)習(xí),機(jī)器學(xué)習(xí)訓(xùn)練和區(qū)塊鏈計算挖礦。

何永認(rèn)為未來中心化的云計算可能會走向分步式的云計算,主要有以下兩個原因,第一是 GPU 很便宜,可以節(jié)省 70% 以上的成本??梢酝ㄟ^閑置資源再利用的方式,比如可以把資金拿出來,然后在生產(chǎn)鏈上使用,生產(chǎn)鏈就會提供便宜機(jī)器。其次區(qū)塊鏈在早期很多機(jī)器接入進(jìn)來,除了能夠整個生產(chǎn)力系統(tǒng)分配的獎勵之外,還可以獲得支付的算力,這兩部分組成了一個完整收入,不過這對一個使用算力的人來說費用其實很少,這就滿足了需求和供應(yīng)兩端的需求。

關(guān)于私密數(shù)據(jù)的問題,何永表示,訓(xùn)練數(shù)據(jù)都是在生產(chǎn)鏈之上,最終拿到模型,所以對于數(shù)據(jù)的提供方來說可以做隱私控制,最終可以拿到便宜的隱私數(shù)據(jù)。

為什么這些一定要通過區(qū)塊鏈技術(shù)來做?首先,區(qū)塊鏈技術(shù)是一個完全去中心化的技術(shù)。如果是中心化的系統(tǒng),如果服務(wù)器宕機(jī),整個服務(wù)系統(tǒng)就都不可用。第二就是代幣經(jīng)濟(jì)。使用機(jī)器的人付的代幣是直接的點對點支付,中間省去了利潤的剝奪過程。還有挖礦的經(jīng)濟(jì)機(jī)制,也就是早期即使沒有任何人使用,只要把機(jī)器接入進(jìn)來就可以給獎勵。第三是開源透明。第四是改變了經(jīng)濟(jì)關(guān)系。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35093

    瀏覽量

    279533
  • 區(qū)塊鏈
    +關(guān)注

    關(guān)注

    112

    文章

    15565

    瀏覽量

    108339

原文標(biāo)題:如何提升AI算力?他們這樣說......

文章出處:【微信號:AI_Thinker,微信公眾號:人工智能頭條】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    摩爾線程與AI平臺AutoDL達(dá)成深度合作

    近日,摩爾線程與國內(nèi)領(lǐng)先的AI平臺AutoDL宣布達(dá)成深度合作,雙方聯(lián)合推出面向個人開發(fā)者的“摩爾線程專區(qū)”,首次將國產(chǎn)GPU
    的頭像 發(fā)表于 05-23 16:10 ?767次閱讀

    邊緣AI MPU深度盤點:品牌、型號與技術(shù)特性全解析

    邊緣AI MPU深度盤點:品牌、型號與技術(shù)特性全解析 隨著邊緣計算與人工智能的深度融合,邊緣AI MPU(微處理器)已成為支撐物聯(lián)網(wǎng)、智能制
    的頭像 發(fā)表于 04-30 17:27 ?2252次閱讀

    6TOPSNPU加持!RK3588如何重塑8K顯示的邊緣計算新邊界

    與復(fù)雜運算。明遠(yuǎn)智睿推出的RK3588芯片,以6TOPS的NPU為核心,為這一難題提供了突破性的解決方案。 從硬件架構(gòu)來看,RK3588的NPU采用了先進(jìn)的神經(jīng)網(wǎng)絡(luò)處理器設(shè)計,支持多種主流深度學(xué)習(xí)
    發(fā)表于 04-18 15:32

    DeepSeek推動AI需求:800G光模塊的關(guān)鍵作用

    隨著人工智能技術(shù)的飛速發(fā)展,AI需求正以前所未有的速度增長。DeepSeek等大模型的訓(xùn)練與推理任務(wù)對的需求持續(xù)攀升,直接推動了服務(wù)
    發(fā)表于 03-25 12:00

    中興通訊在AI領(lǐng)域的創(chuàng)新實踐與深度思考

    近日,世界互聯(lián)網(wǎng)大會在巴塞羅那世界移動通信大會(MWC 25巴塞羅那)期間,舉辦了以 “打造融合、普惠、綠色的 AI 新生態(tài)” 為主題的AI
    的頭像 發(fā)表于 03-10 15:47 ?545次閱讀

    信而泰CCL仿真:解鎖AI極限,智中心網(wǎng)絡(luò)性能躍升之道

    中心RoCE網(wǎng)絡(luò)提供精準(zhǔn)評估方案,助力企業(yè)突破瓶頸,釋放AI澎湃動力! 什么是智中心 智中心(AIDC,Artificial Int
    的頭像 發(fā)表于 02-24 17:34 ?445次閱讀
    信而泰CCL仿真:解鎖<b class='flag-5'>AI</b><b class='flag-5'>算</b><b class='flag-5'>力</b>極限,智<b class='flag-5'>算</b>中心網(wǎng)絡(luò)性能躍升之道

    中心的如何衡量?

    作為當(dāng)下科技發(fā)展的重要基礎(chǔ)設(shè)施,其的衡量關(guān)乎其能否高效支撐人工智能、大數(shù)據(jù)分析等智能應(yīng)用的運行。以下是對智中心算衡量的詳細(xì)闡述:一、
    的頭像 發(fā)表于 01-16 14:03 ?2430次閱讀
    <b class='flag-5'>算</b>智<b class='flag-5'>算</b>中心的<b class='flag-5'>算</b><b class='flag-5'>力</b>如何衡量?

    企業(yè)AI租賃模式的好處

    構(gòu)建和維護(hù)一個高效、可擴(kuò)展的AI基礎(chǔ)設(shè)施,不僅需要巨額的初期投資,還涉及復(fù)雜的運維管理和持續(xù)的技術(shù)升級。而AI
    的頭像 發(fā)表于 12-24 10:49 ?1207次閱讀

    企業(yè)AI租賃是什么

    企業(yè)AI租賃是指企業(yè)通過互聯(lián)網(wǎng)向?qū)I(yè)的提供商租用所需的計算資源,以滿足其AI應(yīng)用的需求。
    的頭像 發(fā)表于 11-14 09:30 ?2400次閱讀

    AI時代的重要性及現(xiàn)狀:平衡發(fā)展與優(yōu)化配置的挑戰(zhàn)

    AI時代,扮演著至關(guān)重要的角色。如果說數(shù)據(jù)是AI大模型的“燃料”,那么則是其強(qiáng)大的“動
    的頭像 發(fā)表于 11-04 11:45 ?1148次閱讀

    GPU開發(fā)平臺是什么

    隨著AI技術(shù)的廣泛應(yīng)用,需求呈現(xiàn)出爆發(fā)式增長。AI租賃作為一種新興的服務(wù)模式,正逐漸成為
    的頭像 發(fā)表于 10-31 10:31 ?665次閱讀

    一文讀懂中心四大類型,深度解讀應(yīng)用與趨勢

    強(qiáng)大計算能力的核心設(shè)施,在推動科技創(chuàng)新、產(chǎn)業(yè)升級和社會發(fā)展中扮演著不可或缺的角色。本文將詳細(xì)解析中心的四大類型,并探討它們的最新發(fā)展與應(yīng)用。一、通用
    的頭像 發(fā)表于 10-17 08:05 ?2729次閱讀
    一文讀懂<b class='flag-5'>算</b><b class='flag-5'>力</b>中心四大類型,<b class='flag-5'>深度</b>解讀應(yīng)用與<b class='flag-5'>趨勢</b>

    大模型時代的需求

    現(xiàn)在AI已進(jìn)入大模型時代,各企業(yè)都爭相部署大模型,但如何保證大模型的,以及相關(guān)的穩(wěn)定性和性能,是一個極為重要的問題,帶著這個極為重要的問題,我需要在此書中找到答案。
    發(fā)表于 08-20 09:04

    中國中心市場持續(xù)增長,智能規(guī)??焖籴绕?/a>

    7月24日,中國信息通信研究院(簡稱“中國信通院”)權(quán)威發(fā)布了《中國中心服務(wù)商分析報告(2024年)》,該報告深入剖析了中國中心市場的現(xiàn)狀
    的頭像 發(fā)表于 07-24 15:25 ?1081次閱讀