99精品伊人亚洲|最近国产中文炮友|九草在线视频支援|AV网站大全最新|美女黄片免费观看|国产精品资源视频|精彩无码视频一区|91大神在线后入|伊人终合在线播放|久草综合久久中文

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

張亞勤:不太完全認(rèn)同算力比算法更重要的觀點(diǎn)

工程師鄧生 ? 來源:新浪科技 ? 作者:新浪科技 ? 2020-11-24 14:23 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

11月24日午間消息,世界互聯(lián)網(wǎng)大會·互聯(lián)網(wǎng)發(fā)展論壇于11月23-24日在浙江烏鎮(zhèn)互聯(lián)網(wǎng)國際會展中心舉行。在24日的“人工智能:育新機(jī)、開新局”人工智能論壇上,清華大學(xué)講席教授兼智能產(chǎn)業(yè)研究院院長、美國藝術(shù)與科學(xué)院院士張亞勤在演講中表示,不太完全認(rèn)同算力比算法更重要的觀點(diǎn)。

他表示,這次數(shù)字化和過去那兩次有很大的不同。首先是量高了很多數(shù)量級,比如說無人車每天所產(chǎn)生的數(shù)據(jù)就是5到10個T。基因測序每一次就差不多3T左右。所以這個數(shù)量級是高了很多,可能是上千或者上萬倍?!斑@次數(shù)據(jù)更多的是給機(jī)器看的,而不是給人看的。機(jī)器要做決策,機(jī)器要進(jìn)行更多的智能決策。那么過去1.0、2.0更多是給人所看的,同時我們看到人工智能的算法有很大的進(jìn)展。”

張亞勤強(qiáng)調(diào),深度學(xué)習(xí)其實(shí)是需要很強(qiáng)很強(qiáng)的算力。而摩爾定律過去兩年左右是要雙倍算力的,其實(shí)這已經(jīng)是在放緩了。但是深度學(xué)習(xí)對算力要求每年差不多是將近10倍的增長。“所以說Jeff dean在谷歌就說三要素,數(shù)據(jù)算法算力三要素等于數(shù)據(jù)加上100倍算力,就是說算力比算法更重要。我個人并不完全同意這個觀點(diǎn)。”張亞勤表示,算力在過去這幾年是整個深度學(xué)習(xí)發(fā)展快速的一個大的最重要的因素,大數(shù)據(jù)超算的能力以及很大的模型。但人工智能有很多不同的算法。

不過,張亞勤同意“AI也催生了新的產(chǎn)業(yè),大家經(jīng)常把它叫做第四次工業(yè)革命”這個觀點(diǎn)。他表示,人工智能是第四次工業(yè)革命一個很重要的技術(shù)方面的引擎,很多產(chǎn)業(yè)都會被改變,都會產(chǎn)生。他認(rèn)為有三個方面會產(chǎn)生變革:第一個是自動駕駛。第二個是工業(yè)物聯(lián)網(wǎng)。第三個是AI+醫(yī)療、生物計算。(子?。?/p>

以下是張亞勤演講實(shí)錄:

大家好,我是張亞勤,來自清華大學(xué)智能產(chǎn)業(yè)研究院。很高興參加這次人工智能的互聯(lián)網(wǎng)峰會,也感謝大會的組委會和網(wǎng)信辦邀請。我今天想談一下智能技術(shù)發(fā)展的一些趨勢,如果看下過去的三十年,我們整個IT產(chǎn)業(yè)發(fā)生最重要的事無疑是數(shù)字化。第一波的數(shù)字化是80年代中期是就開始了,那時候主要是內(nèi)容數(shù)字化,我們聲音、音樂、圖片和視頻大量的數(shù)字化,我們的文檔在數(shù)字化。

第二波的數(shù)字化是90年代中期開啟了,一開始是企業(yè)的數(shù)字化ERP、CRM、Supply Chain,還包括BI工作流,后來就是大型的數(shù)據(jù)倉庫以及云計算,同時由于大量的數(shù)字內(nèi)容,加上HTML、HTTP,消費(fèi)互聯(lián)網(wǎng)開始爆發(fā),到了后期移動互聯(lián)網(wǎng)像移動支付、數(shù)字貨幣、共享經(jīng)濟(jì),中國其實(shí)是走在前列的。不管是用戶的體驗(yàn)或者是大規(guī)模的應(yīng)用。

我們現(xiàn)在是進(jìn)入數(shù)字化的3.0。它是信息,物理和生物世界的一種融合。首先是物理世界的數(shù)字化,我們的車、街道、交通燈和整個城市在數(shù)字化;我們的電網(wǎng),我們的工廠,我們的機(jī)器在數(shù)字化;我們的家庭,各種家電在數(shù)字化;同時生物世界也在數(shù)字化;我們的大腦,身體各個器官DNA、RNA、蛋白質(zhì)都在數(shù)字化,通過新的傳感器,一些芯片。

那么這次數(shù)字化和過去那兩次有很大的不同。首先是量高了很多數(shù)量級,比如說無人車每天所產(chǎn)生的數(shù)據(jù)就是5到10個T。我們的基因測序每一次就差不多3T左右。所以這個數(shù)量級是高了很多,可能是上千或者上萬倍。

另外一點(diǎn)這次數(shù)據(jù)更多的是給機(jī)器看的,而不是給人看的。機(jī)器要做決策,機(jī)器要進(jìn)行更多的智能決策。那么過去1.0、2.0更多是給人所看的,同時我們看到人工智能的算法有很大的進(jìn)展。人工智能并不是一個嶄新的概念,已經(jīng)有60多年的歷史了。那么從早期的符號,邏輯推理,專家系統(tǒng),數(shù)據(jù)來驅(qū)動,到過去這10年,特別是過去這5年機(jī)器學(xué)習(xí),深度學(xué)習(xí)的快速崛起。我們可以看到許多特別令人興奮的一些進(jìn)展以及應(yīng)用到AlphaGO、AlphaGOZero。到后來的AlphaFold把深度學(xué)習(xí)用在不同的領(lǐng)域,特別用到生物計算和醫(yī)藥的領(lǐng)域。

其實(shí)人工智能有很多不同的算法,我這是佩德羅?多明戈斯劃分的5個不同學(xué)派,未來發(fā)展肯定要融合這些不同學(xué)派的優(yōu)勢,使得我們目前用大數(shù)據(jù)所驅(qū)動的深度學(xué)習(xí)有更好的透明性、好的應(yīng)用性以及有更好的可解釋性。

那么深度學(xué)習(xí)確實(shí)取得很大的進(jìn)展,算法從RNN、LSTM到CNN,到過去這兩年的GAN和BERT還有GPT-3,可以說從我們感知方面語音、人臉、物體的分類,已經(jīng)和人達(dá)到同樣的水平,甚至超過人了。

那么在認(rèn)證方面還有一些距離,自然語言處理,機(jī)器翻譯視頻內(nèi)容化和知識理解還有一定距離,但是也有很大的進(jìn)展。但是深度學(xué)習(xí)我們大家都知道,它其實(shí)是需要很強(qiáng)很強(qiáng)的算力的。摩爾定律過去兩年左右是要雙倍算力的,其實(shí)這已經(jīng)是在放緩了。但是深度學(xué)習(xí)對算力要求每年差不多是將近10倍的增長,所以說Jeff dean的谷歌就說三要素,數(shù)據(jù)算法算力三要素等于數(shù)據(jù)加上100倍算力,就是說算力比算法更重要。

我個人并不完全同意這個觀點(diǎn),但是不管怎么講算力在過去這幾年是整個深度學(xué)習(xí)發(fā)展快速的一個大的最重要的因素,大數(shù)據(jù)超算的能力以及很大的模型。舉例比如說GPT-3目前已經(jīng)有1700億的參數(shù)模型有上萬臺GPU,200多K或者說20多萬的CPU的Core。每次做Pre-train的話也要差不多要上千萬美金,這個量已經(jīng)很大了。那么如何能夠繼續(xù)保持這么快的一個算力?我們看一下我們在傳統(tǒng)計算和通訊的范式里三個基本原理。

首先是香農(nóng)定律。香農(nóng)定律定義了信息熵,定義了信道的容量,定義了速率失真的理論。其實(shí)是三個不同的極限。另外一個是馮諾依曼架構(gòu),是我們計算的架構(gòu),十分的簡潔很美的一個架構(gòu)。過去的60年是我們整個計算架構(gòu)的主要原則。另外一個是摩爾定律。

那么現(xiàn)在呢這三個定律架構(gòu)都遇到了瓶頸,所以要大幅度的提高這個算力的話,我們需要來突破這三個瓶頸。比如說在信息的表示方面,我們需要有新的一個理論框架以及算法。我這張圖是講的一個例子。最近有一個機(jī)構(gòu)叫MPAI,這個機(jī)構(gòu)就希望把人工智能算法用到我們目前的信息的表征,同時的話又希望找到新的算法來對人工智能有更快的推進(jìn)。

另外一點(diǎn)也可以看到最近有許多新的創(chuàng)新在計算的架構(gòu)方面。在通訊的架構(gòu)方面,比如說我們深度學(xué)習(xí),其實(shí)它需要有特別高速的數(shù)據(jù)傳輸,他們有一些新的相量,需要有先進(jìn)代數(shù),有波爾代數(shù),這種優(yōu)化的這些算法。這個和我們現(xiàn)在傳統(tǒng)的馮諾依曼架構(gòu)是格格不入的,就是需要有新的架構(gòu)。

所以看到我們比如說有,在過去這5年吧,有很多加速器,就是AI的加速器出現(xiàn),像SPG、GPU,最近幾年也有這種ASIC專用的AI芯片出現(xiàn),這種芯片因?yàn)閷@些算法,對工作流,對workload可以提高CPU提高很多倍,從整個的性能、效率來講。

那么同時也可以看到不僅僅是傳統(tǒng)的芯片公司,像因特爾、AMD等公司做芯片,現(xiàn)在新的公司也在不斷的創(chuàng)新,比如說寒武紀(jì)、地平線,華為,也包括其他公司像谷歌和百度也在自己做芯片。做芯片算法也好,架構(gòu)也好有很大的工作流,所以他可以對這些進(jìn)行優(yōu)化。

我們可以看到有很多很多的這些芯片、軟件、架構(gòu)以及算法方面的快速進(jìn)展。那么這些進(jìn)展帶來很多產(chǎn)業(yè)的新機(jī)遇。首先對我們IT的產(chǎn)業(yè)有一個提升的作用,新的數(shù)據(jù),新的算法,新的場景,然后不斷的快速迭代,所以提升我們的IT產(chǎn)業(yè),同時更重要的是改變甚至顛復(fù)我們現(xiàn)在的傳統(tǒng)產(chǎn)業(yè),教育、醫(yī)療、金融、制造、交通,可以說每一個產(chǎn)業(yè)都被人工智能所改變。

同時AI也催生了新的產(chǎn)業(yè),大家經(jīng)常把它叫做第四次工業(yè)革命,我的確同意這個觀點(diǎn)。就是人工智能是第四次工業(yè)革命一個很重要的技術(shù)方面的引擎,很多產(chǎn)業(yè)都會被改變,都會產(chǎn)生。我自己認(rèn)為有三個方面是比較感興趣的:第一個是自動駕駛。第二個是工業(yè)物聯(lián)網(wǎng)。第三個是AI+醫(yī)療、生物計算。當(dāng)然也很有很多很多別的產(chǎn)業(yè),這也是為什么我們成立了一個智能產(chǎn)業(yè)研究院的大背景。這當(dāng)然是在清華大學(xué)整個學(xué)校大框架下面,因?yàn)榭梢院颓迦A大學(xué)各個院系密切合作,智能產(chǎn)業(yè)的英文簡稱(AIR),使命是用人工智能技術(shù)賦能產(chǎn)業(yè)推動社會的進(jìn)步,目標(biāo)是面向第四次工業(yè)革命,是一個國際化,智能化,產(chǎn)業(yè)化的應(yīng)用研究機(jī)構(gòu)。實(shí)現(xiàn)這個目標(biāo)有幾個戰(zhàn)略:首先是要吸引培養(yǎng)國際視野的技術(shù)領(lǐng)軍人物。第二點(diǎn)是要實(shí)現(xiàn)關(guān)鍵核心技術(shù)方面的突破,更重要的是有了技術(shù)以后,我們要賦能產(chǎn)業(yè),通過轉(zhuǎn)化孵化公司的方式,把這些技術(shù)能夠?qū)Ξa(chǎn)業(yè)有更多的影響力。所以我們的研究領(lǐng)域目前集中在三個方面。

剛才我提到的三個方面:智能交通、工業(yè)互聯(lián)網(wǎng)、AI+IoT以及智慧醫(yī)療AI+IoT,特別是生物計算,那么垂直的這三個行業(yè)是對一些基礎(chǔ)的平臺所支撐的共有模塊所支撐,叫做“ABCD”。AI的一些算法、Big data的模型加上云Cloud和Device這種新機(jī)構(gòu)。我希望通過我們的研究院新的技術(shù)能和產(chǎn)業(yè)去合作,對中國和全球人工智能產(chǎn)業(yè),第四次工業(yè)革命都做出貢獻(xiàn)。謝謝大家,祝我們?yōu)蹑?zhèn)互聯(lián)網(wǎng)峰會圓滿成功!

責(zé)任編輯:PSY

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 算法
    +關(guān)注

    關(guān)注

    23

    文章

    4709

    瀏覽量

    95353
  • 人工智能
    +關(guān)注

    關(guān)注

    1806

    文章

    49008

    瀏覽量

    249324
  • 工業(yè)物聯(lián)網(wǎng)

    關(guān)注

    25

    文章

    2444

    瀏覽量

    66219
  • 自動駕駛
    +關(guān)注

    關(guān)注

    789

    文章

    14314

    瀏覽量

    170585
  • 算力
    +關(guān)注

    關(guān)注

    2

    文章

    1193

    瀏覽量

    15645
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    熱插拔集群

    能力? 服務(wù)器節(jié)點(diǎn)熱插拔?:集群服務(wù)器支持在線更換計算節(jié)點(diǎn)(如2U服務(wù)器容納12個熱插拔AI節(jié)點(diǎn),單節(jié)點(diǎn)集成5個卡)。 GPU/卡擴(kuò)展?:支持多張GPU卡熱插拔(如單服務(wù)器可擴(kuò)
    的頭像 發(fā)表于 06-26 09:20 ?181次閱讀

    即國力,克電池如何為AI時代“蓄能

    引擎》中明確提出,“是數(shù)字經(jīng)濟(jì)時代的新質(zhì)生產(chǎn),更是國家競爭重要指標(biāo)?!彪S著AI大模型訓(xùn)練
    的頭像 發(fā)表于 06-04 14:22 ?410次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>即國力,<b class='flag-5'>比</b>克電池如何為AI時代“蓄能

    芯片的生態(tài)突圍與革命

    電子發(fā)燒友網(wǎng)報道(文 / 李彎彎)大芯片,即具備強(qiáng)大計算能力的集成電路芯片,主要應(yīng)用于高性能計算(HPC)、人工智能(AI)、數(shù)據(jù)中心、自動駕駛等需要海量數(shù)據(jù)并行計算的場景。隨著 AI 與大數(shù)
    的頭像 發(fā)表于 04-13 00:02 ?1717次閱讀

    【一文看懂】什么是端側(cè)?

    隨著物聯(lián)網(wǎng)(IoT)、人工智能和5G技術(shù)的快速發(fā)展,端側(cè)正逐漸成為智能設(shè)備性能提升和智能化應(yīng)用實(shí)現(xiàn)的關(guān)鍵技術(shù)。什么是端側(cè),它的應(yīng)用價值是什么,與云計算、邊緣計算有哪些區(qū)別?本文
    的頭像 發(fā)表于 02-24 12:02 ?1305次閱讀
    【一文看懂】什么是端側(cè)<b class='flag-5'>算</b><b class='flag-5'>力</b>?

    中心的如何衡量?

    作為當(dāng)下科技發(fā)展的重要基礎(chǔ)設(shè)施,其的衡量關(guān)乎其能否高效支撐人工智能、大數(shù)據(jù)分析等智能應(yīng)用的運(yùn)行。以下是對智中心算衡量的詳細(xì)闡述:一、
    的頭像 發(fā)表于 01-16 14:03 ?2447次閱讀
    <b class='flag-5'>算</b>智<b class='flag-5'>算</b>中心的<b class='flag-5'>算</b><b class='flag-5'>力</b>如何衡量?

    科技云報到:要更要“利”,“精裝”觸發(fā)大模型產(chǎn)業(yè)新變局?

    科技云報到:要更要“利”,“精裝”觸發(fā)大模型產(chǎn)業(yè)新變局?
    的頭像 發(fā)表于 01-16 10:24 ?462次閱讀

    基礎(chǔ)篇:從零開始了解

    即計算能力(Computing Power),狹義上指對數(shù)字問題的運(yùn)算能力,而廣義上指對輸入信息處理后實(shí)現(xiàn)結(jié)果輸出的一種能力。雖然處理的內(nèi)容不同,但處理過程的能力都可抽象為。比
    的頭像 發(fā)表于 11-15 14:22 ?2237次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>基礎(chǔ)篇:從零開始了解<b class='flag-5'>算</b><b class='flag-5'>力</b>

    企業(yè)AI租賃是什么

    企業(yè)AI租賃是指企業(yè)通過互聯(lián)網(wǎng)向?qū)I(yè)的提供商租用所需的計算資源,以滿足其AI應(yīng)用的需求。以下是對企業(yè)AI
    的頭像 發(fā)表于 11-14 09:30 ?2402次閱讀

    AI時代重要性及現(xiàn)狀:平衡發(fā)展與優(yōu)化配置的挑戰(zhàn)

    在AI時代,扮演著至關(guān)重要的角色。如果說數(shù)據(jù)是AI大模型的“燃料”,那么則是其強(qiáng)大的“動力引擎”。據(jù)資料顯示,為了訓(xùn)練GPT大模型,
    的頭像 發(fā)表于 11-04 11:45 ?1151次閱讀

    GPU開發(fā)平臺是什么

    隨著AI技術(shù)的廣泛應(yīng)用,需求呈現(xiàn)出爆發(fā)式增長。AI租賃作為一種新興的服務(wù)模式,正逐漸成為企業(yè)獲取
    的頭像 發(fā)表于 10-31 10:31 ?665次閱讀

    名單公布!【書籍評測活動NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析

    ,在全球范圍內(nèi),對于推動科技進(jìn)步、經(jīng)濟(jì)發(fā)展及社會整體的運(yùn)作具有至關(guān)重要的作用。隨著信息技術(shù)的高速發(fā)展,高性能計算(HPC)和人工智能(AI)等技術(shù)在多個領(lǐng)域的應(yīng)用變得日益廣泛,芯片
    發(fā)表于 09-02 10:09

    大模型時代的需求

    現(xiàn)在AI已進(jìn)入大模型時代,各企業(yè)都爭相部署大模型,但如何保證大模型的,以及相關(guān)的穩(wěn)定性和性能,是一個極為重要的問題,帶著這個極為重要的問題,我需要在此書中找到答案。
    發(fā)表于 08-20 09:04

    中科曙光入選2024服務(wù)產(chǎn)業(yè)圖譜及服務(wù)產(chǎn)品名錄

    近日,中國信通院公布首個《服務(wù)產(chǎn)業(yè)圖譜(2024年)》及《服務(wù)產(chǎn)品名錄(2024年)》。曙光智構(gòu)建的全國一體化
    的頭像 發(fā)表于 08-06 14:23 ?1353次閱讀

    中國中心市場持續(xù)增長,智能規(guī)??焖籴绕?/a>

    7月24日,中國信息通信研究院(簡稱“中國信通院”)權(quán)威發(fā)布了《中國中心服務(wù)商分析報告(2024年)》,該報告深入剖析了中國中心市場的現(xiàn)狀與未來趨勢,揭示了我國在全球
    的頭像 發(fā)表于 07-24 15:25 ?1082次閱讀