雖然Al芯片目前看有SPU、ASIC、CPU、FPSA等幾大類,但是基于幾點(diǎn)原因我們判斷GPU仍將是訓(xùn)練模型的主流硬件:
1、Transformer架構(gòu)是最近幾年的主流,該架構(gòu)最大的特點(diǎn)之一就是能夠利用分布式BPU進(jìn)行并行訓(xùn)練,提升模型訓(xùn)練效率;
2、ASIC的算力與功耗雖然看似有優(yōu)勢,但考慮到AI算法還是處于一個(gè)不斷發(fā)展演進(jìn)的過程,用專用芯片部署會面臨著未來算法更迭導(dǎo)致芯片不適配的巨大風(fēng)險(xiǎn);
3、英偉達(dá)強(qiáng)大的芯片支撐、生態(tài)、算法開源支持。
模型小型化技術(shù)逐步成熟,從訓(xùn)練走向推理。云、邊、端全維度發(fā)展。
1、GPU方面, 在英?偉達(dá)的推動下,其從最初的顯卡發(fā)展到如今的高性能并行計(jì)算,海外大廠已經(jīng)具備了超過20年的技術(shù)、資本、生態(tài)、人才等儲備,形成了大量的核心技術(shù)專利,而且也能充分享有全球半導(dǎo)體產(chǎn)業(yè)鏈的支撐,這都或是目前國內(nèi)廠商所缺失的。近幾年在資本的推動下,國內(nèi)涌現(xiàn)出數(shù)十家GPU廠商,各自或都具備一定的發(fā)展基礎(chǔ),但整體經(jīng)營時(shí)間較短,無論從技術(shù)積淀、產(chǎn)品料號布局、高端料號件能夾說,與國外大廠仍具備較大差距。但國產(chǎn)化勢在必行,國內(nèi)相關(guān)產(chǎn)業(yè)鏈重點(diǎn)環(huán)節(jié)也積極對上游芯片原廠進(jìn)行扶持,國產(chǎn)算力芯片需要不斷迭代以實(shí)現(xiàn)性能的向上提升,后續(xù)持續(xù)關(guān)注相關(guān)廠商料號升級、生態(tài)建設(shè)和客戶突破:
2、 Al在端側(cè)設(shè)備應(yīng)用普及是大勢所趨,目前,知識蒸餾、剪枝、量化等模型小型化技術(shù)在逐步成熟,Al在云、邊、端全方位發(fā)展的時(shí)代已至。除了更加廣泛的應(yīng)用帶來需求量的提升外,更復(fù)雜算法帶來更大算力的需求也將從另一個(gè)維度推動市場擴(kuò)容;
3、數(shù)據(jù)的高吞吐量需要大帶寬的傳輸支持,光通信技術(shù)作為算力產(chǎn)業(yè)發(fā)展的支撐底座,具備長期投資價(jià)值;
4、 Chiplet技術(shù)可以突破單一芯片的性能和良率等瓶頸,降低芯片設(shè)計(jì)的復(fù)雜度和成本。
審核編輯 :李倩
-
gpu
+關(guān)注
關(guān)注
28文章
4945瀏覽量
131227 -
AI
+關(guān)注
關(guān)注
88文章
35136瀏覽量
279700 -
算力
+關(guān)注
關(guān)注
2文章
1200瀏覽量
15651
原文標(biāo)題:走進(jìn)芯時(shí)代:AI算力GPU行業(yè)深度報(bào)告
文章出處:【微信號:AI_Architect,微信公眾號:智能計(jì)算芯世界】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
摩爾線程與AI算力平臺AutoDL達(dá)成深度合作
智能算力最具潛力的行業(yè)領(lǐng)域

DeepSeek推動AI算力需求:800G光模塊的關(guān)鍵作用
行業(yè)聚焦|深圳計(jì)算機(jī)協(xié)會走進(jìn)杰和,共探AI算力新邊界

云 GPU 加速計(jì)算:突破傳統(tǒng)算力瓶頸的利刃
GPU算力租用平臺有什么好處
企業(yè)AI算力租賃是什么
GPU算力開發(fā)平臺是什么
【一文看懂】大白話解釋“GPU與GPU算力”

評論