得益于AI算力的需求,HBM成為香餑餑。
近日據(jù)韓國(guó) Chosun Biz報(bào)道,NVIDIA已經(jīng)向SK海力士、美光,交付了700億至1萬億韓元的預(yù)付款。雖然預(yù)付款未作具體說明,但業(yè)界普遍認(rèn)為是NVIDIA為保證今年要上市的GPU產(chǎn)品相應(yīng)所需HBM3E的物量供應(yīng)。
同樣在需求激增的市場(chǎng)環(huán)境下,存儲(chǔ)三大巨頭也在爭(zhēng)相推進(jìn)HBM生產(chǎn)。近期,三星、SK海力士正計(jì)劃將HBM產(chǎn)量提高至2.5倍,美光則將在今年推出8層堆疊的AI專用HBM3E內(nèi)存。對(duì)于HBM4,這三家企業(yè)也是當(dāng)仁不讓,相繼確認(rèn)開發(fā)和正式推出的時(shí)間。
TrendForce預(yù)估,2024年全球HBM的位元供給有望增長(zhǎng)105%;HBM市場(chǎng)規(guī)模也有望于2024年達(dá)89億美元,同比增長(zhǎng)127%;預(yù)計(jì)至2026年市場(chǎng)規(guī)模將達(dá)127.4億美元,對(duì)應(yīng)CAGR約37%。
01.?是誰在推動(dòng)HBM市場(chǎng)?
HBM(High Bandwidth Memory,高頻寬存儲(chǔ)器)是一種基于3D堆棧工藝的高性能DRAM,通俗來講,就是先將很多DDR芯片堆疊在一起后,再與GPU封裝在一塊。正是基于Interposer中介層互聯(lián)實(shí)現(xiàn)了近存計(jì)算,以及TSV工藝的堆疊技術(shù),讓HBM打破了內(nèi)存帶寬及功耗瓶頸,成為AI訓(xùn)練硬件的首選。
其實(shí)HBM應(yīng)用已有幾年的時(shí)間,自2014年首款硅通孔HBM產(chǎn)品問世至今,HBM技術(shù)已經(jīng)發(fā)展到第五代,其中HBM3E是HBM3的擴(kuò)展版本,依次類推,HBM4將是第6代產(chǎn)品。從HBM內(nèi)存的演變來看,最新的HBM3帶寬、堆疊高度、容量、I/O速率等較初代均有多倍提升。
圖源:Rambus 這也恰恰是AI算力所需要的。
根據(jù)OpenAI的數(shù)據(jù),自2012年以來,最大規(guī)模的AI訓(xùn)練所使用的計(jì)算量以每年10倍的速度增長(zhǎng)。OpenAI的ChatGPT充分體現(xiàn)了AI訓(xùn)練數(shù)據(jù)集的增長(zhǎng)。2022年11月發(fā)布的GPT-3,使用1750億個(gè)參數(shù)構(gòu)建,去年3月發(fā)布的GPT-4使用超過1.5萬億個(gè)參數(shù)。
面對(duì)這波AI浪潮, NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛曾表示:“大語言模型初創(chuàng)公司、消費(fèi)互聯(lián)網(wǎng)公司和全球云服務(wù)提供商都已率先行動(dòng)起來,下一波浪潮蓄勢(shì)待發(fā)?!碑?dāng)然,算力作為人工智能中關(guān)鍵一環(huán),人工智能芯片供應(yīng)商扮演著重要角色。
NVIDIA2023年的高端AI陣容使用HBM,包括A100/A800和H100/H800等型號(hào)。此外,NVIDIA還再進(jìn)一步完善其產(chǎn)品組合,發(fā)布了配備HBM3E內(nèi)存的H200 GPU以及GH200超級(jí)芯片,相關(guān)系統(tǒng)預(yù)計(jì)將于今年第二季度上市。據(jù)了解,以GH200超級(jí)芯片為例,HBM3E內(nèi)存比當(dāng)前HBM3快50%,可提供總計(jì)10TB/s的帶寬,這使得NVIDIA GH200 Grace Hopper平臺(tái)能夠運(yùn)行比上一版本大3.5倍的模型,同時(shí)憑借快3倍的內(nèi)存帶寬提升性能。
與NVIDIA“神仙打架”的AMD,在去年12月“Advancing AI”活動(dòng)上,正式發(fā)布了AI旗艦GPU加速器AMD Instinct MI300X,更是宣稱性能比英偉達(dá)的H100高出60%。據(jù)了解,MI300X采用HBM3內(nèi)存,容量最高192GB,比前代MI250X(128 GB)高50%。該內(nèi)存將提供高達(dá)5.3TB/s的帶寬和896 GB/s的Infinity Fabric帶寬。
同樣想分AI一杯羹的,還有英特爾。據(jù)外媒報(bào)道,英特爾計(jì)劃2024年發(fā)布Gaudi 3,配備最高128GB的HBM3E RAM,大幅提升AI學(xué)習(xí)和訓(xùn)練性能。
誰能成為NVIDIA的替代者,還需要市場(chǎng)的反饋。
毋庸置疑的是,這場(chǎng)AI競(jìng)爭(zhēng)需要極高的算力需求,但因產(chǎn)能受限,供不應(yīng)求成為現(xiàn)狀,進(jìn)而使HBM價(jià)格高增,HBM市場(chǎng)規(guī)模高速增長(zhǎng)。
圖源:方正證券 方正證券報(bào)告指出,從成本端來看,HBM平均售價(jià)至少是DRAM三倍;而此前受ChatGPT的拉動(dòng)同時(shí)受限產(chǎn)能不足,HBM價(jià)格一路上漲,與性能最高的DRAM相比,HBM3的價(jià)格上漲了五倍。
02.?HBM市場(chǎng)三分天下
在NVIDIA、AMD、英特爾三家互搏的同時(shí),存儲(chǔ)廠商也沒有閑著,生產(chǎn)/擴(kuò)產(chǎn)成主旋律。
從2013年宣布成功研發(fā)HBM1,到2019年開發(fā)出世界最快的高帶寬存儲(chǔ)器HBM2E,再到2021年10月開發(fā)出全球首款HBM3 DRAM,再到去年開發(fā)出全球最高規(guī)格HBM3E,SK海力士一直是HBM行業(yè)的領(lǐng)軍企業(yè)。
值得關(guān)注的是,SK海力士2023年第一季度由盈轉(zhuǎn)虧的DRAM僅在兩個(gè)季度后扭虧為盈。
SK海力士解釋道:“因高性能半導(dǎo)體存儲(chǔ)器產(chǎn)品為中心的市場(chǎng)需求增加,公司業(yè)績(jī)?cè)诘谝患径鹊忘c(diǎn)過后持續(xù)改善,特別是面向AI的代表性存儲(chǔ)器HBM3、高容量DDR5 DRAM和高性能移動(dòng)DRAM等主力產(chǎn)品的銷售勢(shì)頭良好,與上季度相比營(yíng)業(yè)收入增長(zhǎng)24%,營(yíng)業(yè)損失減少38%?!盨K海力士表示,將以第四代10納米級(jí)(1a)和第五代10納米級(jí)(1b)DRAM為中心的生產(chǎn)線轉(zhuǎn)換,同時(shí)擴(kuò)大對(duì)HBM TSV1技術(shù)的投資。
圖源:SK海力士財(cái)報(bào) 據(jù)悉,SK海力士已決定在2024年預(yù)留約10萬億韓元(約合76億美元)的設(shè)施資本支出聚焦于為高附加值DRAM芯片擴(kuò)建設(shè)施,包括HBM3、DDR5及LPDDR5,以及升級(jí)HBM的TSV先進(jìn)封裝技術(shù)兩方面。SK海力士首席執(zhí)行官Jeong-ho Park透露,預(yù)計(jì)到2030年公司HBM出貨量將達(dá)到每年1億顆。
此外,SK海力士在公司年度高層改組中,新成立的AI基礎(chǔ)設(shè)施部門將整合分散在公司內(nèi)部的高帶寬內(nèi)存(HBM)能力。該部門還將主導(dǎo)新一代HBM芯片等人工智能技術(shù)的發(fā)展,尋找并開發(fā)新市場(chǎng)。不難看出,SK海力士對(duì)HBM的高期望。
以TrendForce報(bào)告統(tǒng)計(jì)數(shù)據(jù)為參考,2022年SK海力士占據(jù)了HBM全球市場(chǎng)規(guī)模的50%,三星緊隨其后,占比為40%。
二者皆得益于存儲(chǔ)市場(chǎng)回暖的影響,從三星電子去年第三季度財(cái)報(bào)數(shù)據(jù)來看,出現(xiàn)了復(fù)蘇的跡象。數(shù)據(jù)顯示,三星電子第三季度存儲(chǔ)業(yè)務(wù)環(huán)比增長(zhǎng)17%至10.53萬億韓元,存儲(chǔ)業(yè)務(wù)所在的DS部門經(jīng)營(yíng)虧損3.75萬億韓元,但較上季度經(jīng)營(yíng)虧損4.36萬億韓元有所減少。
圖源:三星財(cái)報(bào) 面向未來存儲(chǔ)市場(chǎng)增長(zhǎng)的預(yù)期,三星電子收購了三星顯示(Samsung Display)天安廠區(qū)內(nèi)部分建筑及設(shè)備,用于HBM生產(chǎn)。三星電子計(jì)劃在天安廠建立一條新封裝線,用于大規(guī)模生產(chǎn)HBM,預(yù)計(jì)投資7000億-1萬億韓元。同時(shí),三星正在投入8層、12層HBM3量產(chǎn),并開始供應(yīng)8層HBM3E樣品。
據(jù)悉,之前英偉達(dá)的HBM一直由SK海力士獨(dú)家供應(yīng),由于需求極為龐大,三星據(jù)稱也已通過質(zhì)量評(píng)估,即將加入供應(yīng)商隊(duì)列。也有消息稱,三星電子計(jì)劃從今年1月開始向英偉達(dá)供應(yīng)HBM3。
對(duì)2023年HBM市場(chǎng)份額,TrendForce預(yù)測(cè),SK海力士和三星的HBM份額占比約為46-49%。這一數(shù)據(jù)也凸顯出,SK海力士和三星的勢(shì)均力敵。
如果說三分HBM市場(chǎng)的“天下”,最后一家企業(yè)則是美光(Micron)。美光雖然2022年市場(chǎng)份額僅為10%,但也不甘于落后。美光科技臺(tái)中四廠正專攻HBM生產(chǎn),計(jì)劃將于今年量產(chǎn)第五代HBM3E產(chǎn)品。
就供應(yīng)鏈而言,業(yè)界預(yù)測(cè),這三家公司將為英偉達(dá)即將推出的H200和B100所需的HBM3E供應(yīng)展開激烈競(jìng)爭(zhēng)。
03.?小結(jié)
智能語音、ChatGPT、智能駕駛等智能化應(yīng)用逐漸滲透到我們的生活中,帶來了巨大的存儲(chǔ)芯片需求。去年下半年存儲(chǔ)芯片市場(chǎng)價(jià)格的反彈信號(hào),讓行業(yè)人士看到“曙光”。
從存儲(chǔ)產(chǎn)業(yè)鏈看,SK海力士、三星等大廠采用IDM模式,一手包辦了芯片的設(shè)計(jì)、制造和封測(cè)。而國(guó)內(nèi)市場(chǎng),存儲(chǔ)產(chǎn)業(yè)鏈還是比較邊緣,主要處于HBM上游設(shè)備和材料供應(yīng)環(huán)節(jié)。但國(guó)內(nèi)相關(guān)HBM概念股也有所受益。有消息稱,相關(guān)廠商也在積極布局高端存儲(chǔ)產(chǎn)品,以求適應(yīng)市場(chǎng)需求和技術(shù)演進(jìn)。
審核編輯:黃飛
?
評(píng)論