電子發(fā)燒友網(wǎng)報(bào)道（文/周凱揚(yáng)）今年對(duì)于存儲(chǔ)廠商而言，可謂是重新梳理市場需求的一年，不少企業(yè)對(duì) NAND和DRAM 的業(yè)務(wù)進(jìn)行了大幅調(diào)整，有的就選擇了將重心放在下一代 DRAM 上，尤其是在 AI 市場非常吃香的 HBM 內(nèi)存。

AI 芯片帶來的 HBM 熱潮

在 AI 芯片的設(shè)計(jì)中，除了需要先進(jìn)工藝和先進(jìn)封裝在有限的面積下提供足夠的算力和擴(kuò)展性外，被提及最多的一個(gè)問題就是內(nèi)存墻。過去內(nèi)存墻的問題在AI 計(jì)算還不盛行的時(shí)代并不突出，而且 HBM 當(dāng)時(shí)還被視作高成本的方案。無論是 HBM IP 廠商還是存儲(chǔ)廠商，都還沒給到足夠吸引人的方案。

但隨著 AI 計(jì)算在GenAI 應(yīng)用下一炮走紅，原有的硬件在指數(shù)增長的AI 計(jì)算需求下，尤其是推理任務(wù)下，內(nèi)存帶寬上的瓶頸愈發(fā)明顯，也就成就了過去被視作“小眾需求”的 HBM。從今年各大廠商發(fā)布的最新 AI 芯片內(nèi)存配置來看，基本上都配備了HBM 內(nèi)存。以英偉達(dá)的 H100 為例，就配備了 80GB 的 HBM3 內(nèi)存，由 5 個(gè) 16GB的 HBM3 堆疊在一起，為其提供了最高達(dá) 3.35TB/s 的內(nèi)存帶寬。

而 AMD 剛發(fā)布的 MI300X在內(nèi)存配置上更甚，總?cè)萘窟_(dá)到 192GB，采用8 個(gè) 24GB HBM3 內(nèi)存堆疊在單芯片上，提供最高約 5.3TB/s 的理論峰值內(nèi)存帶寬。不過考慮到出貨時(shí)間，與 MI300X 直接對(duì)標(biāo)的屆時(shí)將是 2024 年 Q2 出貨的英偉達(dá)GH200。GH200將是業(yè)內(nèi)首個(gè)配備 HBM3e 的處理器，雖然其 GPU與 H100 保持一致，但 GH200在雙芯片配置下?lián)碛懈笕萘浚?82GB）更高速的 HBM3e 內(nèi)存。

根據(jù)TrendForce的預(yù)測，今年的 HBM 需求相比去年增長了 58%，而明年將在此基礎(chǔ)上再迎來 30% 的增長。在這樣的市場需求下，HBM 內(nèi)存供應(yīng)商們都開啟了搶單大戰(zhàn)。

三家HBM供應(yīng)商搶單大戰(zhàn)開啟

由于 HBM 需求大漲，為了滿足芯片設(shè)計(jì)廠商的需求，而不是選擇在有限供應(yīng)下尋找別的供應(yīng)商，SK 海力士選擇了加大產(chǎn)能投入。據(jù)爆料消息，其明年的計(jì)劃設(shè)施投入為 76 億美元，比今年的預(yù)期值要高 43%到 67%。不僅如此，投入的大部分將花在搭建制造先進(jìn) DRAM 芯片的設(shè)施上，尤其是 HBM3內(nèi)存產(chǎn)能，不過 HBM的產(chǎn)能也與 TSV 封裝產(chǎn)能息息相關(guān)，考慮到 TSV 設(shè)備的交期要更長，所以這一波產(chǎn)能擴(kuò)張預(yù)計(jì)要到下半年才會(huì)初見成效。

SK 海力士 HBM3e 內(nèi)存 / SK 海力士

SK 海力士對(duì) HBM的重視程度也不僅僅是加大投資和擴(kuò)產(chǎn)而已，近期 SK 海力士甚至為其進(jìn)行了組織架構(gòu)的調(diào)整。12 月 7 日，SK 海力士宣布成立 AI Infra 組織，目的是在未來的 AI 基礎(chǔ)設(shè)施市場中繼續(xù)保持競爭優(yōu)勢。

在 AI Infra 組織下，SK 海力士成立兩個(gè)部門，分別是 HBM 業(yè)務(wù)部門和 AI&Next 業(yè)務(wù)部門，前者負(fù)責(zé)整合分散的HBM 相關(guān)的人才與職能，后者負(fù)責(zé)探索新的 AI 市場，包括下一代 HBM 技術(shù)。而原先負(fù)責(zé)與 HBM 客戶溝通的 GSM 組織也將被并入 AI Infra組織。

但介于目前 SK 海力士的產(chǎn)能還是沒法滿足需求，且英偉達(dá)之類的廠商更樂意擁有靈活的供應(yīng)鏈選擇，所以美光、三星兩家也在英偉達(dá)的 GPU 上找到了供應(yīng)合作的機(jī)會(huì)。美光作為目前在 HBM 處于劣勢地位的廠商，其 HBM 市場份額只有 10% 左右。但憑借較快的產(chǎn)品導(dǎo)入速度，也在今年宣布英偉達(dá)正在下一代數(shù)據(jù)中心 GPU 上測試其 HBM3E 內(nèi)存。

面臨三星和 SK 海力士這兩家已經(jīng)在 HBM 市場站穩(wěn)腳跟的廠商，或許從最新乃至下一代HBM技術(shù)上發(fā)力能給到美光異軍突起的機(jī)會(huì)，畢竟 HBM3e 相比 HBM3 和 HBM2 來說，附加價(jià)值更高，新的設(shè)計(jì)訂單數(shù)量也更多。為此美光在中國臺(tái)灣和日本積極擴(kuò)產(chǎn)，除了繼續(xù)擴(kuò)大已有的 1β與 TSV 產(chǎn)能外，也在繼續(xù)推進(jìn) 1γ內(nèi)存工藝節(jié)點(diǎn)的落成。

據(jù)傳三星也和美光一樣，在今年宣布通過了英偉達(dá)對(duì) HBM 產(chǎn)品的質(zhì)量測試，并與英偉達(dá)簽署了供應(yīng)協(xié)議。雖然傳言并未得到證實(shí)，但從三星近期購置了數(shù)臺(tái) 2.5D封裝設(shè)備的動(dòng)向來看，很可能就是針對(duì)英偉達(dá)下一代 GPU 所用HBM 的制造與封裝訂單的?？紤]到三星自己也有 X-Cube 這樣針對(duì) HBM 的2.5D/3D封裝工藝，F(xiàn)abless 廠商選擇三星或許能進(jìn)一步降低封裝制造的成本。

HBM3/3e與未來的 HBM4

除了擴(kuò)產(chǎn)外，這場搶單大戰(zhàn)也延續(xù)到了相關(guān)產(chǎn)品的發(fā)布上，HBM 內(nèi)存供應(yīng)商在今年紛紛公開了自己的 HBM3e 產(chǎn)品，為的就是提前一步搶下 2023 下半年乃至明年的設(shè)計(jì)方案訂單。美光在今年7 月率先公布了自己的 HBM3E 產(chǎn)品，該公司也將其稱之為 HBM3 Gen2。

在業(yè)界領(lǐng)先的1β工藝和 8Hi 堆疊設(shè)計(jì)下，美光表示其HBM3 Gen2產(chǎn)品可以提供高達(dá) 1.2TB/s 的帶寬，以及同樣封裝尺寸下高出 50% 的單 die 密度，即最高 24GB的單 die 內(nèi)存。

SK 海力士也于今年 8 月宣布 HBM3e 開始送樣，預(yù)計(jì) 2024 年上半年開始量產(chǎn)。不過，SK海力士并沒有透露較為具體的容量細(xì)節(jié)，但其應(yīng)該和美光一樣，會(huì)率先推出的8Hi 的 24GB 版本。在速度上，SK 海力士則稍微落后，在公告中SK 海力士表示其 HBM3e 產(chǎn)品的帶寬為 1.15TB/s。

Shinebolt HBM3e 內(nèi)存 / 三星

接著三星也在今年 10 月份宣布了全新的 “Shinebolt” HBM3e 內(nèi)存，在使用D1a 工藝（EUV 10nm 級(jí)別）和最高級(jí)的 12Hi 堆疊設(shè)計(jì)后，單 die 容量可達(dá) 36GB，單引腳帶寬可達(dá) 9.8GB/s，單個(gè)堆棧最大帶寬可達(dá) 1.225TB/s，高于美光和 SK 海力士。

除了在 HBM 新品量產(chǎn)出貨先后上競爭外，就連下一代產(chǎn)品的開發(fā)，都已經(jīng)成了HBM 內(nèi)存供應(yīng)商們搶單的途徑之一。盡管 HBM4的規(guī)范還未定稿，但這并不妨礙 HBM 內(nèi)存供應(yīng)商與設(shè)計(jì)廠商展開先行嘗試。以 SK 海力士為例，據(jù)報(bào)道他們正與英偉達(dá)合作，設(shè)計(jì)可以直接垂直堆疊至邏輯核心上的 HBM4 內(nèi)存，這一結(jié)構(gòu)類似于 AMD 的 3D V-Cache，只不過堆疊的是帶寬和容量都更大的 HBM 內(nèi)存。

報(bào)道稱 SK 海力士正在與數(shù)家 Fabless 廠商商討這一全新的 HBM 集成設(shè)計(jì)，甚至可能會(huì)與英偉達(dá)從下一代AI 芯片設(shè)計(jì)之初就展開合作，最后交給臺(tái)積電利用先進(jìn)封裝技術(shù)制造芯片成品。如果 Fabless 廠商與 HBM 內(nèi)存供應(yīng)商之間選擇了這種合作方式，那么這該芯片很可能發(fā)布之時(shí)只有單一內(nèi)存供應(yīng)商。

HBM 的需求能持續(xù)多久

從不少消息的預(yù)測看來，AI 芯片的訂單已經(jīng)排到了 2024 年。SK 海力士在今年 Q3 季度的財(cái)報(bào)會(huì)議上表示，與客戶/合作伙伴的 HBM 銷售規(guī)劃已經(jīng)排到 2025 年了。從各大廠商最新的財(cái)報(bào)預(yù)測中也能看出，明年服務(wù)器市場將迎來逐漸回暖的趨勢，特別是云服務(wù)廠商的投資相比今年還會(huì)逐步提升。

雖然我們今年看到了通用服務(wù)器市場需求的下滑，而 AI服務(wù)器在有限的預(yù)算控制下呈現(xiàn)飛速增長，但通用服務(wù)器也是開展 AI 應(yīng)用服務(wù)的重要一環(huán)。因此在更大的迭代需求下，明年會(huì)有新的投資涌入通用服務(wù)器。

此外，近期也有傳言提到英偉達(dá)下修 2024 年下半年 AI 芯片的 CoWoS封裝需求、微軟也下修明年英偉達(dá)的 H100 需求。不少人猜測這或許與最新的禁令有一定關(guān)系，畢竟中國是 AI 芯片出口的最大市場之一。

不過即便傳言屬實(shí)，這也僅僅是英偉達(dá)一系列產(chǎn)品的需求變化，無論是 AMD，還是別的自研云服務(wù)商，又或是其他 AI 芯片初創(chuàng)企業(yè)，短時(shí)間內(nèi)都不會(huì)拋棄 HBM 內(nèi)存。而且SK 海力士等廠商作為上游廠商，對(duì)內(nèi)存市場需求的敏感度更高，如果只是短期爆發(fā)的需求，是斷然不會(huì)選擇積極擴(kuò)產(chǎn)的。