與“計(jì)算”有關(guān)的技術(shù)正在快速演進(jìn)，而隨著AI PC的興起，人類與技術(shù)交互的方式正在發(fā)生深刻轉(zhuǎn)變。AI系統(tǒng)不僅帶來(lái)了更快的處理速度或更智能的算法，還從根本上改變了計(jì)算機(jī)管理和存儲(chǔ)數(shù)據(jù)的方式。

對(duì) AI PC而言，數(shù)據(jù)存放的位置至關(guān)重要。AI PC中的先進(jìn)存儲(chǔ)功能可確保不僅能夠高效存儲(chǔ)數(shù)據(jù)，還能夠以更高的性能和安全性來(lái)訪問(wèn)和使用數(shù)據(jù)。隨著AI時(shí)代對(duì)計(jì)算的要求日益提高，深入了解用戶數(shù)據(jù)的存放位置和方式，對(duì)于充分發(fā)揮高性能硬件的潛力十分關(guān)鍵。SSD已成為存儲(chǔ)PC數(shù)據(jù)的主要設(shè)備。借助高性能SSD，我們有望提升用戶在運(yùn)行AI應(yīng)用時(shí)的體驗(yàn)。

當(dāng)前，SSD無(wú)法辨別特定數(shù)據(jù)對(duì)用戶或系統(tǒng)的重要程度。這是一個(gè)重大的缺陷，因?yàn)殡S著AI愈發(fā)重要，未來(lái)的系統(tǒng)需要優(yōu)先考慮AI應(yīng)用使用的數(shù)據(jù)。AI應(yīng)用通常涉及實(shí)時(shí)處理和決策，需要快速訪問(wèn)與這些處理和決策過(guò)程最相關(guān)的數(shù)據(jù)。當(dāng)前架構(gòu)通常使用LRU（最近最少使用）數(shù)據(jù)結(jié)構(gòu)優(yōu)化數(shù)據(jù)訪問(wèn)，其弊端是對(duì)所有數(shù)據(jù)同等對(duì)待，可能導(dǎo)致效率低下，影響性能。

隨著端側(cè)AI技術(shù)重要性的日益提高，我們更需要優(yōu)先考慮AI和其他數(shù)據(jù)密集型應(yīng)用所需的數(shù)據(jù)。為此，SSD 需要主機(jī)提供額外信息，來(lái)標(biāo)記哪些數(shù)據(jù)（如AI數(shù)據(jù)）最為重要，該功能稱為“主機(jī)輔助”。有了這些信息，SSD可將此類數(shù)據(jù)放在訪問(wèn)速度更快的低延遲緩存中。我們所做的內(nèi)部測(cè)試表明，當(dāng)使用主機(jī)輔助功能時(shí)，模型加載時(shí)間可縮短高達(dá) 80%。在測(cè)試中，端側(cè)AI與許多駐留在存儲(chǔ)系統(tǒng)中的小規(guī)模模型一起運(yùn)行，并需要按需加載特定模型。

在測(cè)量SSD和主機(jī)輔助功能可實(shí)現(xiàn)的性能提升時(shí)，模型加載時(shí)間是一個(gè)重要指標(biāo)。要從主機(jī)獲得協(xié)助信息，可以采用很多種不同的方法。美光與微軟合作推出了幾項(xiàng)增強(qiáng)功能，可幫助SSD了解不同數(shù)據(jù)的重要性。其中的一些方法還提升了SSD的可靠性。

時(shí)間戳功能為SSD提供了世界時(shí)間信息，SSD可使用這些信息進(jìn)行時(shí)間比較。操作系統(tǒng)為SSD 提供了更多實(shí)際運(yùn)行當(dāng)中的時(shí)間信息。這些信息能夠幫助SSD更準(zhǔn)確地跟蹤數(shù)據(jù)的新舊程度，從而提高可靠性。通過(guò)準(zhǔn)確了解數(shù)據(jù)的新舊程度，SSD可以做出更明智的決策，確定優(yōu)先處理哪些數(shù)據(jù)，并丟棄一些過(guò)時(shí)數(shù)據(jù)。利用時(shí)間戳信息，SSD可以更有效地管理內(nèi)部緩存，讓最近頻繁訪問(wèn)的數(shù)據(jù)隨時(shí)可用，降低延遲，提高響應(yīng)能力。時(shí)間戳信息還可幫助SSD識(shí)別過(guò)時(shí)數(shù)據(jù)或從未使用過(guò)的數(shù)據(jù)，以便在垃圾收集時(shí)快速刪除這些數(shù)據(jù)。垃圾收集可釋放被占用的空間，從而保持出色的寫入速度。此外，利用時(shí)間戳信息，SSD可將數(shù)據(jù)均勻?qū)懭敫鞔鎯?chǔ)塊中，從而延長(zhǎng)SSD的使用壽命，并確保平穩(wěn)的寫入性能。

主機(jī)內(nèi)存緩沖區(qū)(HMB)功能使SSD能夠獨(dú)占式訪問(wèn)系統(tǒng)DRAM中的部分空間，以滿足某些需要。增加HMB的大小可讓SSD擁有更多緩沖空間，用于存儲(chǔ)數(shù)據(jù)和數(shù)據(jù)屬性。利用該功能，SSD可構(gòu)建更大的FTL（閃存轉(zhuǎn)換層）表，從而實(shí)現(xiàn)更高效的數(shù)據(jù)映射，并降低SSD開銷。有了更大的緩沖區(qū)，SSD可以更有效地緩存重要數(shù)據(jù)，從而縮短訪問(wèn)時(shí)間，提高性能。HMB功能利用系統(tǒng) DRAM的一部分作為緩存，可大幅縮短訪問(wèn)數(shù)據(jù)的時(shí)間，加速讀寫操作。此外，更高效的數(shù)據(jù)傳輸還可提高系統(tǒng)性能。該緩沖區(qū)利用系統(tǒng)內(nèi)存的一部分創(chuàng)建，在提高性能的同時(shí)無(wú)需額外的成本和功耗。

主機(jī)系統(tǒng)可向SSD發(fā)送與讀寫命令相關(guān)的額外元數(shù)據(jù)。此類元數(shù)據(jù)也稱為數(shù)據(jù)提示，可為SSD 提供有關(guān)接下來(lái)將會(huì)如何使用目標(biāo)數(shù)據(jù)的信息（例如，頻繁讀?。?。SSD可以通過(guò)這些提示了解數(shù)據(jù)的使用模式，然后對(duì)數(shù)據(jù)進(jìn)行優(yōu)先級(jí)排序，確保系統(tǒng)能夠更快訪問(wèn)數(shù)據(jù)。元數(shù)據(jù)還可能包括預(yù)期壽命或訪問(wèn)模式等提示。利用這些提示，SSD能夠更有效地管理數(shù)據(jù)的存放位置，減少寫入放大效應(yīng)，提高整體性能。

2024年8月，微軟公司的Scott Lee在FMS峰會(huì)上宣布，微軟將在即將發(fā)布的Windows操作系統(tǒng)版本中集成這些增強(qiáng)功能。美光正在與微軟合作，持續(xù)優(yōu)化SSD的性能，以滿足未來(lái)應(yīng)用的需求。

本文作者

Prasad Alluri

SBU 客戶端存儲(chǔ)副總裁兼總經(jīng)理

文末互動(dòng)贏好禮

在本文中，我們共同見證了美光科技通過(guò)利用主機(jī)輔助功能優(yōu)化SSD性能，以卓越技術(shù)支撐未來(lái)AI應(yīng)用的高需求。