一、前言

隨著當(dāng)今數(shù)據(jù)迅速增長，傳統(tǒng)的馮諾依曼架構(gòu)內(nèi)存墻正在成為計算性能進一步提升的阻礙。新一代的存內(nèi)計算（IMC）和近存計算（NMC）架構(gòu)有望突破這一瓶頸，顯著提升計算能力和能源效率。本文將探討存算一體芯片的發(fā)展歷程、當(dāng)前研究狀態(tài)，以及基于多種存儲介質(zhì)（例如傳統(tǒng)的DRAM、SRAM和Flash，以及新型的非易失性存儲器如ReRAM、PCM、MRAM、FeFET等）的存內(nèi)計算基本原理、優(yōu)勢與面臨的挑戰(zhàn)。通過對知存科技WTM2101量產(chǎn)芯片的深入解析與評測，重點展示存內(nèi)計算芯片的電路結(jié)構(gòu)及其應(yīng)用現(xiàn)狀。最后，將對存算一體芯片未來的發(fā)展前景和挑戰(zhàn)進行詳細分析。

二、深入了解存算一體技術(shù)

2.1 什么是存算一體

存算一體是指在計算機體系結(jié)構(gòu)中將存儲和計算功能整合到一起的概念。這種結(jié)合旨在減少數(shù)據(jù)在處理器和存儲單元之間的頻繁傳輸，從而提高數(shù)據(jù)處理速度和效率。

存算一體的兩個主要形式是近存計算和存內(nèi)計算：

近存計算：在近存計算中，計算單元與高速存儲單元（如高速緩存）緊密集成。這意味著處理器和高速存儲單元之間的距離很近，可以快速訪問數(shù)據(jù)并進行計算，減少了數(shù)據(jù)從內(nèi)存?zhèn)鬏數(shù)教幚砥鞯臅r間。

存內(nèi)計算：存內(nèi)計算是將計算功能直接放置在存儲單元內(nèi)部的概念。這意味著存儲單元本身具有一定的計算能力，可以在存儲位置進行部分計算任務(wù)，避免了數(shù)據(jù)在存儲和處理單元之間的頻繁移動。存內(nèi)計算的核心理念是在存儲單元內(nèi)部完成部分計算任務(wù)，避免頻繁的數(shù)據(jù)傳輸，從而提高效率。這種方式允許處理器直接訪問存儲單元，將計算任務(wù)和數(shù)據(jù)處理在存儲內(nèi)部進行，而不是在傳統(tǒng)的分離存儲和處理的架構(gòu)中進行。通過存內(nèi)計算，數(shù)據(jù)不必在存儲和處理單元之間頻繁傳輸，減少了數(shù)據(jù)移動的時間和能耗。這種方式對于處理大規(guī)模數(shù)據(jù)和計算密集型任務(wù)特別有利，能夠提高計算效率和響應(yīng)速度。在人工智能、機器學(xué)習(xí)等領(lǐng)域，存內(nèi)計算技術(shù)能夠加速模型訓(xùn)練和推理過程。研究一些資料后博主自己總結(jié)：存內(nèi)計算技術(shù)的發(fā)展對于提高計算設(shè)備的整體性能、降低能耗并改善數(shù)據(jù)處理效率具有重要意義。值得一提的是，我國知存科技推出的 WTM2101 芯片即采用存內(nèi)計算這種方式。

近存計算和存內(nèi)計算都是存算一體架構(gòu)的重要組成部分，目的是在硬件層面上優(yōu)化數(shù)據(jù)處理流程，使得計算機系統(tǒng)能夠更快速、更有效地處理大規(guī)模數(shù)據(jù)和計算密集型任務(wù)。這些技術(shù)的發(fā)展對于越發(fā)火熱的人工智能、大數(shù)據(jù)處理等領(lǐng)域的發(fā)展具有重要意義。

2.2 存算一體技術(shù)發(fā)展歷程

個人查閱了相關(guān)的很多資料，大致總結(jié)出來下面的存算一體技術(shù)發(fā)展歷程，方便我們更加深入的了解存算一體技術(shù)的發(fā)展

1969年： 存算一體的概念最早提出。

1997年： 展示了智能內(nèi)存(Intelligent RAM)方案，將處理器和DRAM集成在單顆芯片上，算力達到Cray T-90的5倍。

1999年： 提出了靈活內(nèi)存(FlexRAM)方案，仿真結(jié)果表明該芯片架構(gòu)可使計算性能提升25～40倍。但由于缺少大數(shù)據(jù)處理需求、昂貴的制造成本和復(fù)雜的設(shè)計，技術(shù)仍然停留在研究階段。

2015年以后： 隨著摩爾定律逐漸失效和馮諾依曼架構(gòu)的局限性明顯，大數(shù)據(jù)應(yīng)用的驅(qū)動，工藝水平不斷提高，存算一體技術(shù)重新受到關(guān)注。

2016年，郭昕婕博士（知存科技聯(lián)合創(chuàng)始人及首席科學(xué)家）終于研發(fā)出全球第一個3層神經(jīng)網(wǎng)絡(luò)的浮柵存內(nèi)計算深度學(xué)習(xí)芯片（PRIME架構(gòu)），首次驗證了基于浮柵晶體管的存內(nèi)計算在深度學(xué)習(xí)應(yīng)用中的效用。相較于傳統(tǒng)馮諾伊曼架構(gòu)的傳統(tǒng)方案，PRIME可以實現(xiàn)功耗降低約20倍、速度提升約50倍，引起產(chǎn)業(yè)界廣泛關(guān)注。隨著人工智能等大數(shù)據(jù)應(yīng)用的興起，存算一體技術(shù)得到國內(nèi)外學(xué)術(shù)界與產(chǎn)業(yè)界的廣泛研究與應(yīng)用。

2017年： 微處理器頂級年會(Micro2017)上，多所高校和企業(yè)推出了存算一體芯片或系統(tǒng)原型，包括蘇黎世聯(lián)邦理工學(xué)院、加利福尼亞大學(xué)圣巴巴拉分校、英偉達、英特爾、微軟、三星等。當(dāng)提及圣巴巴拉分校時，值得關(guān)注的是他們在基于 RRAM 的存內(nèi)計算領(lǐng)域的突破。這種新型存儲技術(shù)具有高密度、低功耗和快速讀寫等優(yōu)勢，非常適合存內(nèi)計算需求。研究團隊專注于將RRAM與計算過程結(jié)合，實現(xiàn)內(nèi)部存儲和計算的融合。這項技術(shù)有望提高人工智能和其他計算密集型應(yīng)用的效率，通過在芯片內(nèi)部集成存儲和計算功能，加速數(shù)據(jù)處理速度、降低能耗，并提供更快速、更靈活的計算解決方案。他們的研究成果可能為未來計算設(shè)備和系統(tǒng)帶來革命性變革，使其更加智能、高效和可靠。

這些年里，基于不同存儲介質(zhì)的存算一體芯片研究不斷涌現(xiàn)，包括 SRAM、DRAM、Flash、ReRAM、PCM、FeFET、MRAM 等各類存儲介質(zhì)。國內(nèi)外企業(yè)積極研發(fā)，其中臺積電、Mythic 和知存科技最接近產(chǎn)業(yè)化，已經(jīng)推出了一系列基于不同存儲介質(zhì)的存算一體芯片研究成果。

2.3 基于不同存儲介質(zhì)的存內(nèi)計算芯片性能比較

目前，用于存算一體的成熟存儲器類型包括 NOR FLASH、SRAM、DRAM、RRAM 和 MRAM 等 NVRAM。

廣泛使用的 FLASH 是一種非易失性存儲介質(zhì)，具有低成本和高可靠性的優(yōu)勢，但其工藝制程方面存在明顯的瓶頸。

SRAM 在速度和能效方面具有優(yōu)勢，尤其在存內(nèi)邏輯技術(shù)發(fā)展之后，展現(xiàn)出了高能效和高精度的特點。

DRAM 具有低成本和大容量的優(yōu)點，但速度較慢，并且需要持續(xù)供電進行刷新。

新型適用于存算一體的存儲器類型包括 PCAM、MRAM、RRAM 和 FRAM 等。其中，憶阻器 RRAM 在神經(jīng)網(wǎng)絡(luò)計算中具有特殊優(yōu)勢，被視為除了 SRAM 存算一體之外的下一代主流研究方向。盡管 RRAM 目前仍需 2-5 年的工藝成熟期，而且材料穩(wěn)定性尚不確定，但其高速和簡單結(jié)構(gòu)的特點，使其有望成為未來發(fā)展速度最快的新型存儲器。

從工業(yè)界的研發(fā)趨勢來看，SRAM 和 RRAM 均被認為是未來主流存算一體的存儲介質(zhì)，下面基于不同存儲介質(zhì)的存內(nèi)計算芯片性能進行一個比較，方便大家更加了解內(nèi)存芯片的性能。

三、國產(chǎn)存算一體，重大進展

國產(chǎn)存算一體技術(shù)的重大進展已在新一輪算力攻堅賽中得到彰顯。存算一體架構(gòu)的突破傳統(tǒng)馮·諾依曼架構(gòu)的范式探索成為重要趨勢。這種架構(gòu)改變了存算分離的局面，類似于“在家辦公”一樣，消除了數(shù)據(jù)“往返通勤”的能量消耗和時間延遲，大大提高了AI算力的能效比。近期，清華大學(xué)團隊研制的全球首款支持高效片上學(xué)習(xí)的憶阻器存算一體芯片引發(fā)關(guān)注。這一突破展示了存算一體技術(shù)的能效潛力和算力潛力，并為本地數(shù)據(jù)處理和動態(tài)更新帶來可能，減少了對云端算力和網(wǎng)絡(luò)帶寬的依賴。

在存算一體領(lǐng)域，全球參與者可分為國際巨頭和新興企業(yè)兩大陣營。國際巨頭如英特爾、IBM、特斯拉等早已布局存算技術(shù)，并推出代表未來趨勢的產(chǎn)品。而新興企業(yè)則更靈活選擇存內(nèi)計算路線，如國內(nèi)的知存科技、九天睿芯等，希望實現(xiàn)更高性能、更通用的算力場景。

這些公司在三個主要差異上有所體現(xiàn)：

技術(shù)路徑： 近存計算和存內(nèi)計算是兩種主要路徑。前者保留了經(jīng)典馮·諾依曼架構(gòu)的數(shù)據(jù)處理特點，而后者通過存儲器件參與計算操作，實現(xiàn)存算真正融合。

存儲介質(zhì)： 不同存儲介質(zhì)如SRAM、DRAM等各有優(yōu)缺點，影響著算力的性能和成本。目前，多數(shù)公司選擇成熟的SRAM以及Flash設(shè)計存算一體芯片，但也在投入新興存儲介質(zhì)的研發(fā)，如MRAM、RRAM等，以期獲得更大競爭優(yōu)勢。

數(shù)字或模擬： 存算一體的計算可分為數(shù)字存算和模擬存算。數(shù)字存算更靈活適用于通用性場景，而模擬存算在能量效率方面具有優(yōu)勢，但其擴展性相對不足；模擬存算的優(yōu)勢在于其能夠更有效地處理大規(guī)模、復(fù)雜的問題，尤其是涉及到實時數(shù)據(jù)處理和復(fù)雜模型的情況。相比傳統(tǒng)的計算方式，模擬存算能夠更快速地進行計算并解決問題，因為它模擬了物理系統(tǒng)的行為，能夠并行處理數(shù)據(jù)和任務(wù)。知存科技采用模擬存算的方法可能意味著他們更有可能處理復(fù)雜的任務(wù)并加快問題解決的速度。這種方法可能在處理大規(guī)模數(shù)據(jù)、復(fù)雜模型和實時計算方面有很大的優(yōu)勢。值得一提的是，我們國內(nèi)知存科技目前用的是模擬存算。

這些技術(shù)突破正迎合市場需求，使存算一體技術(shù)迎來了產(chǎn)業(yè)化的拐點。新興企業(yè)在探索新技術(shù)應(yīng)用和大算力布局方面更具前瞻性。隨著技術(shù)和應(yīng)用的不斷成熟，這些企業(yè)勢必在存算一體領(lǐng)域發(fā)揮重要作用。

3.1 知存科技：我國存算一體領(lǐng)域的研發(fā)領(lǐng)導(dǎo)者

存算一體技術(shù)作為解決馮諾依曼架構(gòu)下存儲墻問題的重要方案，吸引了國內(nèi)外眾多企業(yè)的研發(fā)投入，其中知存科技成為這一領(lǐng)域的引領(lǐng)者之一。

在全球范圍內(nèi)，存算一體技術(shù)的研究和實踐正由傳統(tǒng)芯片巨頭如三星電子、SK海力士、臺積電、美光、IBM、英特爾等主導(dǎo)。SK海力士也展示了其基于GDDR的存內(nèi)計算產(chǎn)品，大幅提高了計算速度并降低了功耗。其他如臺積電、美光、IBM、英特爾等也都在存內(nèi)計算領(lǐng)域取得了積極進展，探索將存儲與計算緊密結(jié)合的創(chuàng)新方案。

在國內(nèi)，新興AI和存儲企業(yè)的蓬勃發(fā)展也為存算一體技術(shù)注入了新的活力。知存科技作為其中一員，在存內(nèi)計算芯片的研發(fā)和推廣方面處于領(lǐng)先地位。他們的WTM2101基于nor flash存儲介質(zhì)，40nm的制程實現(xiàn)了超低功耗以及高算力。特別適用于智能語音和智能健康等領(lǐng)域。該公司不僅在技術(shù)上取得了突破，2023年1月還獲得了2億元的B2輪融資，顯示了市場對其發(fā)展的認可和期待。

知存科技的成就不僅在于技術(shù)上的創(chuàng)新，更在于其成功將存算一體技術(shù)落地并投入量產(chǎn)。這種領(lǐng)先地位使得知存科技成為國內(nèi)存算一體領(lǐng)域的重要代表之一，為未來的技術(shù)發(fā)展和產(chǎn)業(yè)進步貢獻著不可或缺的力量。

國產(chǎn)存算一體進展統(tǒng)計（收集自企業(yè)官網(wǎng)、新聞報道等公開信息，僅供參考）

四、知存科技新型 WTM2101 SOC 評估板使用評測

非常有幸能夠體驗使用知存科技 WTM2101 SOC 評估板 WTMDK2101-ZT1，下面我會對該評估板進行詳細的評測。

4.1 WTMDK2101-ZT1 實驗評測目標(biāo)概述

我們主要是使用WTMDK2101-ZT1 評估板，在準(zhǔn)備安裝好后，我們會在測試環(huán)境模擬正常人說話聲音大小的聲音（20-30分貝）連接耳機完成后，會出現(xiàn)高分貝的雜音嘯叫（30分貝左右）；當(dāng)板子被啟用后，這些雜音立即消失（時間延遲<1ms），這展示了ZT1開發(fā)板成功抑制嘯叫的效果。

4.2 WTMDK2101-ZT1 評估板介紹與安裝

4.2.1 WTMDK2101-ZT1 評估板介紹

收到評估板后，馬上開箱打開，我們可以看下圖來仔細看一下 WTMDK2101-ZT1 評估板實物：

可以看到中心區(qū)域就是我們的 WTM2101 芯片，在兩測分別有 IO 接口，其中右側(cè)包括：兩個 Flash，一個 I2S接口和 J Tag 接口，還有一個音頻模塊的耳機接口；在測試板的下方的 IO 接口中包括 3個按鍵，兩排 LED，一級一組主控芯片接口。

我們接下來的實驗中就會用到音頻模塊的耳機接口。

為了方便我們了解開發(fā)板構(gòu)造，我們可以詳細參看下面的開發(fā)板系統(tǒng)框圖：

4.2.2 評估板組件安裝

這里測試的 WTMDK2101-ZT1 評估板有3個組件

含有 WTMDK2101 芯片的主測試版

嘯叫測試耳機

測試子板（用于測試版燒錄時使用）

測試主板圖以及接口說明參照如下：

測試耳機，可以按照上圖標(biāo)注部分進行連接耳機。

測試子板，可以看到我們測試子板有六根連接線，并且不同線有其不同標(biāo)注，如果需要鏈接測試主板，需要依據(jù)線類型進行鏈接。

4.3 評估板調(diào)試

我們依次將評估板耳機與子板鏈接到測試主板，并且接通USB電源到 Windows操作系統(tǒng)的電腦中。這里可以注意，我們使用的是USB接入電源連接在電腦中，你也可以是用其他的電源接入即可。

如下圖所示，將拔碼開關(guān)打開到USB一側(cè)，代表使用USB連接供電，當(dāng)然如果我們直接使用電池供電，則需要將拔碼開關(guān)撥到右側(cè)。當(dāng)我們成功供電后，會看到LED3的燈已經(jīng)亮起。

4.4 嘯叫音識別測試

我們先進行第一個測試，使用開發(fā)板來識別嘯叫音

我們在模擬測試環(huán)境后，在播放音樂進行耳機監(jiān)聽測試的時候，耳機會傳出聲音迅速被放大的識別后雜音被抑制，這個時間非常短暫。

首先是我們模擬環(huán)境，我們找到了同事的電腦，直接播放一個大約和人聲分貝大小的一段音樂，之后我們的麥克風(fēng)進行識別，這樣的時候我們的開發(fā)板回對嘯叫音進行識別。

當(dāng)我們播放音樂后，使用音頻頻譜檢測軟件進行監(jiān)聽嘯叫的聲音一段時間，經(jīng)過測試后從下面測試圖中可以明顯看到，當(dāng)出現(xiàn)嘯叫音的時候，我們的開發(fā)主板能夠精準(zhǔn)的檢測出來。這個測試給我個人的感受是知存科技的 WTMDK2101的強大之處是精準(zhǔn)識別出嘯叫，并且能夠無聲處理，精準(zhǔn)度非常高且速度快。

4.5 嘯叫音抑制測試

接下來我們驗證嘯音抑制功能，不知道你是否有在 KTV 唱歌或者參加會議拿著話筒講話的經(jīng)歷，如果有的話，你一定會遇到過你講話的時候突然出現(xiàn)了嘯音，那種特別鳴的聲音，下面我們使用WTMDK2101-ZT1 評估板來測試一下知存科技產(chǎn)品的嘯音抑制功能。

我們首先在一臺電腦中準(zhǔn)備好知存科技助聽控制臺程序，該程序可以打開或者關(guān)閉降噪（NR）功能，這樣方便我們進行對比。

首先我們準(zhǔn)備嘯音進行檢測，我們的做法是先將助聽器測試控制臺的算法開關(guān)處于關(guān)閉狀態(tài)。

調(diào)整好，來檢測耳機中的測試音，顯示的圖譜如圖所示：

因為測試環(huán)境的原因，中間可能有部分的干擾音，如果小伙伴們進行測試的時候建議清晨或者晚上比較安靜的地方進行測試。

之后我們將開發(fā)板的算法開關(guān)相應(yīng)的開關(guān)打開，之后在進行監(jiān)聽耳機音頻，并輸出音頻圖譜。

注意：其中的 NR 開關(guān)就包括了抑制嘯音的算法功能。

開發(fā)板開啟嘯音抑制功能后的音頻圖譜。

從我們前后嘯音抑制后的圖譜對比中可以看出，在開啟降噪（嘯音抑制）功能前，從圖譜中可以看到嘯音明顯，并且其平均的聲音分貝是：42.2分貝；當(dāng)我們開啟開發(fā)板的嘯音抑制功能后，嘯音得到明顯的抑制，并且平均分貝為：38.9分貝?？梢苑治龅贸鲋婵萍嫉膶[音抑制功能非常顯著。

五、文末總結(jié)

我回顧調(diào)查資料以及動手進行實驗的過程中，深刻的感受到存內(nèi)計算對數(shù)據(jù)處理的強大,也期待下次可以加入知存的線下實操訓(xùn)練營，更深度的體驗存內(nèi)計算技術(shù)。知存科技的成就代表著存算一體技術(shù)邁向產(chǎn)業(yè)化的重要一步。然而，技術(shù)和市場仍需面對挑戰(zhàn)，需要更多創(chuàng)新和探索。整體來看，存算一體技術(shù)發(fā)展前景廣闊，但仍需持續(xù)關(guān)注并推動其朝著更高效、智能的方向發(fā)展。

審核編輯 黃宇