電子發(fā)燒友網(wǎng)報道（文/周凱揚）對于高效的數(shù)據(jù)并行負載處理來說，矢量架構(gòu)的吸引力越來越大，主流ISA都開始注意到這一點。就拿我們熟悉的前超算王者——日本的富岳來說，其處理器富士通A64FX就是基于Arm可伸縮矢量擴展（SVE）的。

Arm也在隨后推出的Armv9架構(gòu)中提出了改良版的SVE2，并在其中加入了對NEON的兼容，SVE2在HPC之外的市場應(yīng)用中做出了指令優(yōu)化，甚至可以用于手機、汽車等智能設(shè)備中。

正是因為有了SVE的存在，富岳才得以單靠通用處理器完成高性能的大數(shù)據(jù)運算，而不是像其他主流超算一樣，還要靠堆積GPU、FPGA和AI加速器等片外加速器才能實現(xiàn)可觀的性能，我國的神威太湖之光同樣運用了這樣的矢量設(shè)計思路。但以上這些都是專有架構(gòu)，微架構(gòu)不透明的同時也限制了開源和定制化方案的出現(xiàn)，而這些均可以在RISC-V上一一實現(xiàn)。

RISC-V矢量處理器的吸引力

RISC-V的矢量擴展RVV自2015年提出以來，已經(jīng)有了長足的進展，也有了正式的1.0版本規(guī)范。與傳統(tǒng)的SIMD指令相比，RVV提供動態(tài)的矢量長度修改，做到了更高的效率、更小的代碼體積和更簡單的循環(huán)結(jié)束。我們近期已經(jīng)看到了不少RISC-V處理器被廣泛使用的新聞，比如谷歌選擇在其TPU上加入SiFive的X280處理器，其實看重的就是它在矢量處理上的優(yōu)勢。
所以我們看到在SiFive的處理器產(chǎn)品中，像Performance P270和Intelligence X280都擁有優(yōu)秀的矢量處理能力，后者更是引入了一個512位矢量寄存器長度的架構(gòu)，在完全支持矢量擴展標準的同時，還支持動態(tài)可變矢量長度的運算。SiFive也在其矢量擴展上做出了改進，稱其為SiFive智能擴展，與直接基于RV64GCV架構(gòu)的設(shè)計相比，X280的智能擴展在INT8格式下的矩陣乘法運算時可將執(zhí)行速度提高12倍。

而且這不僅僅造福的是數(shù)據(jù)中心，還有受制于功耗卻又需要高吞吐量和單線程性能的邊緣應(yīng)用，比如AR/VR、數(shù)碼相機等等。SiFive同樣測試了可用于移動端或嵌入式設(shè)備的輕量級神經(jīng)網(wǎng)絡(luò)MobileNet，相較基于RISC-V標量的架構(gòu)，SiFive智能擴展可以將速度提升144倍。

同樣的還有晶心科技推出的RISC-V矢量處理器NX27V，該處理器采用了5級流水線的設(shè)計，晶心為其設(shè)計了強大的矢量處理單元，擁有32個矢量寄存器，最高支持512位的矢量長度，為了進一步支持AI應(yīng)用，晶心還為其增加了BF16和INT4的數(shù)據(jù)格式支持。據(jù)正在打造可擴展的高性能AI超算的初創(chuàng)公司Luminous Computing透露，他們打造的系統(tǒng)用到了數(shù)百個NX27V VPU核心，極大地提升了該系統(tǒng)的深度學習性能。

開源RISC-V矢量處理器

RISC-V作為開源架構(gòu)最棒的一點就在于，總是不缺香山處理器這樣優(yōu)秀的開源方案。比如2019年推出的Ara就是一款高效矢量協(xié)處理器，用于輔助OpenHW的CVA6 RISC-V應(yīng)用處理器Ara，只不過Ara剛發(fā)布之際還是基于早期的RVV規(guī)范設(shè)計的。

來自蘇黎世聯(lián)邦理工學院（ETH）和華為蘇黎世研究中心的研究員們借助Ara的啟發(fā)，基于RVV1.0發(fā)表了一個開源的高效RISC-V矢量處理器設(shè)計。他們基于格芯的22FDX工藝進行了吞吐量和PPA的驗證，整個系統(tǒng)運行頻率為1.34GH，在關(guān)鍵的矩陣乘法內(nèi)核下，F(xiàn)PU的利用率可以達到98%以上。

相較之下，SiFive的X280和另一個開源矢量協(xié)處理器Vicuna宣稱的FPU利用率大于90%，伯克利的開源方案Hwacha可以做到95%以上。為了展示從RVV擴展這么多年以來的改進，他們也與基于RVV 0.5版下的設(shè)計做了對比，結(jié)果是在面積占用上有了15%的提升，吞吐量也有了6%的提升，雙精度計算效率也做到了37.1GFLOPS/W。

結(jié)語

AI時代下，矢量處理的應(yīng)用場景已經(jīng)遠超我們的現(xiàn)象，包括深度學習、推薦系統(tǒng)、鍵值存儲和HPC等，都已經(jīng)廣泛利用了矢量計算。但如何做到高效高性能，才是未來所有ISA的努力方向，而RISC-V作為后來者，反而能在這上面找到彎道超車的機會。