HLS最全知識(shí)庫(kù)

副標(biāo)題-FPGA高層次綜合HLS(二)-Vitis HLS知識(shí)庫(kù)

高層次綜合（High-level Synthesis）簡(jiǎn)稱HLS，指的是將高層次語(yǔ)言描述的邏輯結(jié)構(gòu)，自動(dòng)轉(zhuǎn)換成低抽象級(jí)語(yǔ)言描述的電路模型的過(guò)程。

對(duì)于AMD Xilinx而言，Vivado 2019.1之前（包括），HLS工具叫Vivado HLS，之后為了統(tǒng)一將HLS集成到Vitis里了，集成之后增加了一些功能，同時(shí)將這部分開(kāi)源出來(lái)了。Vitis HLS是Vitis AI重要組成部分，所以我們將重點(diǎn)介紹Vitis HLS。

官方指南：

https://docs.xilinx.com/r/_lSn47LKK31fyYQ_PRDoIQ/root

重要術(shù)語(yǔ)

LUT 或 SICE

LUT 或 SICE是構(gòu)成了 FPGA 的區(qū)域。它的數(shù)量有限，當(dāng)它用完時(shí)，意味著您的設(shè)計(jì)太大了！

BRAM 或 Block RAM

FPGA中的內(nèi)存。在 Z-7010 FPGA上，有 120 個(gè)，每個(gè)都是 2KiB（實(shí)際上是 18 kb）。

Latency延遲

• 設(shè)計(jì)產(chǎn)生結(jié)果所需的時(shí)鐘周期數(shù)。
• 循環(huán)的延遲是一次迭代所需的時(shí)鐘周期數(shù)。

Initiation Interval (or II, or Interval間隔)

• 在接受新數(shù)據(jù)之前必須執(zhí)行的時(shí)鐘周期數(shù)。

這與延遲不同！如果函數(shù)是流水線的，許多數(shù)據(jù)項(xiàng)會(huì)同時(shí)流過(guò)它。延遲是一個(gè)數(shù)據(jù)項(xiàng)被推入后彈出的時(shí)間，而時(shí)間間隔決定了數(shù)據(jù)可以被推入的速率。

• 循環(huán)的間隔是可以開(kāi)始循環(huán)迭代的最大速率，以時(shí)鐘周期為單位。

上圖中，左邊是函數(shù)右邊是循環(huán)，左邊的時(shí)間間隔（接收新數(shù)據(jù)之前）是3個(gè)時(shí)鐘周期，右邊循環(huán)的間隔則是一個(gè)時(shí)鐘周期；對(duì)于左邊的延遲是這個(gè)函數(shù)產(chǎn)生結(jié)果的時(shí)鐘周期數(shù)，是func_C運(yùn)行完畢產(chǎn)生的周期數(shù)，為5個(gè)時(shí)鐘周期，右邊循環(huán)的延遲是一次迭代所需的時(shí)鐘數(shù)，是4個(gè)時(shí)鐘周期。

上面的概念非常重要，要不然下面的一些指令作用也看不懂~

重要的指令

這是在實(shí)際使用過(guò)程中重要的指令列表（不是全部）。

• Functions-函數(shù)

• loops-循環(huán)

• Various-所有都適合

• Arrays-數(shù)組

• parameters-參數(shù)

任意精度類型

可以在 HLS 中使用普通的 C 類型（int、 char等）變量。但是，設(shè)計(jì)中的常用的寄存器并不完全需要 4、8 或 16 位寬，那么可以使用任意精度類型來(lái)準(zhǔn)確定義需要多寬的數(shù)據(jù)類型，而不是接受這種低效率的通用定義。

下面展示了如何使用 C 和 C++ 風(fēng)格的任意精度類型。我們建議使用 C++，除非有特定的理由不這樣做。

在 C 中：

包含 頭文件。然后，可以聲明具有如下類型的變量：

在 C++ 中：

包含 頭文件。然后，可以聲明具有如下類型的變量：

按照上面的設(shè)置應(yīng)該能夠正常打印任意精度類型，但是如果在調(diào)試過(guò)程中得到奇怪的值，請(qǐng)先使用printf調(diào)用to_int()：

ap_uint<23>myAP;
printf("%d
",myAP.to_int());

復(fù)位行為

在 HLS 中，所有靜態(tài)和全局變量都被初始化為零（如果給定了初始化值，則初始化為其他值）。這包括 RAM，其中每個(gè)元素都被清除為零。然而，這種初始化只發(fā)生在 FPGA 首次編程時(shí)。任何后續(xù)處理器復(fù)位都不會(huì)觸發(fā)初始化過(guò)程。

如果需要清除設(shè)備的內(nèi)部狀態(tài)，那么應(yīng)該包含某種復(fù)位協(xié)議（根據(jù)復(fù)位狀態(tài)處理所需要的程序）。

AXI 從接口和 AXI 主接口

可以在 HLS 組件中使用兩個(gè)接口，即 AXI Slave 和 AXI Master。

• AXI Slave：ARM 內(nèi)核使用此接口來(lái)啟動(dòng)和停止 HLS 組件。他們還可以使用此接口來(lái)讀取和寫入相對(duì)少量的用戶定義值。

• AXI Master：如果需要更大量的共享數(shù)據(jù)，HLS 組件可以使用 AXI Master 接口啟動(dòng)事務(wù)以從主系統(tǒng)內(nèi)存讀取和寫入數(shù)據(jù)。

可以通過(guò)toplevel在 HLS 組件中為函數(shù)指定參數(shù)并將指令附加到這些參數(shù)來(lái)定義所需的接口。下面顯示了一個(gè)只有從接口的組件：

帶有AXI Slave的 HLS 組件

uint32toplevel(uint32*arg1,uint32*arg2,uint32*arg3,uint32*arg4){
#pragmaHLSINTERFACEs_axiliteport=arg1bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg2bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg3bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg4bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=returnbundle=AXILiteSregister
}

而下面是一個(gè)同時(shí)具有從接口和主接口的組件：

具有從屬和主接口的 HLS 組件

uint32toplevel(uint32*ram,uint32*arg1,uint32*arg2,uint32*arg3,uint32*arg4){
#pragmaHLSINTERFACEm_axiport=ramoffset=slavebundle=MAXI
#pragmaHLSINTERFACEs_axiliteport=arg1bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg2bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg3bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg4bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=returnbundle=AXILiteSregister
}

請(qǐng)注意，可以為從接口添加和刪除參數(shù)，并更改它們的數(shù)據(jù)類型，只需記住也要更新關(guān)聯(lián)#pragmaS。HLS 將相應(yīng)地更新組件的驅(qū)動(dòng)程序。

PS:主數(shù)據(jù)類型:由于 AXI 主接口會(huì)連接到 32 位寬的 RAM，因此在指定 AXI 主接口時(shí)應(yīng)始終使用 32 位數(shù)據(jù)類型。

一旦決定了的接口，應(yīng)該能夠依靠 Vivado 自動(dòng)化連線來(lái)連接一切。

請(qǐng)注意，返回端口的 pragma 很重要！

#pragmaHLSINTERFACEs_axiliteport=returnbundle=AXILiteSregister

//端口=返回包=AXILiteS寄存器

即使不使用函數(shù)的返回值，此 pragma 也會(huì)告訴 HLS 將 start、stop、done 和 reset 信號(hào)捆綁到 AXI Slave 接口中的控制寄存器中。因此，這將生成相應(yīng)的驅(qū)動(dòng)程序函數(shù)來(lái)啟動(dòng)和停止生成的 IP 內(nèi)核。如果不包含此 pragma，則 HLS 將為這些信號(hào)生成簡(jiǎn)單的連線，并且 IP 內(nèi)核將無(wú)法直接被 ARM 內(nèi)核控制。

多種類型的 AXI Master

Vitis HLS在從同一主AXI端口復(fù)制值并將其解釋為不同類型時(shí)非常挑剔。

例如，以下 memcpy 可能會(huì)導(dǎo)致“Stored value type does not match pointer operand type! （存儲(chǔ)值類型與指針操作數(shù)類型不匹配?。?，嘗試將 RAM 視為uint32 和float類型時(shí)，綜合過(guò)程中將會(huì)產(chǎn)生 LLVM 錯(cuò)誤：

voidtoplevel(uint32*ram){
#pragmaHLSINTERFACEm_axiport=ramoffset=slavebundle=MAXI
uint32u_values[10];
floatf_values[10];

memcpy(u_values,ram,40);
memcpy(f_values,ram+10,40);
}

為了正確強(qiáng)制從 RAM 中復(fù)制數(shù)據(jù)的類型信息，可以使用union，如下所示：

typedefunion{
uint32u;
floatf;
}ram_t;

voidtoplevel(ram_t*ram){
#pragmaHLSINTERFACEm_axiport=ramoffset=slavebundle=MAXI
uint32u_values[10];
floatf_values[10];

for(inti=0;ifor(inti=0;i

此外，只要循環(huán)邊界從零開(kāi)始（并且是固定的），HLS應(yīng)該足夠聰明，將其視為類似于memcpy的突發(fā)傳輸-在綜合過(guò)程中查找“推斷MAXI端口上長(zhǎng)度為X的總線突發(fā)讀取”來(lái)證實(shí)這一點(diǎn)。

強(qiáng)制和阻止使用 Block RAM

HLS 會(huì)自動(dòng)將大部分ARRAY轉(zhuǎn)換為 BRAM。這通常很有用，因?yàn)榧拇嫫鰽RRAY在 LUT（FPGA 空間）方面非常昂貴。但是，F(xiàn)PGA 的 BRAM 數(shù)量有限。BRAM 也只有 2 個(gè)訪問(wèn)端口。這意味著在任何時(shí)候最多有兩個(gè)并行進(jìn)程可以訪問(wèn) RAM。這可能會(huì)限制設(shè)計(jì)的并行性潛力。

如果HLS使用的是不希望使用的BRAM，則將類型設(shè)置為COMPLETE且維度設(shè)置為1的指令array_PARTITION應(yīng)用于數(shù)組。這將迫使它從寄存器中生成數(shù)組。這會(huì)占用大量的FPGA空間（LUT），所以要節(jié)約！

要強(qiáng)制 HLS 使用 BRAM，請(qǐng)將指令BIND_STORAGE集應(yīng)用到 RAM_2P。（添加時(shí)按下幫助按鈕可查看所有各種選項(xiàng)的說(shuō)明）。

該 ARRAY_MAP 指令（見(jiàn)上文）可以通過(guò)自動(dòng)將多個(gè)較小的數(shù)組放入一個(gè)較大的數(shù)組來(lái)幫助節(jié)省 Block RAM。

當(dāng)更改 HLS 時(shí)

當(dāng)更改 HLS 代碼時(shí)，請(qǐng)執(zhí)行以下步驟以確保bitfile已更新，方便進(jìn)行正確地測(cè)試。

• 1、重新運(yùn)行綜合。
• 2、重新導(dǎo)出 IP 核。
• 3、在 Vivado 中，它應(yīng)該已經(jīng)注意到了變化，并且會(huì)出現(xiàn)一條消息說(shuō)“IP Catalog is out-of-date”。a、如果沒(méi)有，請(qǐng)單擊 IP Status，然后單擊重新運(yùn)行報(bào)告

b、單擊刷新 IP 目錄

c、在 IP Status面板中，應(yīng)選擇 toplevel IP。單擊 Upgrade 選項(xiàng)。

• 4、在“Generate Output Products”對(duì)話框中，單擊“Generate”。

• 5、單擊生成比特流。

• 6、導(dǎo)出硬件到 Vitis。

• 7、在 Vitis 中重新編程 FPGA 并運(yùn)行軟件。

現(xiàn)在應(yīng)該明白了為什么測(cè)試和仿真如此重要了！

循環(huán)優(yōu)化

在 HLS 中，可以將指令應(yīng)用于循環(huán)以指示它展開(kāi)或流水線?？紤]以下循環(huán)：

myloop:for(inti=0;i

默認(rèn)情況下，HLS 將按順序執(zhí)行循環(huán)的每次迭代。它的執(zhí)行將如下所示：

如果循環(huán)的每次迭代需要 10 個(gè)時(shí)鐘周期，那么循環(huán)總共需要 30 個(gè)周期才能完成。

如果我們給這個(gè)循環(huán) PIPELINE 指令，那么 HLS 將嘗試在元素 0 完成之前開(kāi)始計(jì)算元素 1，從而創(chuàng)建一個(gè)PIPELINE。這意味著循環(huán)的整體執(zhí)行時(shí)間會(huì)更短，但代價(jià)是更復(fù)雜的控制邏輯和更多的寄存器來(lái)存儲(chǔ)中間數(shù)據(jù)。循環(huán)如下所示：

只有在沒(méi)有阻止此優(yōu)化的依賴項(xiàng)時(shí)，它才能執(zhí)行此操作?？紤]以下代碼：

intlastVal;

for(inti=0;i

在此示例中，循環(huán)被迫按順序執(zhí)行，因?yàn)樵谙乱淮窝h(huán)迭代開(kāi)始時(shí)需要在循環(huán)體末尾使用計(jì)算出的值。PIPELINE 仍然會(huì)試圖加快速度，但不會(huì)大幅加快。

最后，如果我們給循環(huán) UNROLL 指令，那么 HLS 將嘗試并行執(zhí)行循環(huán)的迭代。這需要更多的硬件，但速度非常快。在我們的示例中，整個(gè)循環(huán)只需要 10 個(gè)周期。

這要求循環(huán)的元素之間沒(méi)有數(shù)據(jù)依賴關(guān)系。例如，如果 doSomething() 保留一個(gè)執(zhí)行次數(shù)的全局計(jì)數(shù)器，則此依賴項(xiàng)將阻止 UNROLL 指令工作。

請(qǐng)注意，UNROLL默認(rèn)情況下會(huì)嘗試展開(kāi)循環(huán)的所有迭代。這可能會(huì)導(dǎo)致非常大的設(shè)計(jì)！為了使事情更合理，可以設(shè)置UNROLL的FACTOR參數(shù)來(lái)告訴工具要?jiǎng)?chuàng)建多少副本。

應(yīng)用UNROLL后，最好在分析視圖中查看它是否實(shí)際應(yīng)用。成功展開(kāi)的設(shè)計(jì)在分析視圖中將非?！按怪薄保硎就涣兄械牟僮魍瑫r(shí)發(fā)生。如果視圖仍然非?！八健鼻矣泻芏嗔?，那么很可能是數(shù)據(jù)依賴項(xiàng)阻止了展開(kāi)?？梢試L試通過(guò)單擊操作來(lái)確定是什么阻止了展開(kāi)。該工具將繪制箭頭以顯示輸入的內(nèi)容和輸出的內(nèi)容。請(qǐng)記住，BlockRAM 一次只能進(jìn)行兩次訪問(wèn)，因此，如果有一個(gè)大型ARRAY，而這些工具是從 BlockRAM 制作的，則展開(kāi)或流水線操作最多只能創(chuàng)建 2 個(gè)副本?？梢愿嬖V工具不要使用帶有ARRAY_PARTITION指令的塊RAM。這可以快得多，但要使用更多的硬件資源。

數(shù)據(jù)流優(yōu)化

如果沒(méi)有使用限制資源的指令（例如 ALLOCATION 指令），HLS 會(huì)尋求最小化延遲并提高并發(fā)性。但是數(shù)據(jù)依賴性可以限制這一點(diǎn)。例如，訪問(wèn)數(shù)組的函數(shù)或循環(huán)必須在完成之前完成對(duì)數(shù)組的所有讀/寫訪問(wèn)，這就阻止了下一個(gè)消耗數(shù)據(jù)的函數(shù)或循環(huán)啟動(dòng)。

函數(shù)或循環(huán)中的操作可能會(huì) 在前一個(gè)函數(shù)或循環(huán)完成其所有操作之前開(kāi)始操作。

HLS指定數(shù)據(jù)流優(yōu)化時(shí)：

• 分析順序函數(shù)或循環(huán)之間的數(shù)據(jù)流。

這允許函數(shù)或循環(huán)并行運(yùn)行，從而減少延遲并提高 RTL 設(shè)計(jì)的吞吐量，但以增加硬件資源為代價(jià)。嘗試一下DATAFLOW ，看看它是否對(duì)設(shè)計(jì)有幫助。

找不到 'crt1.o' 錯(cuò)誤

當(dāng)試圖在實(shí)驗(yàn)室硬件以外的機(jī)器上運(yùn)行測(cè)試時(shí)，可能會(huì)收到一個(gè)錯(cuò)誤，抱怨它找不到“crt1.o”。如果是這樣，就需要為項(xiàng)目設(shè)置自定義鏈接器標(biāo)志。

單擊頂部菜單中的“Project”，然后單擊Project Settings。在此框中，單擊左側(cè)的“Simulation”，然后將以下內(nèi)容粘貼到“Linker Flags”框中：

-B"/usr/lib/x86_64-linux-gnu/"

我的循環(huán)有？？？latency估計(jì)！

有時(shí)，HLS 綜合報(bào)告將包含？而不是給出最小和最大延遲的值。這是因?yàn)樵O(shè)計(jì)中至少有一個(gè)循環(huán)是數(shù)據(jù)相關(guān)的，即它循環(huán)的次數(shù)取決于 HLS 無(wú)法知道的數(shù)據(jù)值。

例如，下面的代碼：

當(dāng)綜合在綜合報(bào)告中給出以下內(nèi)容：

如果我們檢查代碼，它將來(lái)自ram的元素相加，但要相加的元素的確切數(shù)量來(lái)自用戶，作為arg1參數(shù)輸入。因此，HLS無(wú)法提前知道該硬件執(zhí)行需要多長(zhǎng)時(shí)間，因?yàn)槊看芜\(yùn)行時(shí)它都是可變的。這就是上面我們說(shuō)的運(yùn)行時(shí)依賴于數(shù)據(jù)。生成的硬件將正常工作，我們只是無(wú)法預(yù)測(cè)運(yùn)行需要多長(zhǎng)時(shí)間。查看循環(huán)的細(xì)節(jié)，HLS仍然可以告訴我們循環(huán)的延遲是2，換句話說(shuō)，它不知道它將迭代多少次，但每次迭代將花費(fèi)2個(gè)時(shí)鐘周期。

一般來(lái)說(shuō)，應(yīng)該盡量避免這種情況。如果 HLS 無(wú)法預(yù)測(cè)最壞的情況，那么它會(huì)過(guò)于“謹(jǐn)慎”，并且它可能會(huì)制造比我們需要的更大的硬件。此外，不能展開(kāi)具有可變循環(huán)邊界的循環(huán)。

一些算法從根本上是依賴于數(shù)據(jù)的，如果這種情況無(wú)法避免，那么可以通過(guò)將LOOP_TRIPCOUNT指令添加到循環(huán)中來(lái)告訴 HLS ，假設(shè)循環(huán)將進(jìn)行給定次數(shù)的迭代，但這僅用于報(bào)告目的。生成的硬件將完全相同，但HLS將在循環(huán)迭代該次數(shù)的假設(shè)下生成延遲數(shù)。這意味著延遲數(shù)字不“正確”，但這仍然有助于了解其他優(yōu)化是否具有總體積極效果。

定點(diǎn)類型

當(dāng)需要使用小數(shù)運(yùn)算但又不想支付使用浮點(diǎn)的大量硬件成本時(shí)，定點(diǎn)類型很有用。Vitis HLS 用戶指南（https://www.xilinx.com/support/documentation/sw_manuals/xilinx2020_2/ug1399-vitis-hls.pdf）中詳細(xì)描述了定點(diǎn)類型，下面是一個(gè)簡(jiǎn)短示例：

定點(diǎn)示例

#include
#include

ap_fixed<15,?5>a=3.45;
ap_fixed<15,?5>b=9.645;
ap_fixed<20,?6>c=a/b*2;
std::cout<ifmoreaccuracyisrequired.

C標(biāo)準(zhǔn)數(shù)學(xué)函數(shù)（在math.h中）僅針對(duì)浮點(diǎn)實(shí)現(xiàn)，但Xilinx在hls_math.h中提供了某些函數(shù)的定點(diǎn)實(shí)現(xiàn)。在hls::命名空間下；例如：hls::sqrt（）、hls::cos（）和hls::sin（）。

此外，以下賽靈思示例代碼顯示了另一種定點(diǎn)平方根實(shí)現(xiàn)，在某些情況下可能更有效。

fxp_sqrt.h

#ifndef__FXP_SQRT_H__
#define__FXP_SQRT_H__
#include
#include
usingnamespacestd;

/*
*Providesafixedpointimplementationofsqrt()
*Mustbecalledwithunsignedfixedpointnumberssoconvertbeforecalling,follows:
*ap_ufixed<32,?20>in=input_number;
*ap_ufixed<32,?20>out;
*fxp_sqrt(out,in);
*/
template
voidfxp_sqrt(ap_ufixed&result,ap_ufixed&in_val)
{
enum{QW=(IW1+1)/2+(W2-IW2)+1};//derivemaxrootwidth
enum{SCALE=(W2-W1)-(IW2-(IW1+1)/2)};//scale(shift)toadjinitialremainervalue
enum{ROOT_PREC=QW-(IW1%2)};
assert((IW1+1)/2<=?IW2);?//?Check?that?output?format?can?accommodate?full?result
???ap_uintq=0;//partialsqrt
ap_uintq_star=0;//diminishedpartialsqrt
ap_ints;//scaledremainderinitializedtoextractedinputbits
if(SCALE>=0)
s=in_val.range(W1-1,0)<else
s=((in_val.range(W1-1,0)>>(0-(SCALE+1)))+1)>>1;
//Non-restoringsquare-rootalgorithm
for(inti=0;i<=?ROOT_PREC;?i++)?{
??????if(s>=0){
s=2*s-(((ap_int(q)<else{
s=2*s+(((ap_int(q_star)<"extraiteration"method
if(s>0)
q=q+1;
//Truncateexcessbitandassigntooutputformat
result.range(W2-1,0)=ap_uint(q>>1);
}
#endif

總結(jié)

這是《FPGA高層次綜合HLS》系列教程第二篇，后面會(huì)按照專題繼續(xù)更新，文章有什么問(wèn)題，歡迎大家批評(píng)指正~感謝大家支持。