副標(biāo)題-FPGA高層次綜合HLS(二)-Vitis HLS知識(shí)庫(kù)

高層次綜合（High-level Synthesis）簡(jiǎn)稱HLS，指的是將高層次語(yǔ)言描述的邏輯結(jié)構(gòu)，自動(dòng)轉(zhuǎn)換成低抽象級(jí)語(yǔ)言描述的電路模型的過(guò)程。

對(duì)于AMD Xilinx而言，Vivado 2019.1之前（包括），HLS工具叫Vivado HLS，之后為了統(tǒng)一將HLS集成到Vitis里了，集成之后增加了一些功能，同時(shí)將這部分開源出來(lái)了。Vitis HLS是Vitis AI重要組成部分，所以我們將重點(diǎn)介紹Vitis HLS。

官方指南：

https://docs.xilinx.com/r/_lSn47LKK31fyYQ_PRDoIQ/root

重要術(shù)語(yǔ)

LUT 或 SICE

LUT 或 SICE是構(gòu)成了 FPGA 的區(qū)域。它的數(shù)量有限，當(dāng)它用完時(shí)，意味著您的設(shè)計(jì)太大了！

BRAM 或 Block RAM

FPGA中的內(nèi)存。在 Z-7010 FPGA上，有 120 個(gè)，每個(gè)都是 2KiB（實(shí)際上是 18 kb）。

Latency延遲

設(shè)計(jì)產(chǎn)生結(jié)果所需的時(shí)鐘周期數(shù)。

循環(huán)的延遲是一次迭代所需的時(shí)鐘周期數(shù)。

Initiation Interval (or II, or Interval間隔)

在接受新數(shù)據(jù)之前必須執(zhí)行的時(shí)鐘周期數(shù)。

這與延遲不同！如果函數(shù)是流水線的，許多數(shù)據(jù)項(xiàng)會(huì)同時(shí)流過(guò)它。延遲是一個(gè)數(shù)據(jù)項(xiàng)被推入后彈出的時(shí)間，而時(shí)間間隔決定了數(shù)據(jù)可以被推入的速率。

循環(huán)的間隔是可以開始循環(huán)迭代的最大速率，以時(shí)鐘周期為單位。

上圖中，左邊是函數(shù)右邊是循環(huán)，左邊的時(shí)間間隔（接收新數(shù)據(jù)之前）是3個(gè)時(shí)鐘周期，右邊循環(huán)的間隔則是一個(gè)時(shí)鐘周期；對(duì)于左邊的延遲是這個(gè)函數(shù)產(chǎn)生結(jié)果的時(shí)鐘周期數(shù)，是func_C運(yùn)行完畢產(chǎn)生的周期數(shù)，為5個(gè)時(shí)鐘周期，右邊循環(huán)的延遲是一次迭代所需的時(shí)鐘數(shù)，是4個(gè)時(shí)鐘周期。

上面的概念非常重要，要不然下面的一些指令作用也看不懂~

重要的指令

這是在實(shí)際使用過(guò)程中重要的指令列表（不是全部）。

Functions-函數(shù)

loops-循環(huán)

Various-所有都適合

Arrays-數(shù)組

parameters-參數(shù)

任意精度類型

可以在 HLS 中使用普通的 C 類型（int、 char等）變量。但是，設(shè)計(jì)中的常用的寄存器并不完全需要 4、8 或 16 位寬，那么可以使用任意精度類型來(lái)準(zhǔn)確定義需要多寬的數(shù)據(jù)類型，而不是接受這種低效率的通用定義。

下面展示了如何使用 C 和 C++ 風(fēng)格的任意精度類型。我們建議使用 C++，除非有特定的理由不這樣做。

在 C 中：

包含 頭文件。然后，可以聲明具有如下類型的變量：

在 C++ 中：

包含 頭文件。然后，可以聲明具有如下類型的變量：

按照上面的設(shè)置應(yīng)該能夠正常打印任意精度類型，但是如果在調(diào)試過(guò)程中得到奇怪的值，請(qǐng)先使用printf調(diào)用to_int()：

ap_uint<23>myAP;
printf("%d
",myAP.to_int());

復(fù)位行為

在 HLS 中，所有靜態(tài)和全局變量都被初始化為零（如果給定了初始化值，則初始化為其他值）。這包括 RAM，其中每個(gè)元素都被清除為零。然而，這種初始化只發(fā)生在 FPGA 首次編程時(shí)。任何后續(xù)處理器復(fù)位都不會(huì)觸發(fā)初始化過(guò)程。

如果需要清除設(shè)備的內(nèi)部狀態(tài)，那么應(yīng)該包含某種復(fù)位協(xié)議（根據(jù)復(fù)位狀態(tài)處理所需要的程序）。

AXI 從接口和 AXI 主接口

可以在 HLS 組件中使用兩個(gè)接口，即 AXI Slave 和 AXI Master。

AXI Slave：ARM 內(nèi)核使用此接口來(lái)啟動(dòng)和停止 HLS 組件。他們還可以使用此接口來(lái)讀取和寫入相對(duì)少量的用戶定義值。

AXI Master：如果需要更大量的共享數(shù)據(jù)，HLS 組件可以使用 AXI Master 接口啟動(dòng)事務(wù)以從主系統(tǒng)內(nèi)存讀取和寫入數(shù)據(jù)。

可以通過(guò)toplevel在 HLS 組件中為函數(shù)指定參數(shù)并將指令附加到這些參數(shù)來(lái)定義所需的接口。下面顯示了一個(gè)只有從接口的組件：

帶有AXI Slave的 HLS 組件

uint32toplevel(uint32*arg1,uint32*arg2,uint32*arg3,uint32*arg4){
#pragmaHLSINTERFACEs_axiliteport=arg1bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg2bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg3bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg4bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=returnbundle=AXILiteSregister
}

而下面是一個(gè)同時(shí)具有從接口和主接口的組件：

具有從屬和主接口的 HLS 組件

uint32toplevel(uint32*ram,uint32*arg1,uint32*arg2,uint32*arg3,uint32*arg4){
#pragmaHLSINTERFACEm_axiport=ramoffset=slavebundle=MAXI
#pragmaHLSINTERFACEs_axiliteport=arg1bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg2bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg3bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=arg4bundle=AXILiteSregister
#pragmaHLSINTERFACEs_axiliteport=returnbundle=AXILiteSregister
}

請(qǐng)注意，可以為從接口添加和刪除參數(shù)，并更改它們的數(shù)據(jù)類型，只需記住也要更新關(guān)聯(lián)#pragmaS。HLS 將相應(yīng)地更新組件的驅(qū)動(dòng)程序。

PS:主數(shù)據(jù)類型:由于 AXI 主接口會(huì)連接到 32 位寬的 RAM，因此在指定 AXI 主接口時(shí)應(yīng)始終使用 32 位數(shù)據(jù)類型。

一旦決定了的接口，應(yīng)該能夠依靠 Vivado 自動(dòng)化連線來(lái)連接一切。

請(qǐng)注意，返回端口的 pragma 很重要！

#pragmaHLSINTERFACEs_axiliteport=returnbundle=AXILiteSregister

//端口=返回包=AXILiteS寄存器

即使不使用函數(shù)的返回值，此 pragma 也會(huì)告訴 HLS 將 start、stop、done 和 reset 信號(hào)捆綁到 AXI Slave 接口中的控制寄存器中。因此，這將生成相應(yīng)的驅(qū)動(dòng)程序函數(shù)來(lái)啟動(dòng)和停止生成的 IP 內(nèi)核。如果不包含此 pragma，則 HLS 將為這些信號(hào)生成簡(jiǎn)單的連線，并且 IP 內(nèi)核將無(wú)法直接被 ARM 內(nèi)核控制。

多種類型的 AXI Master

Vitis HLS在從同一主AXI端口復(fù)制值并將其解釋為不同類型時(shí)非常挑剔。

例如，以下 memcpy 可能會(huì)導(dǎo)致“Stored value type does not match pointer operand type! （存儲(chǔ)值類型與指針操作數(shù)類型不匹配?。?，嘗試將 RAM 視為uint32 和float類型時(shí)，綜合過(guò)程中將會(huì)產(chǎn)生 LLVM 錯(cuò)誤：

voidtoplevel(uint32*ram){
#pragmaHLSINTERFACEm_axiport=ramoffset=slavebundle=MAXI
uint32u_values[10];
floatf_values[10];

memcpy(u_values,ram,40);
memcpy(f_values,ram+10,40);
}

為了正確強(qiáng)制從 RAM 中復(fù)制數(shù)據(jù)的類型信息，可以使用union，如下所示：

typedefunion{
uint32u;
floatf;
}ram_t;

voidtoplevel(ram_t*ram){
#pragmaHLSINTERFACEm_axiport=ramoffset=slavebundle=MAXI
uint32u_values[10];
floatf_values[10];

for(inti=0;i

	

	此外，只要循環(huán)邊界從零開始（并且是固定的），HLS應(yīng)該足夠聰明，將其視為類似于memcpy的突發(fā)傳輸-在綜合過(guò)程中查找“推斷MAXI端口上長(zhǎng)度為X的總線突發(fā)讀取”來(lái)證實(shí)這一點(diǎn)。

	強(qiáng)制和阻止使用 Block RAM

	HLS 會(huì)自動(dòng)將大部分ARRAY轉(zhuǎn)換為 BRAM。這通常很有用，因?yàn)榧拇嫫鰽RRAY在 LUT（FPGA 空間）方面非常昂貴。但是，F(xiàn)PGA 的 BRAM 數(shù)量有限。BRAM 也只有 2 個(gè)訪問(wèn)端口。這意味著在任何時(shí)候最多有兩個(gè)并行進(jìn)程可以訪問(wèn) RAM。這可能會(huì)限制設(shè)計(jì)的并行性潛力。

	如果HLS使用的是不希望使用的BRAM，則將類型設(shè)置為COMPLETE且維度設(shè)置為1的指令array_PARTITION應(yīng)用于數(shù)組。這將迫使它從寄存器中生成數(shù)組。這會(huì)占用大量的FPGA空間（LUT），所以要節(jié)約！

	要強(qiáng)制 HLS 使用 BRAM，請(qǐng)將指令BIND_STORAGE集應(yīng)用到 RAM_2P。（添加時(shí)按下幫助按鈕可查看所有各種選項(xiàng)的說(shuō)明）。

	該 ARRAY_MAP 指令（見(jiàn)上文）可以通過(guò)自動(dòng)將多個(gè)較小的數(shù)組放入一個(gè)較大的數(shù)組來(lái)幫助節(jié)省 Block RAM。

	當(dāng)更改 HLS 時(shí)

	當(dāng)更改 HLS 代碼時(shí)，請(qǐng)執(zhí)行以下步驟以確保bitfile已更新，方便進(jìn)行正確地測(cè)試。

	1、重新運(yùn)行綜合。

	2、重新導(dǎo)出 IP 核。

	3、在 Vivado 中，它應(yīng)該已經(jīng)注意到了變化，并且會(huì)出現(xiàn)一條消息說(shuō)“IP Catalog is out-of-date”。a、如果沒(méi)有，請(qǐng)單擊 IP Status，然后單擊重新運(yùn)行報(bào)告

	b、單擊刷新 IP 目錄

	c、在 IP Status面板中，應(yīng)選擇 toplevel IP。單擊 Upgrade 選項(xiàng)。

	4、在“Generate Output Products”對(duì)話框中，單擊“Generate”。

	5、單擊生成比特流。

	6、導(dǎo)出硬件到 Vitis。

	7、在 Vitis 中重新編程 FPGA 并運(yùn)行軟件。

	現(xiàn)在應(yīng)該明白了為什么測(cè)試和仿真如此重要了！

	循環(huán)優(yōu)化

	在 HLS 中，可以將指令應(yīng)用于循環(huán)以指示它展開或流水線?？紤]以下循環(huán)：

	
myloop:for(inti=0;i

	

	默認(rèn)情況下，HLS 將按順序執(zhí)行循環(huán)的每次迭代。它的執(zhí)行將如下所示：

	

	如果循環(huán)的每次迭代需要 10 個(gè)時(shí)鐘周期，那么循環(huán)總共需要 30 個(gè)周期才能完成。

	如果我們給這個(gè)循環(huán) PIPELINE 指令，那么 HLS 將嘗試在元素 0 完成之前開始計(jì)算元素 1，從而創(chuàng)建一個(gè)PIPELINE。這意味著循環(huán)的整體執(zhí)行時(shí)間會(huì)更短，但代價(jià)是更復(fù)雜的控制邏輯和更多的寄存器來(lái)存儲(chǔ)中間數(shù)據(jù)。循環(huán)如下所示：

	

	只有在沒(méi)有阻止此優(yōu)化的依賴項(xiàng)時(shí)，它才能執(zhí)行此操作?？紤]以下代碼：

	
intlastVal;

for(inti=0;i

	

	在此示例中，循環(huán)被迫按順序執(zhí)行，因?yàn)樵谙乱淮窝h(huán)迭代開始時(shí)需要在循環(huán)體末尾使用計(jì)算出的值。PIPELINE 仍然會(huì)試圖加快速度，但不會(huì)大幅加快。

	最后，如果我們給循環(huán) UNROLL 指令，那么 HLS 將嘗試并行執(zhí)行循環(huán)的迭代。這需要更多的硬件，但速度非?？?。在我們的示例中，整個(gè)循環(huán)只需要 10 個(gè)周期。

	

	這要求循環(huán)的元素之間沒(méi)有數(shù)據(jù)依賴關(guān)系。例如，如果 doSomething() 保留一個(gè)執(zhí)行次數(shù)的全局計(jì)數(shù)器，則此依賴項(xiàng)將阻止 UNROLL 指令工作。

	請(qǐng)注意，UNROLL默認(rèn)情況下會(huì)嘗試展開循環(huán)的所有迭代。這可能會(huì)導(dǎo)致非常大的設(shè)計(jì)！為了使事情更合理，可以設(shè)置UNROLL的FACTOR參數(shù)來(lái)告訴工具要?jiǎng)?chuàng)建多少副本。

	應(yīng)用UNROLL后，最好在分析視圖中查看它是否實(shí)際應(yīng)用。成功展開的設(shè)計(jì)在分析視圖中將非?！按怪薄?，表示同一列中的操作同時(shí)發(fā)生。如果視圖仍然非?！八健鼻矣泻芏嗔?，那么很可能是數(shù)據(jù)依賴項(xiàng)阻止了展開?？梢試L試通過(guò)單擊操作來(lái)確定是什么阻止了展開。該工具將繪制箭頭以顯示輸入的內(nèi)容和輸出的內(nèi)容。請(qǐng)記住，BlockRAM 一次只能進(jìn)行兩次訪問(wèn)，因此，如果有一個(gè)大型ARRAY，而這些工具是從 BlockRAM 制作的，則展開或流水線操作最多只能創(chuàng)建 2 個(gè)副本。可以告訴工具不要使用帶有ARRAY_PARTITION指令的塊RAM。這可以快得多，但要使用更多的硬件資源。

	數(shù)據(jù)流優(yōu)化

	如果沒(méi)有使用限制資源的指令（例如 ALLOCATION 指令），HLS 會(huì)尋求最小化延遲并提高并發(fā)性。但是數(shù)據(jù)依賴性可以限制這一點(diǎn)。例如，訪問(wèn)數(shù)組的函數(shù)或循環(huán)必須在完成之前完成對(duì)數(shù)組的所有讀/寫訪問(wèn)，這就阻止了下一個(gè)消耗數(shù)據(jù)的函數(shù)或循環(huán)啟動(dòng)。

	函數(shù)或循環(huán)中的操作可能會(huì) 在前一個(gè)函數(shù)或循環(huán)完成其所有操作之前開始操作。

	HLS指定數(shù)據(jù)流優(yōu)化時(shí)：

	分析順序函數(shù)或循環(huán)之間的數(shù)據(jù)流。

	這允許函數(shù)或循環(huán)并行運(yùn)行，從而減少延遲并提高 RTL 設(shè)計(jì)的吞吐量，但以增加硬件資源為代價(jià)。嘗試一下DATAFLOW ，看看它是否對(duì)設(shè)計(jì)有幫助。

	找不到 'crt1.o' 錯(cuò)誤

	當(dāng)試圖在實(shí)驗(yàn)室硬件以外的機(jī)器上運(yùn)行測(cè)試時(shí)，可能會(huì)收到一個(gè)錯(cuò)誤，抱怨它找不到“crt1.o”。如果是這樣，就需要為項(xiàng)目設(shè)置自定義鏈接器標(biāo)志。

	單擊頂部菜單中的“Project”，然后單擊Project Settings。在此框中，單擊左側(cè)的“Simulation”，然后將以下內(nèi)容粘貼到“Linker Flags”框中：

	
-B"/usr/lib/x86_64-linux-gnu/"


	

	我的循環(huán)有？？？latency估計(jì)！

	有時(shí)，HLS 綜合報(bào)告將包含？而不是給出最小和最大延遲的值。這是因?yàn)樵O(shè)計(jì)中至少有一個(gè)循環(huán)是數(shù)據(jù)相關(guān)的，即它循環(huán)的次數(shù)取決于 HLS 無(wú)法知道的數(shù)據(jù)值。

	例如，下面的代碼：

	

	當(dāng)綜合在綜合報(bào)告中給出以下內(nèi)容：

	

	如果我們檢查代碼，它將來(lái)自ram的元素相加，但要相加的元素的確切數(shù)量來(lái)自用戶，作為arg1參數(shù)輸入。因此，HLS無(wú)法提前知道該硬件執(zhí)行需要多長(zhǎng)時(shí)間，因?yàn)槊看芜\(yùn)行時(shí)它都是可變的。這就是上面我們說(shuō)的運(yùn)行時(shí)依賴于數(shù)據(jù)。生成的硬件將正常工作，我們只是無(wú)法預(yù)測(cè)運(yùn)行需要多長(zhǎng)時(shí)間。查看循環(huán)的細(xì)節(jié)，HLS仍然可以告訴我們循環(huán)的延遲是2，換句話說(shuō)，它不知道它將迭代多少次，但每次迭代將花費(fèi)2個(gè)時(shí)鐘周期。

	一般來(lái)說(shuō)，應(yīng)該盡量避免這種情況。如果 HLS 無(wú)法預(yù)測(cè)最壞的情況，那么它會(huì)過(guò)于“謹(jǐn)慎”，并且它可能會(huì)制造比我們需要的更大的硬件。此外，不能展開具有可變循環(huán)邊界的循環(huán)。

	一些算法從根本上是依賴于數(shù)據(jù)的，如果這種情況無(wú)法避免，那么可以通過(guò)將LOOP_TRIPCOUNT指令添加到循環(huán)中來(lái)告訴 HLS ，假設(shè)循環(huán)將進(jìn)行給定次數(shù)的迭代，但這僅用于報(bào)告目的。生成的硬件將完全相同，但HLS將在循環(huán)迭代該次數(shù)的假設(shè)下生成延遲數(shù)。這意味著延遲數(shù)字不“正確”，但這仍然有助于了解其他優(yōu)化是否具有總體積極效果。

	定點(diǎn)類型

	當(dāng)需要使用小數(shù)運(yùn)算但又不想支付使用浮點(diǎn)的大量硬件成本時(shí)，定點(diǎn)類型很有用。Vitis HLS 用戶指南（https://www.xilinx.com/support/documentation/sw_manuals/xilinx2020_2/ug1399-vitis-hls.pdf）中詳細(xì)描述了定點(diǎn)類型，下面是一個(gè)簡(jiǎn)短示例：

	定點(diǎn)示例

	
#include
#include

ap_fixed<15,?5>a=3.45;
ap_fixed<15,?5>b=9.645;
ap_fixed<20,?6>c=a/b*2;
std::cout<

	

	C標(biāo)準(zhǔn)數(shù)學(xué)函數(shù)（在math.h中）僅針對(duì)浮點(diǎn)實(shí)現(xiàn)，但Xilinx在hls_math.h中提供了某些函數(shù)的定點(diǎn)實(shí)現(xiàn)。在hls::命名空間下；例如：hls::sqrt（）、hls::cos（）和hls::sin（）。

	此外，以下賽靈思示例代碼顯示了另一種定點(diǎn)平方根實(shí)現(xiàn)，在某些情況下可能更有效。

	fxp_sqrt.h

	
#ifndef__FXP_SQRT_H__
#define__FXP_SQRT_H__
#include
#include
usingnamespacestd;

/*
*Providesafixedpointimplementationofsqrt()
*Mustbecalledwithunsignedfixedpointnumberssoconvertbeforecalling,follows:
*ap_ufixed<32,?20>in=input_number;
*ap_ufixed<32,?20>out;
*fxp_sqrt(out,in);
*/
template
voidfxp_sqrt(ap_ufixed&result,ap_ufixed&in_val)
{
enum{QW=(IW1+1)/2+(W2-IW2)+1};//derivemaxrootwidth
enum{SCALE=(W2-W1)-(IW2-(IW1+1)/2)};//scale(shift)toadjinitialremainervalue
enum{ROOT_PREC=QW-(IW1%2)};
assert((IW1+1)/2<=?IW2);?//?Check?that?output?format?can?accommodate?full?result
???ap_uintq=0;//partialsqrt
ap_uintq_star=0;//diminishedpartialsqrt
ap_ints;//scaledremainderinitializedtoextractedinputbits
if(SCALE>=0)
s=in_val.range(W1-1,0)<>(0-(SCALE+1)))+1)>>1;
//Non-restoringsquare-rootalgorithm
for(inti=0;i<=?ROOT_PREC;?i++)?{
??????if?(s?>=0){
s=2*s-(((ap_int(q)<(q_star)<0)
q=q+1;
//Truncateexcessbitandassigntooutputformat
result.range(W2-1,0)=ap_uint(q>>1);
}
#endif



	

	總結(jié)

	這是《FPGA高層次綜合HLS》系列教程第二篇，后面會(huì)按照專題繼續(xù)更新，文章有什么問(wèn)題，歡迎大家批評(píng)指正~感謝大家支持。

	

	   審核編輯：彭靜