該目錄包含各種硬件覆蓋，用于加速不同平臺上的神經(jīng)網(wǎng)絡(luò)。

背景

FPGA（現(xiàn)場可編程門陣列）是半導(dǎo)體器件，通過設(shè)計實現(xiàn)具有可編程互連的邏輯塊陣列。與“硬化”設(shè)備（即CPU / GPU）不同，F(xiàn)PGA可以編程為實現(xiàn)用戶所需的特定硬件設(shè)計。在設(shè)計硬件系統(tǒng)之后，必須使用二進(jìn)制文件對FPGA進(jìn)行編程。此過程通常稱為配置。此外，在具有固定功能和動態(tài)功能的用例中，可以部分地重新配置FPGA。在數(shù)據(jù)中心環(huán)境中，F(xiàn)PGA通過PCIe連接到CPU，或者連接到外部片外存儲器。鑒于上述假設(shè)，F(xiàn)PGA二進(jìn)制文件可以劃分為靜態(tài)shell（Xilinx使用術(shù)語DSA）和動態(tài)overlay（Xilinx使用術(shù)語xclbin）。必須在加載任何overlay之前加載靜態(tài)shell。 Xilinx的云合作伙伴已經(jīng)加載了shell。如果這個解釋看起來有點令人困惑，請不要過于擔(dān)心。您需要知道的是，您需要選擇最能滿足您應(yīng)用需求的overlay。它將由Python API加載。

AWS 硬件 Overlays

NIMBIX 硬件 Overlays

VCU1525 硬件 Overlays?

注意：目前，只有overlay_2和overlay_3可用。 你可能會遇到一個已知問題，速度降級。 這將很快更新（xilinx官方表示）。

overlay_0.xclbin：
這種overlay最適合best for高吞吐量應(yīng)用。
它可以并行處理8個圖像，它不支持具有非常大的濾波器的網(wǎng)絡(luò)，例如YOLOv2

overlay_1.xclbin：
這種overlay非常適合great for高吞吐量應(yīng)用。
它可以并行處理4個圖像，并且它將保持精確度幾乎等同于float32模型

overlay_2.xclbin：
這種overlay最適合best for高吞吐量應(yīng)用。
它可以以2倍速并行處理2個圖像，而32x28替代，較大的DSP計算陣列提供最小延遲，并且支持的較大濾波器尺寸可容納大型網(wǎng)絡(luò)，如YOLOv2

overlay_3.xclbin：
這種overlay有利于good for高吞吐量應(yīng)用。
它可以以2倍速度一次處理1個圖像，而32x28替代，較大的DSP計算陣列提供最小延遲，并且支持的較大濾波器尺寸可容納大型網(wǎng)絡(luò)，如YOLOv2，并且它將保持精度幾乎相當(dāng)于float32型號