盡管模仿人類思想和想法的軟件算法是人工智能的基礎(chǔ)，但硬件也是一個重要的組成部分，這就是現(xiàn)場可編程門陣列（FPGA）和圖形處理單元發(fā)揮至關(guān)重要的作用。

人工智能 （AI） 是指能夠以與人類相同的方式做出決策的非人類機(jī)器智能。這包括沉思、適應(yīng)性、意圖能力和判斷力。機(jī)器視覺、機(jī)器人自動化、認(rèn)知計算、機(jī)器學(xué)習(xí)和計算機(jī)視覺都是人工智能市場的應(yīng)用。人工智能正在汽車、消費(fèi)電子、媒體和娛樂以及半導(dǎo)體等各種行業(yè)領(lǐng)域迅速獲得牽引力，預(yù)示著下一次重大技術(shù)變革。

預(yù)計未來幾年半導(dǎo)體制造的范圍將擴(kuò)大。隨著全球?qū)C(jī)器學(xué)習(xí)設(shè)備的需求不斷增長，屬于EDA（電子設(shè)計自動化）、顯卡、游戲、多媒體行業(yè)的許多主要市場參與者都在投資提供創(chuàng)新和高速計算處理器。雖然人工智能主要基于模仿人類思想和想法的軟件算法，但硬件也是一個重要的組成部分?，F(xiàn)場可編程門陣列 （FPGA） 和圖形處理單元 （GPU） 是大多數(shù) AI 操作的兩種主要硬件解決方案。根據(jù)優(yōu)先研究小組的數(shù)據(jù)，10 年全球硬件市場中的人工智能價值為 41.2021 億美元，預(yù)計到 89 年將達(dá)到 22.2030 億美元，26 年至 96 年的復(fù)合年增長率為 2022.2030%。

FPGA 概述

具有可重編程邏輯門的硬件電路稱為現(xiàn)場可編程門陣列（FPGA）。當(dāng)芯片在現(xiàn)場使用時，用戶可以通過覆蓋配置來設(shè)計獨(dú)特的電路。這與無法重新編程的標(biāo)準(zhǔn)芯片形成鮮明對比。借助 FPGA 芯片，您可以構(gòu)建從簡單邏輯門到多核芯片組的任何內(nèi)容。FPGA的使用非常流行，其中本征電路至關(guān)重要，并且預(yù)計會發(fā)生變化。FPGA 應(yīng)用涵蓋了 ASIC 原型設(shè)計、汽車、多媒體、消費(fèi)電子以及更多領(lǐng)域。根據(jù)應(yīng)用要求，選擇低端、中端或高端FPGA配置。萊迪思半導(dǎo)體的ECP3和ECP5系列、賽靈思的Artix-7/Kintex-7系列以及英特爾的Stratix系列是一些流行的低功耗和低設(shè)計密度FPGA設(shè)計。

邏輯塊使用輸入有限的查找表 （LUT） 構(gòu)建，并使用基本存儲器（如 SRAM 或閃存）構(gòu)建以存儲布爾函數(shù)。每個LUT都連接到多路復(fù)用器和觸發(fā)器寄存器，以支持順序電路。同樣，許多LUT可用于創(chuàng)建復(fù)雜的功能。閱讀我們的 FPGA 博客，了解有關(guān)其架構(gòu)的更多信息。

FPGA 更適合嵌入式應(yīng)用，并且比 CPU 和 GPU 功耗更低。這些電路不受 GPU 等設(shè)計的限制，可以與定制數(shù)據(jù)類型一起使用。此外，F(xiàn)PGA 的可編程性使其更容易修改以解決安全和安全問題。

使用 FPGA 的優(yōu)勢

節(jié)能

借助 FPGA，設(shè)計人員可以精確調(diào)整硬件以滿足應(yīng)用的要求。憑借其低功耗能力，可以將 AI 和 ML 應(yīng)用的總體功耗降至最低。這可以延長設(shè)備的使用壽命并降低培訓(xùn)的總體成本。

易于靈活

FPGA 為處理 AI/ML 應(yīng)用提供了可編程性的靈活性?？梢愿鶕?jù)要求對單個塊或整個塊進(jìn)行編程。

減少延遲

FPGA 擅長處理短批處理短語，并減少延遲。減少延遲是指計算系統(tǒng)以最小延遲響應(yīng)的能力。這在實時數(shù)據(jù)處理應(yīng)用中至關(guān)重要，例如視頻監(jiān)控、視頻預(yù)處理和后處理以及文本識別，在這些應(yīng)用中，每一微秒都很重要。由于 FPGA 和 ASIC 在沒有操作系統(tǒng)的裸機(jī)環(huán)境中運(yùn)行，因此它們比 GPU 更快。

并行處理

FPGA 能夠同時承載多個任務(wù)，甚至為特定功能指定器件的特定部分，從而顯著提高其操作和能效。少量分布式存儲器包含在FPGA特殊架構(gòu)的結(jié)構(gòu)中，使它們更接近處理器。

圖形用戶界面概述

圖形處理單元 （GPU） 的最初目的是創(chuàng)建計算機(jī)圖形和虛擬現(xiàn)實環(huán)境，這些環(huán)境依賴于復(fù)雜的計算和浮點(diǎn)功能來渲染幾何對象。沒有它們，現(xiàn)代人工智能基礎(chǔ)設(shè)施將是不完整的，并且非常適合深度學(xué)習(xí)過程。

人工智能需要大量的數(shù)據(jù)來研究和學(xué)習(xí)才能成功。要運(yùn)行AI算法并移動大量數(shù)據(jù)，需要大量的計算能力。GPU 可以執(zhí)行這些任務(wù)，因為它們是為了快速處理生成圖形和視頻所需的大量數(shù)據(jù)而創(chuàng)建的。它們在機(jī)器學(xué)習(xí)和人工智能應(yīng)用中的廣泛使用部分歸功于它們的高計算能力。

GPU 可以同時處理多個計算。因此，訓(xùn)練過程可以分發(fā)，從而大大加快了機(jī)器學(xué)習(xí)活動的速度。使用 GPU，您可以添加多個資源要求較低的內(nèi)核，而不會影響性能或功耗。市場上有各種類型的 GPU，通常分為以下幾類，例如數(shù)據(jù)中心 GPU、消費(fèi)級 GPU 和企業(yè)級 GPU。

使用 GPU 的優(yōu)勢

內(nèi)存帶寬

GPU 具有良好的內(nèi)存帶寬，因此它們傾向于在深度學(xué)習(xí)應(yīng)用程序的情況下快速執(zhí)行計算。GPU 在大型數(shù)據(jù)集上訓(xùn)練模型時消耗的內(nèi)存更少。憑借高達(dá) 750GB 的內(nèi)存帶寬，它們可以真正加速 AI 算法的快速處理。

多核

通常，GPU 由許多可以組合在一起的處理器集群組成。這使得可以大大提高系統(tǒng)的處理能力，特別是對于具有并行數(shù)據(jù)輸入、卷積神經(jīng)網(wǎng)絡(luò) （CNN） 和 ML 算法訓(xùn)練的 AI 應(yīng)用程序。

靈活性

由于 GPU 的并行功能，您可以將 GPU 分組到集群中，并在這些集群之間分配作業(yè)。另一種選擇是使用具有專用集群的單個 GPU 來訓(xùn)練特定算法。具有高數(shù)據(jù)吞吐量的 GPU 可以對多個數(shù)據(jù)點(diǎn)并行執(zhí)行相同的操作，從而能夠以無與倫比的速度處理大量數(shù)據(jù)。

數(shù)據(jù)集大小

對于模型訓(xùn)練，AI 算法需要一個大型數(shù)據(jù)集，該數(shù)據(jù)集需要占用大量內(nèi)存計算。GPU 是高效處理具有許多大小大于 100GB 的數(shù)據(jù)點(diǎn)的數(shù)據(jù)集的最佳選擇之一。自并行處理開始以來，它們提供了有效處理基本相同或非結(jié)構(gòu)化數(shù)據(jù)所需的原始計算能力。

運(yùn)行 AI 應(yīng)用程序的兩個主要硬件選擇是 FPGA 和 GPU。盡管 GPU 可以處理 AI 和深度學(xué)習(xí)所需的大量數(shù)據(jù)，但它們在能源效率、散熱問題、耐用性以及使用新的 AI 算法更新應(yīng)用程序的能力方面存在局限性。FPGA 為神經(jīng)網(wǎng)絡(luò)和 ML 應(yīng)用提供了顯著的優(yōu)勢。其中包括 AI 算法更新的便利性、可用性、耐用性和能源效率。

此外，在創(chuàng)建FPGA軟件方面也取得了重大進(jìn)展，使編譯和編程變得更加簡單。若要使 AI 應(yīng)用程序成功，必須調(diào)查硬件的可能性。正如所說，在確定行動方案之前，請仔細(xì)權(quán)衡您的選擇。

Softnautics AI/ML 專家在為各種邊緣平臺（包括 CPU、GPU、TPU 和神經(jīng)網(wǎng)絡(luò)編譯器）創(chuàng)建高效的機(jī)器學(xué)習(xí)解決方案方面擁有豐富的專業(yè)知識。我們還通過結(jié)合最佳設(shè)計方法和適當(dāng)?shù)募夹g(shù)堆棧，提供安全的嵌入式系統(tǒng)開發(fā)和FPGA設(shè)計服務(wù)。我們幫助企業(yè)跨各種平臺構(gòu)建高性能云和基于邊緣的 AI/ML 解決方案，例如關(guān)鍵短語/語音命令檢測、面部/手勢識別、物體/車道檢測、人工計數(shù)等。

審核編輯：郭婷