本文由半導(dǎo)體產(chǎn)業(yè)縱橫（ID：ICVIEWS）編譯自run

人工智能芯片為人工智能和數(shù)據(jù)科學(xué)行業(yè)帶來了引人注目的好處。

人工智能 (AI) 正在改變我們的世界，而這場革命的一個重要組成部分是對大量計算能力的需求。

什么是人工智能技術(shù)？

機器學(xué)習(xí)算法每天都變得越來越復(fù)雜，需要越來越多的計算能力來進行訓(xùn)練和推理。最初，人工智能工作負載在傳統(tǒng)中央處理單元 (CPU) 上運行，利用多核 CPU 和并行計算的強大功能。幾年前，人工智能行業(yè)發(fā)現(xiàn)圖形處理單元 (GPU) 在運行某些類型的人工智能工作負載時非常高效。但對于那些處于人工智能開發(fā)前沿的人來說，標準 GPU 已不再足夠，因此需要開發(fā)出更專業(yè)的硬件。雖然 GPU 可以被視為人工智能芯片，但現(xiàn)在有一些硬件設(shè)備是從頭開始設(shè)計的，可以比傳統(tǒng) CPU 或 GPU 更高效地執(zhí)行人工智能任務(wù)。我們將回顧 GPU 和更新的專用處理器如何并行處理大量數(shù)據(jù)和復(fù)雜計算，從而使它們能夠高效地處理機器學(xué)習(xí)工作負載。

AI芯片技術(shù)演進

圖形處理單元 (GPU)GPU 最初是為渲染高分辨率圖形和視頻游戲而設(shè)計的，但很快就成為人工智能領(lǐng)域的一種商品。與只能同時執(zhí)行幾個復(fù)雜任務(wù)的 CPU 不同，GPU 的設(shè)計目的是并行執(zhí)行數(shù)千個簡單任務(wù)。這使得它們在處理機器學(xué)習(xí)工作負載時非常高效，這些工作負載通常需要大量非常簡單的計算，例如矩陣乘法。然而，雖然 GPU 在人工智能的崛起中發(fā)揮了至關(guān)重要的作用，但它們也并非沒有局限性。GPU 并不是專門為 AI 任務(wù)設(shè)計的，因此它們并不總是這些工作負載的最有效選擇。這導(dǎo)致了更專業(yè)的人工智能芯片的開發(fā)，例如專用集成電路（ASIC）和現(xiàn)場可編程門陣列（FPGA）。ASIC 和 FPGA

ASIC 和 FPGA 代表了人工智能芯片技術(shù)發(fā)展的下一步。ASIC（即專用集成電路）是為特定任務(wù)或應(yīng)用定制的芯片。就人工智能而言，ASIC 旨在處理特定的人工智能工作負載，例如神經(jīng)網(wǎng)絡(luò)處理。這使得它們在執(zhí)行這些任務(wù)時非常高效，但靈活性不如其他類型的芯片。

FPGA（現(xiàn)場可編程門陣列）是可以通過編程來執(zhí)行各種任務(wù)的芯片。它們比 ASIC 更靈活，使其成為各種人工智能工作負載的絕佳選擇。然而，它們通常也比其他類型的芯片更復(fù)雜和更昂貴。神經(jīng)處理單元 (NPU)

AI芯片技術(shù)的最新發(fā)展是神經(jīng)處理單元（NPU）。這些芯片專為處理神經(jīng)網(wǎng)絡(luò)而設(shè)計，神經(jīng)網(wǎng)絡(luò)是現(xiàn)代人工智能系統(tǒng)的關(guān)鍵組成部分。NPU 針對神經(jīng)網(wǎng)絡(luò)所需的大容量并行計算進行了優(yōu)化，其中包括矩陣乘法和激活函數(shù)計算等任務(wù)。

NPU 通常具有大量能夠執(zhí)行同時操作的小型高效處理核心。這些內(nèi)核針對神經(jīng)網(wǎng)絡(luò)中常用的特定數(shù)學(xué)運算進行了優(yōu)化，例如浮點運算和張量處理。NPU 還具有高帶寬內(nèi)存接口，可以有效處理神經(jīng)網(wǎng)絡(luò)所需的大量數(shù)據(jù)。

NPU 設(shè)計的另一個關(guān)鍵方面是功效。神經(jīng)網(wǎng)絡(luò)計算可能非常耗電，因此 NPU 通常會結(jié)合優(yōu)化功耗的功能，例如根據(jù)計算需求動態(tài)調(diào)整功耗，以及減少每次操作能耗的專門電路設(shè)計。

AI芯片的優(yōu)勢

人工智能芯片為人工智能和數(shù)據(jù)科學(xué)行業(yè)帶來了幾個引人注目的好處：

效率

傳統(tǒng) CPU 無法滿足人工智能和機器學(xué)習(xí)工作負載的并行處理要求。另一方面，人工智能芯片是專門為這些任務(wù)而設(shè)計的，使其效率顯著提高。

這種效率的提高會對人工智能系統(tǒng)的性能產(chǎn)生巨大影響。例如，它可以實現(xiàn)更快的處理時間、更準確的結(jié)果，以及以更低的成本處理更大、更復(fù)雜的工作負載的能力。

節(jié)能

• 人工智能芯片的另一個主要優(yōu)勢是其節(jié)能潛力。人工智能和機器學(xué)習(xí)工作負載可能非常耗電，在傳統(tǒng) CPU 上運行這些工作負載可能會導(dǎo)致大量能耗。

然而，人工智能芯片的設(shè)計比傳統(tǒng) CPU 更節(jié)能。這意味著它們可以用一小部分功率執(zhí)行相同的任務(wù)，從而顯著節(jié)省能源。這不僅有利于環(huán)境，還可以為依賴人工智能技術(shù)的企業(yè)和組織節(jié)省成本。

提高性能

• 最后，人工智能芯片可以提高人工智能系統(tǒng)的性能。由于它們是專為人工智能任務(wù)而設(shè)計的，因此能夠比傳統(tǒng) CPU 更有效地處理復(fù)雜的計算和大量數(shù)據(jù)。這可以帶來更快的處理時間、更準確的結(jié)果，并支持需要低延遲響應(yīng)用戶請求的應(yīng)用程序。

采用人工智能芯片的組織面臨的挑戰(zhàn)

雖然人工智能芯片非常有益，但它們的開發(fā)和實施提出了一系列獨特的挑戰(zhàn)：

• 復(fù)雜的實施在組織現(xiàn)有的技術(shù)基礎(chǔ)設(shè)施中實施人工智能芯片是一項重大挑戰(zhàn)。人工智能芯片的專業(yè)性質(zhì)通常需要重新設(shè)計或?qū)ΜF(xiàn)有系統(tǒng)進行大幅調(diào)整。這種復(fù)雜性不僅延伸到硬件集成，還延伸到軟件和算法開發(fā)，因為人工智能芯片通常需要專門的編程模型和工具。

此外，有效實施和優(yōu)化基于人工智能芯片的系統(tǒng)所需的技能仍然相對較少。組織必須投資培訓(xùn)現(xiàn)有員工或招募具有必要專業(yè)知識的新人才。這種對專業(yè)知識的需求可能會給小型組織或人工智能領(lǐng)域的新手造成進入壁壘。

• 成本與設(shè)計高度專業(yè)化的芯片相關(guān)的研發(fā)成本是巨大的。此外，人工智能芯片（尤其是 ASIC 和 NPU 等先進芯片）的制造過程可能比標準 CPU 或 GPU 更復(fù)雜、成本更高。這些額外成本會轉(zhuǎn)嫁給最終用戶，從而導(dǎo)致更高的硬件成本。

對于希望將人工智能芯片集成到其系統(tǒng)中的組織來說，需要對基礎(chǔ)設(shè)施進行大量投資。這使得小型組織或預(yù)算有限的組織很難利用人工智能芯片的優(yōu)勢。

過時風(fēng)險

AI技術(shù)的快速發(fā)展，帶動了AI芯片市場不斷創(chuàng)新和新產(chǎn)品開發(fā)的循環(huán)。隨著更新、更高效的芯片不斷發(fā)布，這種快速的發(fā)展速度也帶來了過時的風(fēng)險。投資人工智能芯片技術(shù)的組織面臨著硬件相對較快過時的挑戰(zhàn)，可能需要頻繁升級。

這種過時的風(fēng)險可能會導(dǎo)致投資猶豫不決，特別是對于預(yù)算有限的組織而言。保持技術(shù)前沿與管理成本之間的平衡是一個微妙的平衡，需要仔細的戰(zhàn)略規(guī)劃并考慮長期技術(shù)趨勢。

AI芯片領(lǐng)先廠商有哪些？

英偉達

英偉達是目前領(lǐng)先的AI芯片供應(yīng)商。英偉達此前以 GPU 聞名，近年來開發(fā)了專用 AI 芯片，例如 Tensor Core GPU 和 A100，被認為是世界上最強大的 AI 芯片。

A100 采用針對深度學(xué)習(xí)矩陣運算優(yōu)化的 Tensor Core，并擁有大容量高帶寬內(nèi)存。其多實例 GPU (MIG) 技術(shù)允許多個網(wǎng)絡(luò)或作業(yè)在單個 GPU 上同時運行，從而提高效率和利用率。此外，英偉達的 AI 芯片兼容廣泛的 AI 框架，并支持 CUDA、并行計算平臺和 API 模型，這使得它們能夠適用于各種 AI 和機器學(xué)習(xí)應(yīng)用。

• AMDAMD 傳統(tǒng)上以 CPU 和 GPU 聞名，現(xiàn)已憑借 Radeon Instinct GPU 等產(chǎn)品進入人工智能領(lǐng)域。

Radeon Instinct GPU 專為機器學(xué)習(xí)和人工智能工作負載量身定制，提供高性能計算和深度學(xué)習(xí)功能。這些 GPU 具有先進的內(nèi)存技術(shù)和高吞吐量，使其適用于訓(xùn)練和推理階段。AMD還提供ROCm（Radeon開放計算平臺），可以更輕松地與各種AI框架集成。

• 英特爾按收入計算，英特爾是全球第二大芯片制造商。該公司在人工智能芯片領(lǐng)域的投資包括一系列產(chǎn)品，從具有人工智能功能的CPU到專門為訓(xùn)練深度學(xué)習(xí)模型而設(shè)計的Habana Gaudi處理器等專用人工智能硬件。Habana Gaudi 處理器因其在 AI 訓(xùn)練任務(wù)中的高效率和性能而脫穎而出。它們旨在優(yōu)化數(shù)據(jù)中心工作負載，為訓(xùn)練大型復(fù)雜的人工智能模型提供可擴展且高效的解決方案。Gaudi 處理器的關(guān)鍵特性之一是其處理器間通信功能，可實現(xiàn)跨多個芯片的高效擴展。與英偉達和 AMD 的同類產(chǎn)品一樣，它們針對常見的 AI 框架進行了優(yōu)化。