在移動處理器市場，AMD銳龍系列處理器憑借更高的性能功耗比、更出色的性能和更好的性價比，深受不少玩家的喜愛。特別是AMD今年推出的銳龍7040系列移動處理器，它集高能效、高性能和4nm先進工藝于一身，受到用戶廣泛青睞。實際上，銳龍7040系列移動處理器還有一個“大殺器”—Ryzen AI引擎。那么，AMD Ryzen AI引擎究竟是什么？它有什么獨特之處呢？今天我們就來解讀一下。

來自賽靈思的AI引擎：AMD為什么要集成AI引擎？

AMD在AI產(chǎn)業(yè)布局已久，在云端，無論是EPYC系列處理器，還是GPU系列產(chǎn)品，這些面向企業(yè)級用戶的產(chǎn)品都得到了AI產(chǎn)業(yè)的廣泛認可。而在消費級市場，雖然多年以來AI已經(jīng)在手機等移動終端設(shè)備上應(yīng)用的紅紅火火，但是在x86領(lǐng)域，AI應(yīng)用方面的進展似乎并不太多。事情的轉(zhuǎn)變發(fā)生在2020年，AMD在這一年宣布以大約500億美元的價格收購當時FPGA行業(yè)的巨頭賽靈思，也正是這次收購，為AMD在x86領(lǐng)域帶來AI創(chuàng)新的能力和機會。

▲AMD收購賽靈思后，不但擁有了FPGA產(chǎn)業(yè)，還快速切入了AI賽道。

在完成收購賽靈思不久之后，AMD就成功地將賽靈思的AI模塊集成到銳龍?zhí)幚砥髦校簿褪俏覀兘裉炜吹降匿J龍7040系列移動處理器中的Ryzen AI引擎。這樣的改變，其實和AMD對AI行業(yè)發(fā)展的思考有關(guān)。AMD董事會主席兼CEO蘇姿豐博士就表示，AI是未來十年最重要的事情，可以提高生產(chǎn)力并帶來更多的優(yōu)勢。AMD公司副總裁David McAfee也提到，AI將成為其未來處理器發(fā)展的重要組成部分。由于AI將極大地提高人們的工作效率和生產(chǎn)力，AMD希望其產(chǎn)品能涵蓋從邊緣AI到中間市場，再到云端AI的一切，這就意味著AMD要為所有市場的AI應(yīng)用和AI客戶提供對應(yīng)的產(chǎn)品。David McAfee認為，未來無論你是游戲玩家、創(chuàng)作者還是兩者兼而有之，AI都將在未來幾年不斷深入各種不同的負載，重塑或者改變這些行業(yè)現(xiàn)有的生態(tài)。

David McAfee還帶來了一些案例，比如游戲中用于更智能NPC的生成式AI，創(chuàng)作者利用AI來自動化工作流程并降低復(fù)雜的開發(fā)包的使用門檻，包括但不限于建模、Adobe套件和編程操作等，生成式AI的加入都將極大地改變整個工作流程。近日，微軟宣布將全面擁抱AI，更為緊密地結(jié)合AI和操作系統(tǒng)，比如微軟的Copilot（副駕駛）系統(tǒng)將帶來操作系統(tǒng)使用上的變革。微軟甚至還將AI視為和鼠標被發(fā)明一樣等級的重要技術(shù)發(fā)明或技術(shù)進展。這雖然令人驚訝，但并不意外。

▲微軟通過Copilot大幅度加強了AI在操作系統(tǒng)中的地位

看起來微軟非常激進，不過這也說明隨著時間的推移，人們才能持續(xù)看到AI如何影響所有人的工作流程。AI無疑具有極為驚人的潛能，將改變我們和數(shù)字空間交互的方式，并為每個人創(chuàng)造一種單獨、定制化的個人數(shù)字助手，從而大大改變我們的使用體驗。

正是因為AI如此的重要，AMD才下決心為自己的處理器加入AI相關(guān)的加速引擎，使得人們在執(zhí)行相關(guān)任務(wù)時擁有更好的體驗。筆記本平臺擁有專用的AI引擎之后，將帶來三個方面的優(yōu)勢。一是推理計算不再需要在云端完成后才給出結(jié)果，延遲更低，體驗效果會更好。二是數(shù)據(jù)安全方面，數(shù)據(jù)不用上傳至云端，而是在本地完成操作，因此數(shù)據(jù)泄露的風險更低。三是未來云資源將越來越昂貴，AMD認為本地資源將更為便宜好用，性價比更高。

▲AMD Ryzen AI引擎擁有三個獨特的優(yōu)勢

▲AMD在銳龍7040系列處理器中集成Ryzen AI引擎后帶來了諸多應(yīng)用方面的優(yōu)勢

在集成Ryzen AI引擎之后，AMD銳龍系列移動處理器因此擁有諸多優(yōu)勢。首先是它是現(xiàn)有市場上唯一一個擁有專用AI引擎的x86處理器系列產(chǎn)品，這將很大程度上保證AMD處理器的競爭力。其次微軟在即將到來的操作系統(tǒng)中將加入更多AI方面的應(yīng)用，AMD銳龍系列移動處理器將獲得先機。另外，AI引擎的使用將帶來用戶體驗的持續(xù)提升，不斷加入的各類AI應(yīng)用將帶給用戶更多全新、獨特的體驗。

Ryzen AI如何運作？AMD統(tǒng)一AI棧 支持XDNA和CPU

由于AI已經(jīng)成為AMD在處理器上的戰(zhàn)略級功能，因此AMD也在不遺余力地推廣AI相關(guān)的內(nèi)容，并給出了Ryzen AI引擎的一些技術(shù)細節(jié)，我們一起來看看。

首先是AI相關(guān)的性能。AMD在代號為Phoenix的銳龍7040系列處理器中集成了Ryzen AI引擎。AMD宣稱Ryzen AI引擎可以執(zhí)行最多4個實時的AI工作流，由于采用專用的硬件模塊，所以還能帶來更好的效率。

▲AMD解釋AI計算在專用單元上運行和傳統(tǒng)CPU上運行的差異。

AMD進一步解釋，Ryzen AI引擎處理AI相關(guān)任務(wù)是采用神經(jīng)網(wǎng)絡(luò)進行計算的，和傳統(tǒng)計算在架構(gòu)和模式上都存在巨大的差異。我們知道人工智能最初是由傳統(tǒng)的硬編碼算法創(chuàng)造，并由人類編程完成，而現(xiàn)代的人工智能大多基于神經(jīng)網(wǎng)絡(luò)，數(shù)據(jù)以不同的權(quán)重從一個神經(jīng)元“流轉(zhuǎn)”至另一個神經(jīng)元，并通過機器學習進行訓(xùn)練，所以采用神經(jīng)網(wǎng)絡(luò)進行計算是更現(xiàn)代、更高效的選擇。

目前AMD在Ryzen AI引擎中使用的硬件部分是賽靈思XDNA架構(gòu)的AI加速模塊，這個加速模塊的特點在于，其整體采用Mesh架構(gòu)完成，所有的結(jié)構(gòu)單元都互聯(lián)且采用非阻塞分布式架構(gòu)，存儲單元和計算單元緊密結(jié)合，因此擁有更大的帶寬并且所需容量更低。從AMD給出的示意圖來看，XDNA架構(gòu)最大的特點是AI引擎的計算部分和存儲部分是綁定在一起的，然后掛接到Mesh網(wǎng)絡(luò)上。這種去中心化的設(shè)計避開了傳統(tǒng)計算架構(gòu)的存儲瓶頸，使得神經(jīng)網(wǎng)絡(luò)計算能夠以更高的效率運行。

▲AMD介紹了XDNA架構(gòu)在計算模式上的優(yōu)化

相比之下，AMD對比了傳統(tǒng)的基于緩存的計算架構(gòu)。數(shù)據(jù)通過DRAM、L2緩存、L1緩存后再進入不同計算模塊的不同核心中，從宏觀上來說，這是一個固定的、共享的互聯(lián)架構(gòu)，內(nèi)存帶寬和速率將成為整個計算的瓶頸，數(shù)據(jù)帶寬和延遲將影響整個計算的效率。

AMD還介紹了XDNA架構(gòu)在計算模式上的優(yōu)化。由于神經(jīng)網(wǎng)絡(luò)需要一層一層的計算，整體路徑和方向在計算中可能都是無序的，這就意味著計算架構(gòu)也必須有相應(yīng)的優(yōu)化。XDNA架構(gòu)在互聯(lián)模型上采用了Mesh的全向互聯(lián)架構(gòu)，因此可以進行自適應(yīng)配置，實現(xiàn)自適應(yīng)互聯(lián)，比如案例中L1、L2、L3、L4等針對的是神經(jīng)網(wǎng)絡(luò)的每一層計算，在自適應(yīng)互聯(lián)中就可以實現(xiàn)計算根據(jù)硬件情況的自適應(yīng)化，從而實現(xiàn)更高的效率。

▲AMD介紹Ryzen AI引擎的基本架構(gòu)和技術(shù)特性

在相關(guān)計算能力方面，AMD給出的數(shù)據(jù)顯示，XDNA核心目前可以支持CNN、RNN和LSTM相關(guān)的模型，支持INT8、16、32和BF16格式的數(shù)據(jù)，支持細粒度時鐘門控技術(shù)以實現(xiàn)更出色的能效控制，并支持4個并發(fā)流同時進行。AMD宣稱Ryzen AI引擎的算力高達10TOPS。

在基本架構(gòu)方面，AMD給出的示意圖顯示XDNA支持最多4個DDR內(nèi)存控制器，并通過數(shù)據(jù)總線連接至DMA和NOC。XDNA的內(nèi)部會被分成一個個區(qū)塊，包括20個AIE區(qū)塊和5個內(nèi)存區(qū)塊，所有的區(qū)塊都掛接在Mesh總線上形成內(nèi)部的共享、互聯(lián)、非阻塞架構(gòu)。

▲通過AMD Ryzen AI實時處理，視頻人物背景被虛化。

AMD給出了在Windows 11中使用Ryzen AI引擎的相關(guān)案例。比如在Windows相機中，目前操作系統(tǒng)可以調(diào)用Ryzen AI引擎來識別前景、人物和背景，并進行背景虛化、自動取景和眼神交流。AMD只是給出了一個非常簡單的案例，未來微軟和更多其他應(yīng)用還將會進一步調(diào)用AMD Ryzen AI引擎，尤其是微軟在引入了Copilot之后。

▲AMD Ryzen AI引擎的軟件堆棧情況

AMD還提到了有關(guān)AI平臺軟件方面的內(nèi)容。剛發(fā)布時，AMD尚未完成有關(guān)XDNA架構(gòu)在軟件方面的全部支持工作，接口只支持CPU和有限的XDNA。不過AMD已經(jīng)構(gòu)建完成了從應(yīng)用到硬件的全部層：從應(yīng)用開始，分別是微軟或者早期開發(fā)人員的一些應(yīng)用服務(wù)，采用ONNX格式和TensorFlow模型，構(gòu)建在AMD統(tǒng)一AI棧上，支持CPU和XDNA進行計算。2023年夏天，AMD通過臨時版本增加了對運行在IPU上的新操作符的支持，并提供了對ONNX、PyTorch和TensorFlow模型的量化支持。AMD還承諾，作為在各個層面簡化人工智能戰(zhàn)略的一部分，2023年晚些時候，將發(fā)布更多的工具鏈、庫和指南，以簡化人工智能開發(fā)，從訓(xùn)練模型到在由Ryzen AI驅(qū)動的系統(tǒng)上對其進行本地部署。另外，AMD還計劃增加對Generative AI模型的支持。

硬件支持：大部分AMD銳龍7040系列移動處理器具備Ryzen AI引擎

最后我們再來看看AMD Ryzen AI引擎的硬件支持情況。根據(jù)AMD的官方數(shù)據(jù)，目前大部分銳龍7040系列處理器都已經(jīng)配備Ryzen AI引擎。具體說銳龍9 7940HS/H、銳龍7 7840HS/H、銳龍5 7640HS/H等6款處理器都支持Ryzen AI，而銳龍7040U系列只有銳龍7 7840U和銳龍5 7640U兩款處理器支持Ryzen AI。另外，聯(lián)想和AMD合作定制了一款銳龍7 7840S處理器，這款處理器的整體規(guī)格和銳龍7 7840HS/H相當，它也支持Ryzen AI。其他的銳龍5 7540U、銳龍5 7545U、銳龍3 7440U等處理器則不支持Ryzen AI引擎。

總的來說，AMD根據(jù)AI產(chǎn)業(yè)發(fā)展以及行業(yè)技術(shù)發(fā)展趨勢迅速將AI相關(guān)技術(shù)整合到銳龍7040系列移動處理器中，實現(xiàn)了處理器發(fā)展和AI產(chǎn)業(yè)發(fā)展的深度融合，使得AMD相關(guān)產(chǎn)品成為目前市場上唯一一個能夠?qū)崿F(xiàn)AI硬件加速的x86平臺，為消費者帶來了x86平臺獨家的AI加速體驗，也為未來軟件和操作系統(tǒng)的進一步發(fā)展打好了基礎(chǔ)，值得消費者嘗試和體驗。