DPU本質(zhì)上是通過DPU卡上資源，解耦計(jì)算、控制、存儲，利用CPU、GPU、FPGA加速器等異構(gòu)處理單元，通過以智能卡為接口的網(wǎng)絡(luò)實(shí)現(xiàn)高效的數(shù)據(jù)分發(fā)和調(diào)度。市面上流行的DPU產(chǎn)品基本上都實(shí)現(xiàn)了3類功能卸載，包括網(wǎng)絡(luò)功能卸載、存儲功能卸載、安全服務(wù)卸載。

DPU網(wǎng)卡直接將數(shù)據(jù)送達(dá)GPU和虛擬機(jī)CPU，時(shí)延3~4微秒。同時(shí)DPU卡通過自身的加速模塊，實(shí)現(xiàn)了數(shù)據(jù)處理效率的提升，控制能力的卸載。從某種角度來看，DPU 是一個(gè)強(qiáng)IO型的板卡系統(tǒng)，其IO帶寬幾乎與網(wǎng)絡(luò)帶寬等同，能夠直接進(jìn)行數(shù)據(jù)內(nèi)容處理，以及復(fù)雜計(jì)算。



| DPU功能示意圖

DPU通用架構(gòu)

通常，DPU板卡包括控制平面、數(shù)據(jù)平面及接口平面三個(gè)組成部分。



| DPU參考架構(gòu)

控制平面

控制平面負(fù)責(zé)DPU網(wǎng)卡的運(yùn)行管理、計(jì)算任務(wù)和計(jì)算資源的配置，以及虛擬機(jī)的管理?？刂破矫嫱ǔＳ赏ㄓ?a target="_blank">處理器核來實(shí)現(xiàn)，如ARM、MIPS等，運(yùn)行標(biāo)準(zhǔn)Linux系統(tǒng)。控制平面與數(shù)據(jù)平面交互的驅(qū)動(dòng)程序進(jìn)行了深度優(yōu)化，以提升數(shù)據(jù)交互、任務(wù)調(diào)度效率。控制平面的主要功能包括運(yùn)行管理、計(jì)算任務(wù)和計(jì)算資源配置、虛擬機(jī)管理等功能。

# 運(yùn)行管理

運(yùn)行管理包括設(shè)備的安全管理和實(shí)時(shí)監(jiān)控。安全管理模塊包括信任根、安全啟動(dòng)、安全固件升級以及基于身份驗(yàn)證的容器和應(yīng)用的生命周期管理。實(shí)時(shí)監(jiān)控模塊動(dòng)態(tài)監(jiān)測DPU各子系統(tǒng)、各處理核，實(shí)時(shí)監(jiān)測流量，記錄設(shè)備訪問日志。

# 計(jì)算任務(wù)和計(jì)算資源配置

根據(jù)計(jì)算任務(wù)實(shí)時(shí)配置處理單元間的通道，以及各處理單元參數(shù)。根據(jù)處理單元資源利用情況實(shí)時(shí)調(diào)度任務(wù)。

# 虛擬機(jī)管理

卸載虛擬機(jī)管理，隔離數(shù)據(jù)和資源，記錄運(yùn)行狀態(tài)，通過vDPA（Virtual Data Path Acceleration）框架等技術(shù)協(xié)助虛擬機(jī)熱遷移。

數(shù)據(jù)平面

數(shù)據(jù)平面負(fù)責(zé)高速數(shù)據(jù)包處理、虛擬化協(xié)議加速、安全加密、流量壓縮、算法加速等功能。

# 高速數(shù)據(jù)包處理

OvS解析、匹配和處理，RDMA遠(yuǎn)程數(shù)據(jù)傳輸加速，處理帶寬達(dá)到100Gbps、200Gbps、400Gbps，具備有狀態(tài)數(shù)據(jù)處理能力，能夠記錄各連接信息，能夠在多連接間無縫切換。

#虛擬化協(xié)議加速

支持SR-IOV、VirtIO、PV加速，支持VxLAN、Geneve Overlay卸載、VTEP卸載。

# 安全加解密

IPSec和TLS加解密加速，安全算法加密。

#流量壓縮

實(shí)時(shí)壓縮/解壓縮數(shù)據(jù)，加速地址轉(zhuǎn)換和地址重映射、數(shù)據(jù)流變換。如面向多媒體流、CDN和4K/8K 視頻的 流量整形加速等

# 其他算法加速

NVMe 存儲協(xié)議、大數(shù)據(jù)分析SQL加速。

接口平面

接口平面包括三個(gè)方面系統(tǒng)接口平面、網(wǎng)絡(luò)接口平面、主存接口平面。

系統(tǒng)接口平面

主要負(fù)責(zé)DPU與其他處理平臺（如X86、ARM、GPU、FPGA等）或高速外部設(shè)備（SSD等）的集成。DPU板卡數(shù)據(jù)傳輸量大，帶寬要求高，通?；赑CIe實(shí)現(xiàn)接口平面，可以分為EP（Endpoint）類和RC（Root Complex）類兩種。EP類接口 DPU作為其他處理平臺的從設(shè)備。

支持硬件設(shè)備虛擬化功能，如SR-IOV和VirtIO，并且可以靈活地支持多種類型的設(shè)備，如NIC、Storage、Compute等。RC類接口 DPU作為主設(shè)備與加速平臺或外設(shè)連接。部分?jǐn)?shù)據(jù)處理卸載到第三方加速平臺，支持DMA方案。

網(wǎng)絡(luò)接口平面

負(fù)責(zé)DPU與網(wǎng)絡(luò)的相連，以以太網(wǎng)接口、FC接口為主。通常需要借助專門的網(wǎng)絡(luò)協(xié)議處理核加速網(wǎng)絡(luò)包的處理。包括：L2/L3/L4層的ARP/IP/TCP/UDP網(wǎng)絡(luò)協(xié)議處理、RDMA、數(shù)據(jù)包交換協(xié)議、網(wǎng)絡(luò)虛擬化協(xié)議，實(shí)現(xiàn)100G以上的網(wǎng)絡(luò)包線速處理。

主存接口平面

是DPU與緩存的接口。緩存用于存儲數(shù)據(jù)平面的中間結(jié)果，實(shí)現(xiàn)處理核之間的數(shù)據(jù)通信，包括DDR和HBM接口類型；其中DDR可以提供大容量緩存（512GB以上）；HBM可以提供大存儲帶寬（500GB/s以上）。

DPU的架構(gòu)設(shè)計(jì)

DPU的多種架構(gòu)的設(shè)計(jì)主要是指DPU 數(shù)據(jù)平面的設(shè)計(jì)。

在DPU的組成框架中，控制平面主要用作CPU的卸載，數(shù)據(jù)平面則是用作各種專用功能、算法的加速?？刂破矫嫱ǔ＝柚ㄓ梅?wù)器實(shí)現(xiàn)。數(shù)據(jù)平面包含了各種專用的處理核，以及可編程的處理模塊，提升數(shù)據(jù)的處理速率。以應(yīng)用特征為依據(jù)，可以把應(yīng)用分為“IO密集型”和“計(jì)算密集型”兩類。

IO密集型應(yīng)用有較高的輸入和輸出帶寬，數(shù)據(jù)直接來自于IO，具備流式特征，要求線性處理，如路由轉(zhuǎn)發(fā)應(yīng)用、數(shù)據(jù)加密應(yīng)用、壓縮應(yīng)用等。

IO密集型處理器芯片的構(gòu)建方式：以CPU或者專用加速器為核心構(gòu)造主體計(jì)算架構(gòu)，前者可稱之為控制中心模式，后者為數(shù)據(jù)中心模式。DPU偏向于數(shù)據(jù)為中心的結(jié)構(gòu)，集成了更多類別的專用加速器，在獲得機(jī)制性能的同時(shí)犧牲了指令靈活性。

DPU要處理更多的網(wǎng)絡(luò)IO，包括外部以太網(wǎng)、內(nèi)部虛擬IO。同時(shí)DPU通常也會(huì)配置少數(shù)通用核（如ARM、MIPS）等來處理一定的控制面任務(wù)，通過運(yùn)行輕量級的操作系統(tǒng)來管理DPU上的異構(gòu)核資源。

# 數(shù)據(jù)平面是DPU設(shè)計(jì)的關(guān)鍵，數(shù)據(jù)平面通常需要解決4類問題：

1.異構(gòu)處理核多，需要解決處理核之間的功能解耦、協(xié)同配合問題，需要妥善處理好網(wǎng)絡(luò)、存儲、安全、虛擬化、業(yè)務(wù)的卸載加速。

2.高并發(fā)的數(shù)據(jù)處理，并行計(jì)算、并行數(shù)據(jù)流，核心數(shù)量眾多，規(guī)模通常達(dá)到幾百個(gè)。

3.片上互聯(lián)問題，包括處理核之間的數(shù)據(jù)互聯(lián)，核間的數(shù)據(jù)一致性問題。

4.高效易用的編程方式。

構(gòu)成DPU的處理核包括GPU、FPGA、ASIC、NP、類腦芯片。

GPU（Graphics Processing Unit）圖形處理器。在浮點(diǎn)運(yùn)算、并行計(jì)算方面，GPU可以提供優(yōu)秀的性能，執(zhí)行類型高度統(tǒng)一的、相互吳以來的大規(guī)模數(shù)據(jù)處理效率高。GPU中邏輯運(yùn)算單元（ALU）多，控制器功能簡單，緩存少，擅長高強(qiáng)度的并行計(jì)算。GPU可以將大規(guī)模、非結(jié)構(gòu)化的數(shù)據(jù)分解成獨(dú)立模塊，分配給各個(gè)流處理集群（SMM）。每個(gè)流處理集群再次把數(shù)據(jù)分解，分配給調(diào)度器，調(diào)度器將任務(wù)放入自身所控制的計(jì)算核心core中，完成最終的數(shù)據(jù)處理任務(wù)。

FPGA（Field Programmable Gate Array）：是在PAL、GAL、CPLD等可編程期間的基礎(chǔ)上發(fā)展起來，作為專用集成電路領(lǐng)域中的一種半定制電路而出現(xiàn)，解決了定制電路的不足，無指令、無需共享內(nèi)存。寄存器和片上內(nèi)存由各自的控制邏輯，不需要仲裁和緩存。通過編程可定義單元配置和鏈接架構(gòu)，具有較強(qiáng)的靈活性。流水線并行和數(shù)據(jù)并行，實(shí)時(shí)性最強(qiáng)，靈活性最高。但是只適合定點(diǎn)運(yùn)算。FPGA內(nèi)部有很多可配置邏輯模塊（CLB），通過對CLB的配置來實(shí)現(xiàn)邏輯功能。FPGA帶有豐富的片上存儲資源，可以大大減少訪問時(shí)延（訪問DRAM存儲大約是訪問寄存器存儲延遲的幾百倍以上）。FPGA可硬件編程，可進(jìn)行靜態(tài)重復(fù)編程和動(dòng)態(tài)系統(tǒng)重配置。

ASIC（Application Specific Integrated Circuit）：根據(jù)產(chǎn)品的需求進(jìn)行特定設(shè)計(jì)和制造的集成電路，能夠在特定功能上進(jìn)行強(qiáng)化，具有更高的處理速度和更低的能耗。但是研發(fā)成本高，研發(fā)投入周期長，只有用量足夠大時(shí)才能夠分?jǐn)偳捌谕度?，降低成本?

NP芯片由微碼處理器和協(xié)處理器組成，多個(gè)微碼處理器并行運(yùn)行，可以通過編制微碼控制處理流程。復(fù)雜的標(biāo)準(zhǔn)操作，如內(nèi)存操作、路由表查找、QoS擁塞控制、流量調(diào)度采用硬件協(xié)處理器來提高處理性能。NP芯片具有豐富的高速I/O接口，包括物理鏈路接口、交換接口、存儲器接口、PCI/PCIE總線接口等，通過內(nèi)部高速總線連接在一起，具有很強(qiáng)的硬件并行處理能力。

類腦芯片：類人腦芯片架構(gòu)是基于神經(jīng)形態(tài)的架構(gòu)，模擬人腦處理過程，感知世界、處理問題。此類架構(gòu)芯片功能類似于大腦袋額神經(jīng)突觸，處理器類似于神經(jīng)元，而其通訊系統(tǒng)類似于神經(jīng)纖維。通過神經(jīng)元網(wǎng)絡(luò)系統(tǒng)，計(jì)算機(jī)可以感知、記憶和處理大量不同的信息。類腦芯片有望形成自主認(rèn)知的新形勢，突破傳統(tǒng)計(jì)算機(jī)體系結(jié)構(gòu)的限制，實(shí)現(xiàn)數(shù)據(jù)并行傳送、分布式處理，以極低功耗實(shí)時(shí)處理大量數(shù)據(jù)。

SoC架構(gòu)：基于多核SoC的DPU使用大量嵌入式CPU核來處理分組，可編程性比ASIC好，可以使用標(biāo)準(zhǔn)的DPDK代碼在linux環(huán)境中運(yùn)行。但是在40Gb以上的高帶寬場景，CPU核數(shù)顯著增加，數(shù)據(jù)包處理的復(fù)雜度提升，效率降低，且延時(shí)增大。對于有狀態(tài)的數(shù)據(jù)流往往只映射到一個(gè)CPU核心/線程，以防止?fàn)顟B(tài)共享和單流中的無序處理。

眾觀市面流行的DPU型板卡，實(shí)現(xiàn)各不相同。Intel IPU Oak Springs Canyon基于Agilex FPGA和Xeon-D CPU實(shí)現(xiàn)。Intel IPU（Mount Evans）基于ASIC實(shí)現(xiàn)，通過PCIe鏈接4個(gè)Xeon處理器，加速引擎包含：vSwitch、防火墻、虛擬路由、NVMe、QAT（量化感知）。Xilinx的 Alveo系列加速卡，融合了FPGA、MP SoC和ACAP。這些DPU處理場景各有側(cè)重，難以形成有效比較。

各類實(shí)現(xiàn)方式的性能比較

DPU與CPU、GPU等處理芯片構(gòu)成統(tǒng)一的計(jì)算平臺，高效支撐已有應(yīng)用，并為未來應(yīng)用提供必要的運(yùn)行基礎(chǔ)。對于DPU在網(wǎng)絡(luò)、存儲、計(jì)算、安全方面的加速性能，《專用數(shù)據(jù)處理器（DPU）性能基準(zhǔn)評測方法與實(shí)現(xiàn)》中提出了對DPU的評測標(biāo)準(zhǔn)，可以歸納為：

網(wǎng)絡(luò)能力

表項(xiàng)（會(huì)話）規(guī)模，表征DPU網(wǎng)絡(luò)支撐節(jié)點(diǎn)規(guī)模能力。

吞吐能力，表征DPU網(wǎng)絡(luò)數(shù)據(jù)包的轉(zhuǎn)發(fā)處理能力。

建表性能，表征DPU支持并發(fā)會(huì)話或路由學(xué)習(xí)的能力。

時(shí)延性能，表征DPU轉(zhuǎn)發(fā)處理數(shù)據(jù)包的效率。

網(wǎng)絡(luò)可觀測能力，表征DPU的統(tǒng)計(jì)和遙測能力。

確定性網(wǎng)絡(luò)能力，表征DPU網(wǎng)絡(luò)的可靠數(shù)據(jù)傳輸能力。

存儲能力

DPU上存儲加速卸載的主要場景是NVMe-oF。

NVMe-oF存儲的I/O讀寫能力，表征DPU存儲的讀寫能力。

NVMe-oF存儲的吞吐能力。

NVMe-oF存儲的時(shí)延性能，表征DPU存儲的數(shù)據(jù)讀寫和傳輸效率。

NVMe-oF存儲的QoS能力，表征DPU存儲的可靠I/O讀寫能力。

計(jì)算能力

計(jì)算能力包括大數(shù)據(jù)計(jì)算加速、ML/AI算法加速和視頻編解碼等。

計(jì)算業(yè)務(wù)的吞吐能力，表征DPU計(jì)算業(yè)務(wù)處理能力。

計(jì)算業(yè)務(wù)的時(shí)延性能，表征DPU計(jì)算業(yè)務(wù)處理效率。

計(jì)算業(yè)務(wù)的并行處理能力，表征DPU并行處理能力。

計(jì)算業(yè)務(wù)的能效比，表征DPU計(jì)算業(yè)務(wù)處理效能。

安全能力

安全策略規(guī)模，表征DPU上支持的安全策略規(guī)模。

安全業(yè)務(wù)的吞吐能力，表征DPU加解密和安全過濾匹配查詢的能力。

安全業(yè)務(wù)的時(shí)延性能，表征DPU安全處理的效率和效能。

安全業(yè)務(wù)的并發(fā)會(huì)話規(guī)模，表征DPU安全并行處理能力。

不同廠商的DPU定位不同、功能各有差異，網(wǎng)絡(luò)、存儲、計(jì)算、安全、管理各有所側(cè)重。作為最終用戶，必須首先明確自身需求，在此基礎(chǔ)上，選擇合適的測試指標(biāo)體系和具體的測試模型，才能對同類產(chǎn)品有比較清晰的了解。

不同應(yīng)用場景的性能要求

隨著云技術(shù)、5G等技術(shù)的發(fā)展，DPU將在云網(wǎng)絡(luò)、存儲、安全、電信與邊緣計(jì)算等場景廣泛應(yīng)用。

云網(wǎng)絡(luò)應(yīng)用場景

云網(wǎng)絡(luò)場景具體包括網(wǎng)絡(luò)功能卸載，包括虛擬交換機(jī)功能的卸載、虛擬主機(jī)接口的硬件加速、網(wǎng)絡(luò)協(xié)議的卸載。虛擬交換機(jī)卸載，解決報(bào)文頭分析，L2/L3轉(zhuǎn)發(fā)策略、Overlay網(wǎng)絡(luò)報(bào)文封裝/解封裝。

虛擬主機(jī)接口的硬件加速，為虛擬主機(jī)提供virtion-net硬件接口，提升網(wǎng)絡(luò)I/O性能。RDMA/RoCEv2卸載實(shí)現(xiàn)NVMe-oF協(xié)議卸載，在target端，對NVMe、RDMA、TCP等協(xié)議進(jìn)行硬件加速，在initiator端，通過PCIe的P2P機(jī)制在網(wǎng)絡(luò)接口和其他PCIe設(shè)備之間構(gòu)建快速通道。

存儲接口的硬件加速：將virtio-blk接口硬件化，virtio-blk或者NVMe接口通過SPDK和遠(yuǎn)端的存儲節(jié)點(diǎn)進(jìn)行對接，也可以直接對接DPU上的存儲設(shè)備。存儲應(yīng)用的卸載卸載SPDK，提供vhost-blk、vhost-nvme-vhost-scsi Target等組件，通過減少VM事件數(shù)目，實(shí)現(xiàn)對virtio-blk、 KernelNative NVMe、SCSI驅(qū)動(dòng)的加速。Service Mesh卸載卸載服務(wù)之間的網(wǎng)絡(luò)調(diào)用、限流、熔斷和監(jiān)控。

存儲應(yīng)用場景

存儲應(yīng)用場景通過DPU卸載存儲，統(tǒng)一管控和運(yùn)維存儲資源，提供硬件級別的QoS服務(wù)，對服務(wù)器呈現(xiàn)虛擬的virtio-blk，虛擬的NVMe等PCIe存儲設(shè)備，為服務(wù)器提供提供統(tǒng)一的存儲設(shè)備，同時(shí)支持裸金屬、虛擬和容器場景。DPU統(tǒng)一管理內(nèi)置存儲、DAS存儲、SAN存儲，卸載本地存儲協(xié)議和網(wǎng)絡(luò)存儲協(xié)議，實(shí)現(xiàn)存儲的統(tǒng)一管理。提供基于設(shè)備層面的數(shù)據(jù)加解密、數(shù)據(jù)完整性校驗(yàn)、數(shù)據(jù)壓縮解壓縮等功能。

安全應(yīng)用場景

安全應(yīng)用場景通過DPU實(shí)現(xiàn)基于信任根的安全啟動(dòng)，實(shí)現(xiàn)數(shù)據(jù)傳輸安全、存儲安全。DPU卸載零侵入管控組件，提供從硬件到軟件各個(gè)層次的安全保證?；谛湃胃陌踩珕?dòng)，可編程實(shí)現(xiàn)的分布式防火墻、數(shù)據(jù)傳輸安全、數(shù)據(jù)存儲安全。DPU中的一次性非易失性存儲區(qū)中存放公鑰，作為安全啟動(dòng)的可信根計(jì)算基礎(chǔ)。在DPU固件法布施，采用數(shù)字簽名系統(tǒng)的私鑰進(jìn)行加密。安全啟動(dòng)時(shí)，采用逐級驗(yàn)簽的方式，確保系統(tǒng)固件的安全性、可靠性。防火墻卸載，支持租戶定義自身的防火墻過濾規(guī)則，保護(hù)面向互聯(lián)網(wǎng)的工作負(fù)載和VM之間的流量，隔離租戶本地網(wǎng)絡(luò)與服務(wù)提供商的虛擬網(wǎng)絡(luò)。

DPU支持虛擬機(jī)數(shù)據(jù)傳輸加密，通過卸載IPSec VPN，識別VM流量，觸發(fā)IPSec IKE協(xié)議和目的端協(xié)商，完成身份認(rèn)證和加密參數(shù)協(xié)商，建立隧道。DPU支持RPC調(diào)用數(shù)據(jù)傳輸加密，主要指基于TLS協(xié)議的HTTP，HTTP2協(xié)議。DPU卸載存儲數(shù)據(jù)的加解密功能，通過識別租戶遠(yuǎn)端云盤訪問請求，啟動(dòng)存儲加解密引擎，加密寫入云盤的數(shù)據(jù)，解密從云端讀取的數(shù)據(jù)，實(shí)現(xiàn)存儲安全。

電信與邊緣計(jì)算場景

在電信與邊緣計(jì)算應(yīng)用場景下，DPU應(yīng)用于云RAN、虛擬化邊緣網(wǎng)關(guān)、VNF加速、邊緣微服務(wù)器等多個(gè)環(huán)節(jié)，可以實(shí)現(xiàn)UPF-U（用戶數(shù)據(jù)面）卸載，保證QoS、時(shí)延和帶寬，可以卸載N3接口（采用GTP-U協(xié)議進(jìn)行用戶數(shù)據(jù)的隧道傳輸），N4接口中傳輸SMF需要通過UPF接收或發(fā)送的報(bào)文，以及N6接口。UPF或者SDN控制器向DPU下發(fā)rte-flow規(guī)則實(shí)現(xiàn)UPF-U的硬件卸載。此外，為了滿足UPF的管理要求，DPU通過開放自動(dòng)化管控接口，實(shí)現(xiàn)了資源的統(tǒng)一調(diào)配。

小 結(jié)

DPU逐漸應(yīng)用于云網(wǎng)絡(luò)、存儲、安全、電信與邊緣計(jì)算等場景，不同應(yīng)用場景對DPU的要求不盡相同，因而要給出通用化DPU的性能、功能比較非常困難。在實(shí)際的應(yīng)用中，建議結(jié)合具體應(yīng)用場景，針對特定方向進(jìn)行比較，選擇最優(yōu)性價(jià)比的產(chǎn)品。

審核編輯：劉清