很長一段時(shí)間以來，中央處理器（CPU）和圖形處理單元（GPU）一直“統(tǒng)治”著數(shù)據(jù)中心。然而，近幾年，數(shù)據(jù)處理單元（DPU）越來越多地出現(xiàn)在大家面前，并號(hào)稱性能更強(qiáng)大、更專用、更異構(gòu)，能夠處理CPU做不好，GPU做不了的任務(wù)，那事實(shí)究竟如何，一起看下去吧。

CPU

CPU—— Central Processing Unit, 中央處理器，CPU之于計(jì)算機(jī)、服務(wù)器，也就相當(dāng)于大腦對(duì)于人類的作用。

計(jì)算、控制、存儲(chǔ)是CPU“大腦”布局謀略、發(fā)號(hào)施令、控制行動(dòng)的主要表現(xiàn)形式。

CPU 是對(duì)計(jì)算機(jī)的所有硬件資源（如存儲(chǔ)器、輸入輸出單元） 進(jìn)行控制調(diào)配、執(zhí)行通用運(yùn)算的核心硬件單元，是計(jì)算機(jī)的運(yùn)算和控制核心。

CPU主要包括了運(yùn)算器（ALU, Arithmetic and Logic Unit）、控制單元（CU, Control Unit）、寄存器（Register）、高速緩存器（Cache）和它們之間通訊的數(shù)據(jù)、控制及狀態(tài)的總線。

總的來說也就是計(jì)算單元、控制單元和存儲(chǔ)單元。



| CPU微架構(gòu)示意圖，來源：網(wǎng)絡(luò)

#

控制單元

控制單元是整個(gè)CPU的指揮控制中心，由指令寄存器IR(Instruction Register)、指令譯碼器ID(Instruction Decoder)和操作控制器OC(Operation Controller)等構(gòu)成，主要是對(duì)指令譯碼，并且發(fā)出為完成每條指令所要執(zhí)行的各個(gè)操作的控制信號(hào)。

#

計(jì)算單元

計(jì)算單元在CPU中很重要，主要負(fù)責(zé)算術(shù)和邏輯運(yùn)算。相對(duì)控制單元而言，運(yùn)算器接受控制單元的命令而進(jìn)行動(dòng)作，即運(yùn)算單元所進(jìn)行的全部操作都是由控制單元發(fā)出的控制信號(hào)來指揮的。

#

存儲(chǔ)單元

存儲(chǔ)單元包括CPU片內(nèi)緩存和寄存器組，是CPU中暫時(shí)存放數(shù)據(jù)的地方，里面保存著那些等待處理的數(shù)據(jù)，或已經(jīng)處理過的數(shù)據(jù)，CPU訪問寄存器所用的時(shí)間要比訪問內(nèi)存的時(shí)間短。采用寄存器可以減少CPU訪問內(nèi)存的次數(shù)，從而提高了CPU的工作速度。但因?yàn)槭艿叫酒娣e和集成度所限，寄存器組的容量不可能很大。

相對(duì)于控制單元和存儲(chǔ)單元，CPU的計(jì)算單元在整個(gè)結(jié)構(gòu)中占比較少，故而相對(duì)于大規(guī)模并行計(jì)算能力，CPU更擅長于邏輯控制、串行運(yùn)算。

下圖展示了一個(gè)基礎(chǔ)的CPU架構(gòu)。以個(gè)人電腦的CPU為例，CPU 往往與內(nèi)存 (RAM)、硬盤驅(qū)動(dòng)器和 NIC（網(wǎng)絡(luò)接口控制器）相連，如果你想要打游戲或者處理圖像/視頻，那就需要添加GPU；如果想要更快地訪問內(nèi)存，那可以選擇添加 SSD。



| CPU架構(gòu)，來源：StatusNeo

普通個(gè)人電腦中的 CPU往往在4到8核，頻率在2到3GHz。數(shù)據(jù)中心的 CPU 往往有更多的核心和更高的時(shí)鐘速度。CPU 的核心較少但功能強(qiáng)大，而GPU可以有很多核心，但在時(shí)鐘速度方面的能力更弱。

GPU

GPU——Graphics Processing Unit，圖形處理器，跟它的名字一樣，GPU最初是用在個(gè)人電腦、游戲機(jī)和一些移動(dòng)設(shè)備上運(yùn)行繪圖運(yùn)算工作的微處理器。

理解 GPU 和 CPU 之間區(qū)別的一種簡單方式是比較它們?nèi)绾翁幚砣蝿?wù)。

CPU 由專為順序串行處理而優(yōu)化的幾個(gè)核心組成，而 GPU 則擁有一個(gè)由數(shù)以千計(jì)的更小、更高效的核心組成的大規(guī)模并行計(jì)算架構(gòu)。

GPU的構(gòu)成相對(duì)簡單，有數(shù)量眾多的計(jì)算單元和超長的流水線，特別適合處理大量的類型統(tǒng)一的數(shù)據(jù)。



| GPU微架構(gòu)示意圖，來源：網(wǎng)絡(luò)

當(dāng)涉及算術(shù)運(yùn)算和邏輯運(yùn)算等常規(guī)計(jì)算時(shí)，通常是CPU更快，但是當(dāng)涉及到大型矩陣乘法和并行算法時(shí)，GPU 排在第一位。GPU 擁有數(shù)千個(gè)內(nèi)核并行進(jìn)行運(yùn)算，這些內(nèi)核的時(shí)鐘速度較低或內(nèi)核較弱，但在并行計(jì)算中效率很高，并且每個(gè)核心都有自己的 ALU。

不過GPU不能單獨(dú)工作，需要CPU的協(xié)同處理。

GPU的工作大部分計(jì)算量龐大，但沒什么技術(shù)含量，而且要重復(fù)很多很多次。當(dāng)CPU需要大量的處理類型統(tǒng)一的數(shù)據(jù)時(shí)，就可以調(diào)用GPU進(jìn)行并行計(jì)算。

盡管GPU叫圖形處理器，但它并不是只能處理圖像。

GPU雖然是為了圖像處理而生，但在結(jié)構(gòu)上并沒有專門為圖像服務(wù)的部件，只對(duì)CPU的結(jié)構(gòu)進(jìn)行了優(yōu)化與調(diào)整。

GPU基于大吞吐量設(shè)計(jì)，擁有更多的ALU，適合對(duì)密集數(shù)據(jù)進(jìn)行并行處理，擅長大規(guī)模并發(fā)計(jì)算，因此GPU也被應(yīng)用于深度學(xué)習(xí)、神經(jīng)網(wǎng)絡(luò)和人工智能等需要大規(guī)模并發(fā)計(jì)算場景。

GPU可以被認(rèn)為是一種較通用的芯片。



| GPU架構(gòu)，來源：StatusNeo

FPGA

FPGA——Field Programmable Gate Array，現(xiàn)場可編程門陣列，本質(zhì)上它是一種硬件，可以根據(jù)用戶的需要進(jìn)行多次編程。

簡單地說，F(xiàn)PGA可以用來實(shí)現(xiàn)任何邏輯功能。與GPU或 ASIC（Application Specific Integrated Circuit，專用集成電路）不同，F(xiàn)PGA 芯片內(nèi)部的電路不是硬蝕刻的——它可以根據(jù)需要重新編程。這種能力使 FPGA 成為 ASIC 的絕佳替代品，不過ASIC 通常需要較長的開發(fā)時(shí)間和大量的設(shè)計(jì)和制造投資。



| FPGA架構(gòu)，來源：網(wǎng)絡(luò)

與 GPU 相比，F(xiàn)PGA 可以在需要低延遲的深度學(xué)習(xí)應(yīng)用中提供卓越的性能?？梢詫?duì) FPGA 進(jìn)行微調(diào)，以平衡功率效率和性能要求。當(dāng)應(yīng)用程序需要低延遲和小批量時(shí)，F(xiàn)PGA 可以提供優(yōu)于 GPU 的性能優(yōu)勢。

DPU

DPU—— Data Processing Unit ，數(shù)據(jù)處理單元，DPU是面向數(shù)據(jù)中心的專用處理器。

在計(jì)算架構(gòu)中，CPU 具有多重職責(zé)，例如運(yùn)行應(yīng)用程序、執(zhí)行計(jì)算，同時(shí)它還扮演著數(shù)據(jù)流量控制器的角色，在 GPU、存儲(chǔ)、FPGA和其他設(shè)備之間移動(dòng)數(shù)據(jù)，因此 CPU 更加以計(jì)算為中心。

隨著數(shù)據(jù)中心建設(shè)、網(wǎng)絡(luò)帶寬和數(shù)據(jù)量急劇增長，由于CPU性能增長速度放緩，為了尋求效率更高的計(jì)算芯片，DPU由此產(chǎn)生。

DPU解決的是大流量網(wǎng)絡(luò)數(shù)據(jù)包處理占用CPU問題。

有人說，DPU正在取代CPU，建立以數(shù)據(jù)為中心的計(jì)算架構(gòu)。



| DPU架構(gòu)，來源：StatusNeo

CPU用于通用計(jì)算，GPU用于加速計(jì)算，而DPU則進(jìn)行數(shù)據(jù)處理。

DPU和CPU最大的區(qū)別是，CPU擅長一般的計(jì)算任務(wù)，而DPU更擅長基礎(chǔ)層應(yīng)用任務(wù)，比如網(wǎng)絡(luò)協(xié)議處理、交換路由計(jì)算、加密解密、數(shù)據(jù)壓縮等等。

簡單來說，CPU做不好，GPU做不了的那些任務(wù)，交給DPU就完事兒了。



DPU并非單一芯片，而是一塊SoC（System On Chip，片上系統(tǒng)）芯片，一個(gè)DPU一般包含一個(gè)CPU、NIC和可編程數(shù)據(jù)加速引擎。這使得 DPU 具有CPU的通用性和可編程性，同時(shí)專門針對(duì)網(wǎng)絡(luò)數(shù)據(jù)包、存儲(chǔ)請(qǐng)求或分析請(qǐng)求進(jìn)行高效處理。

一個(gè)高性能、軟件可編程的多核 CPU，通常基于廣泛使用的 Arm 架構(gòu)，與其他 SoC 組件緊密耦合。

一種高性能網(wǎng)絡(luò)接口，能夠解析、處理數(shù)據(jù)，并有效地將數(shù)據(jù)傳輸?shù)紾PU和CPU。

一組豐富的靈活、可編程的加速引擎，可以卸載和提高人工智能和機(jī)器學(xué)習(xí)、零信任安全、網(wǎng)絡(luò)和存儲(chǔ)等應(yīng)用程序的性能。

DPU 可以是基于 ASIC 的、基于FPGA 的或基于SoC 的。由于以數(shù)據(jù)為中心的計(jì)算的使用增加，DPU 越來越多地用于數(shù)據(jù)中心、大數(shù)據(jù)、安全和人工智能/機(jī)器學(xué)習(xí)/深度學(xué)習(xí)等場景。

如果說CPU是計(jì)算生態(tài)的底座、主力芯片的基石，GPU是從圖形處理到數(shù)據(jù)處理芯片的蛻變，那么DPU則是因數(shù)據(jù)中心而生的芯片。

DPU能夠助力數(shù)據(jù)中心更高效的應(yīng)對(duì)多元化的算力需求。

未來DPU也將與 CPU 、 GPU 形成新的“鐵三角”，徹底顛覆數(shù)據(jù)中心的運(yùn)算模式。






審核編輯：劉清