究竟什么是 DPU ？它和我們熟悉的 CPU 、 GPU 有什么區(qū)別？

?什么是 DPU？

? DPU 的英文全稱叫做 Data Processing Unit ，也就是數(shù)據(jù)處理器。 ? ? ? ?

英偉達(dá)首席執(zhí)行官黃仁勛曾在演講中表示：“ DPU 將成為未來計(jì)算的三大支柱之一，未來的數(shù)據(jù)中心標(biāo)配是‘ CPU + DPU + GPU ’。CPU 用于通用計(jì)算， GPU 用于加速計(jì)算， DPU 則進(jìn)行數(shù)據(jù)處理?！?? 聽著有點(diǎn)暈， DPU 到底進(jìn)行什么樣的數(shù)據(jù)處理？有了 CPU 和 GPU ，為啥還要 DPU ？ ? 眾所周知，自從計(jì)算機(jī)誕生以來，就是采用的著名的馮諾依曼架構(gòu)。 ?

馮諾依曼架構(gòu) ?

? 這是一個(gè)以計(jì)算和存儲(chǔ)為核心的架構(gòu)， CPU 作為處理器單元，負(fù)責(zé)完成各種算術(shù)和邏輯計(jì)算。而內(nèi)存（運(yùn)存）和硬盤（外部存儲(chǔ)），負(fù)責(zé)存儲(chǔ)數(shù)據(jù)，與 CPU 交互。 ? 除了 CPU 、內(nèi)存和硬盤之外，就是鍵盤、顯示器這樣的輸入和輸出設(shè)備。隨著時(shí)間的推移，后來，我們有了鼠標(biāo)，又有了顯卡、網(wǎng)卡。最終，形成了現(xiàn)在大家看到的電腦的基本構(gòu)造。 ? 有了顯卡，就有了 GPU（Graphics Processing Unit），圖形處理器。大家都玩過游戲，很明白，正是游戲、 3D 設(shè)計(jì)等多媒體圖形軟件的高速發(fā)展，要處理的工作量越來越大，也越來越復(fù)雜， CPU 實(shí)在忙不過來，所以就有了專門進(jìn)行圖像和圖形相關(guān)運(yùn)算工作的 GPU ，分擔(dān) CPU 的壓力。 ? DPU 的出現(xiàn)，道理也是一樣的。同樣是因?yàn)?CPU 難以負(fù)擔(dān)一些復(fù)雜的計(jì)算，所以需要進(jìn)行任務(wù)分工。 ?

DPU 到底算些什么？

? 好了，終于到了關(guān)鍵點(diǎn)了。說了半天， DPU 到底分擔(dān)了 CPU 的哪些工作呢？ ? 說實(shí)話，想要從技術(shù)上解釋 DPU 分擔(dān)的工作內(nèi)容，稍微有點(diǎn)困難，不容易看懂。但是，我們可以從工作場景上進(jìn)行解釋。 ? 大致來看， DPU 分擔(dān)的工作可以歸納為四個(gè)關(guān)鍵詞，分別是虛擬化、網(wǎng)絡(luò)、存儲(chǔ)以及安全。??

　　特別需要提醒大家， DPU 是一個(gè)緊密圍繞數(shù)據(jù)中心的概念。也就是說，它主要用于數(shù)據(jù)中心這種大規(guī)模算力場景，而非我們每個(gè)人的臺(tái)式機(jī)、筆記本電腦或手機(jī)（至少目前不是）。 DPU 服務(wù)于云計(jì)算，主要作用是提升數(shù)據(jù)中心等算力基礎(chǔ)設(shè)施的效率，減少能耗浪費(fèi)，進(jìn)而降低成本。 前面提到的虛擬化、網(wǎng)絡(luò)、存儲(chǔ)以及安全，是數(shù)據(jù)中心非常重要的工作，也是大量消耗算力資源的工作。

　　以網(wǎng)絡(luò)為例。 在數(shù)據(jù)中心里，時(shí)時(shí)刻刻都有大量的數(shù)據(jù)在進(jìn)行傳輸。主機(jī)在收發(fā)數(shù)據(jù)時(shí)，需要進(jìn)行海量的?絡(luò)協(xié)議處理。根據(jù)傳統(tǒng)的計(jì)算架構(gòu)，這些協(xié)議處理都是由 CPU 完成的。 有人統(tǒng)計(jì)過，想要線速處理 10G 的?絡(luò)，需要的?約4個(gè) Xeon CPU 的核。也就是說，僅僅是進(jìn)行?絡(luò)數(shù)據(jù)包的處理，就要占用?個(gè)8核?端CPU?半的算??，F(xiàn)在數(shù)據(jù)中心網(wǎng)絡(luò)不斷升級(jí)，從 10G 到 40G 、 100G ，甚至 400G ?速?絡(luò)，這些性能開銷如何承受？ 這些開銷如此之大，以至于被稱為“ Datacenter Tax（數(shù)據(jù)中心稅）”。

　　業(yè)務(wù)程序尚未運(yùn)行，僅是接入網(wǎng)絡(luò)數(shù)據(jù)，就消耗了這么多算力資源，這是無法忍受的。所以，就有公司提出了 SmartNIC （智能網(wǎng)卡）的概念，將網(wǎng)絡(luò)協(xié)議處理的工作從 CPU “卸載”到網(wǎng)卡上，以此分擔(dān) CPU 的負(fù)載。

　　2015年，云計(jì)算廠商 AWS 率先開始探索這種 SmartNIC 模式。他們收購了芯片廠商 Annapurna Labs ，并于2017年正式推出 Nitro 系統(tǒng)。同年，阿里云也官宣了有類似功能的神龍（ X-Dragon ）架構(gòu)。 2019年3月，英偉達(dá)花費(fèi)69億美元收購了以色列芯片公司 Mellanox 。英偉達(dá)將 Mellanox 的 ConnectX 系列高速網(wǎng)卡技術(shù)與自己的已有技術(shù)相結(jié)合，于2020年正式推出了兩款 DPU 產(chǎn)品：BlueField-2 DPU 和 BlueField-2X DPU 。

　　從此， DPU 這個(gè)概念正式進(jìn)入了公眾視野。2020年，也被稱為 DPU 元年。 正因?yàn)?DPU 和 SmartNIC 有這樣的淵源，所以，人們普遍將 DPU 視為 SmartNIC 的擴(kuò)展升級(jí)版。 DPU 在 SmartNIC 的基礎(chǔ)上，將存儲(chǔ)、安全和虛擬化等工作負(fù)載也從 CPU 卸載到自己身上。

　　上世紀(jì)90年代末，以 VMWare 為代表的虛擬化技術(shù)剛剛出現(xiàn)的時(shí)候，完全是由軟件進(jìn)行模擬線的，缺乏硬件的支持，所以，性能很差，幾乎難以使用。

　　后來，2005年，隨著技術(shù)的演進(jìn)， CPU 和內(nèi)存的硬件虛擬化問題逐漸解決，才讓虛擬化系統(tǒng)的性能有了大幅的提升，也激活了這項(xiàng)技術(shù)的發(fā)展前景和價(jià)值。眾所周知，我們現(xiàn)在的整個(gè)云計(jì)算架構(gòu)，都是基于虛擬化技術(shù)發(fā)展起來的。 虛擬化技術(shù)發(fā)展的過程，是硬件能力不斷取代軟件能力的過程。前面我們提到 AWS 發(fā)布 Nitro 系統(tǒng)。這個(gè)系統(tǒng)除了 SmartNIC 之外，也完成了 I/O 的硬件虛擬化。它還將虛擬化管理程序 Hypervisior 從 CPU 卸載到專用硬件上。這樣做帶來的結(jié)果就是，虛擬化技術(shù)的性能損耗趨近于零， CPU 的負(fù)擔(dān)進(jìn)一步下降。 存儲(chǔ)也是如此。 現(xiàn)在數(shù)據(jù)中心對(duì)存儲(chǔ)讀取和寫入的速率要求很高。SSD 價(jià)格逐漸下降后，將 SSD 通過本地 PCIe 或高速網(wǎng)絡(luò)與系統(tǒng)相連接，成為了一種主流的技術(shù)路線。針對(duì)分布式系統(tǒng)，在以往 InfiniBand 、 FC（Fiber Channel，光纖通道）、 Ethernet 的基礎(chǔ)上， RDMA（Remote Direct Memory Access，遠(yuǎn)程直接數(shù)據(jù)存?。┘夹g(shù)開始流行。

? ? 在 RDMA 模式中，應(yīng)用程序的數(shù)據(jù)，不再經(jīng)過 CPU 和復(fù)雜的操作系統(tǒng)，直接和網(wǎng)卡通信。這就意味著， DPU 可以承擔(dān)存儲(chǔ)相關(guān)的高速接口標(biāo)準(zhǔn)協(xié)議處理，進(jìn)一步為 CPU 分擔(dān)壓力。 ? 最后再看看安全。 ? 在目前越來越嚴(yán)峻的安全形勢(shì)下，為了確保網(wǎng)絡(luò)和系統(tǒng)的安全可靠，引入了大量的加密算法。以往，這些算法都是由 CPU 負(fù)責(zé)完成加密和解密的。 ? 但事實(shí)上，網(wǎng)絡(luò)接口才是最理想的隱私邊界。在網(wǎng)絡(luò)接口上進(jìn)行加密和解密，才是最合理的。所以，像國密標(biāo)準(zhǔn)的非對(duì)稱加密算法 SM2 、哈希算法 SM3 和對(duì)稱分組密碼算法 SM4 等，其實(shí)都可以交給 DPU 進(jìn)行計(jì)算。未來，區(qū)塊鏈技術(shù)成熟應(yīng)用后，相關(guān)算法也是可以從 CPU 卸載到 DPU 進(jìn)行的。 ? 綜上所述，大家應(yīng)該也看明白了， DPU 的作用本質(zhì)，就是卸載、加速和隔離——把 CPU 的部分工作卸載到自己身上；利用自己的算力特長，對(duì)這些工作進(jìn)行加速運(yùn)算；整個(gè)過程，實(shí)現(xiàn)了計(jì)算的隔離。 ? ?

DPU 的未來前景

? DPU 是一個(gè)新型可編程多核處理器，是一塊 SoC（System On Chip）芯片。它符合行業(yè)標(biāo)準(zhǔn)，具有很高的算力，還具備高性能的網(wǎng)絡(luò)接口，能高速解析、處理數(shù)據(jù)，并高效地將數(shù)據(jù)傳輸?shù)?CPU 和 GPU 。 ? DPU 和 CPU 的最大不同，是 CPU 擅長通用性計(jì)算任務(wù)（什么任務(wù)都能接，比較“雜”），而 DPU 更擅長基礎(chǔ)層應(yīng)用任務(wù)（做特定的任務(wù)，比較“專注”），例如網(wǎng)絡(luò)協(xié)議處理，交換路由計(jì)算，加密解密，數(shù)據(jù)壓縮等“臟活累活”。 ? 所以說， DPU 是 CPU 的一個(gè)好幫手，將與 CPU 、 GPU 形成“鐵三角”，徹底顛覆數(shù)據(jù)中心的運(yùn)算模式。 ? ? ? 這就是為什么 DPU 如今備受關(guān)注的原因。 ? 正如本文開頭所說， DPU 目前的火爆程度，已經(jīng)不能用詞語來形容。資本對(duì)于 DPU 的熱情，更是令人印象深刻。不管是巨頭還是初創(chuàng)公司，都紛紛入局 DPU 賽道。DPU 的市場仍在升溫，發(fā)展前景可期。?

結(jié)語

根據(jù)預(yù)測，到2025年， DPU 全球市場容量預(yù)計(jì)將達(dá)到120億美金。 ? 隨著摩爾定律逐漸進(jìn)入瓶頸，為了更高效地利用算力資源，我們需要大力發(fā)展 DPU ，讓 CPU 、 GPU 、 DPU 進(jìn)行合理分工，各自更加專注于自己擅長的工作。這樣，我們才能將數(shù)據(jù)中心的能效發(fā)揮到最大，為整個(gè)社會(huì)的數(shù)字化轉(zhuǎn)型提供強(qiáng)勁且綠色的動(dòng)力。??

編輯：黃飛

?