一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

我們的世界為什么需要DPU

NVIDIA英偉達企業(yè)解決方案 ? 來源:NVIDIA英偉達網(wǎng)絡 ? 作者:NVIDIA ? 2021-08-25 16:39 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

區(qū)別 SmartNIC 與 DPU (數(shù)據(jù)處理器) 的依據(jù)是它的功能,而不是形態(tài)。對稱為 SmartNICs 的一類數(shù)據(jù)中心智能網(wǎng)卡來說,它需要支持硬件傳輸和用于虛擬交換機加速的可編程數(shù)據(jù)路徑。這些功能是必要的,但不足以使其成為 DPU 。一個真正的 DPU 還必須包括一個易于擴展的、 C 語言編程的 Linux 環(huán)境,使數(shù)據(jù)中心架構(gòu)師能夠虛擬化云中的所有資源,并使它們看起來像本地資源。為了更好地理解為什么需要這樣,一起討論一下-創(chuàng)建 DPU 的原因。

為什么世界需要 DPU

世界需要 DPU 的一個最重要原因是,目前的應用程序和數(shù)據(jù)中心的設計讓 CPU 內(nèi)核花費了太多的開銷來支持網(wǎng)絡功能。隨著網(wǎng)絡速度的提高(現(xiàn)在每條鏈路的速度高達 200gb / s ), CPU 使用了太多寶貴的內(nèi)核來進行網(wǎng)絡流量的分類、跟蹤和控制。這些昂貴的 CPU 內(nèi)核是為通用應用程序處理而設計的,最不值得的就是將它們用于網(wǎng)絡數(shù)據(jù)包的查找和管理。畢竟用 CPU 內(nèi)核來分析數(shù)據(jù)并得到結(jié)果才是它們真正的價值所在。

計算虛擬化的引入使這種情況變得更糟,因為無論是在同一臺服務器上運行的 VM 或容器之間,還是和其他的計算服務器或存儲服務器之間,都需要更多的流量。軟件定義存儲( SDS )、超聚合基礎設施( HCI )和大數(shù)據(jù)等的應用程序會增加服務器之間的東西向的通信流量,另外, RDMA 也通常被用來加速服務器之間的數(shù)據(jù)傳輸,這使得服務器對網(wǎng)絡基礎功能的處理要求更高。

隨著通信量的增加和 VXLAN 、 NVGRE 或 GENEVE 等覆蓋網(wǎng)絡的使用,公共云和私有云越來越流行。但其需求的多層封裝也進一步增加了網(wǎng)絡的復雜性。軟件定義的網(wǎng)絡( SDN )帶來了額外的數(shù)據(jù)包控制和處理的需求,這讓 CPU 花費珍貴的內(nèi)核來處理 openvswitch ( OVS )等更多工作。

DPU 可以比標準 CPU 更快、更高效、更低的成本處理所有這些虛擬化的功能( SR-IOV 、 RDMA 、覆蓋網(wǎng)絡流量封裝、 OVS 卸載)。

不可忽視的安全隔離

有時出于安全原因,需要將網(wǎng)絡與 CPU 隔離開來。網(wǎng)絡是黑客攻擊或惡意軟件入侵最有可能的載體,但也是第一個發(fā)現(xiàn)或阻止黑客攻擊的地方。它同時也是最有可能實現(xiàn)在線加密的地方。

DPU 作為特殊的網(wǎng)卡 ,是檢查網(wǎng)絡流量、阻止攻擊和加密傳輸?shù)氖走x,最簡單有效,既有性能優(yōu)勢,又有安全優(yōu)勢,因為它消除了將所有傳入和傳出的數(shù)據(jù)讓 CPU 處理 并通過 PCIe 總線的頻繁需要。它通過與主機 CPU 分開運行來提供安全隔離。如果主機 CPU 受損, DPU 仍然可以檢測或阻止惡意活動。DPU 可以在不立即涉及 CPU 的情況下檢測或阻止攻擊。

虛擬化存儲和云

DPU 的一個較新用例是虛擬化軟件定義的存儲、超聚合基礎設施和其他云資源。在虛擬化需求爆發(fā)之前,大多數(shù)服務器只運行本地存儲,這并不總是高效的,但卻很簡單易行。每個操作系統(tǒng)、應用程序和 hypervisor 都知道如何使用本地存儲。

然后是網(wǎng)絡存儲的興起:SAN、NAS 以及最近出現(xiàn)的 NVMe of Fabrics (NVMe-oF) 。但是,并不是每個應用程序都是原生的并可感知 SAN。另外,一些操作系統(tǒng)和 hypervisor ,比如 Windows 和 VMware ,都還沒有考慮到 NVMe-oF。DPU 可以支持虛擬化網(wǎng)絡存儲,即可以更高效也更易于管理,讓虛擬化網(wǎng)絡存儲看起來就像本地存儲,非常易于應用程序使用。一個 DPU 甚至可以虛擬化 GPU 或其他神經(jīng)網(wǎng)絡處理器,這樣任何服務器在需要時都可以通過網(wǎng)絡訪問任意數(shù)量的 GPU。

類似的 DPU 優(yōu)勢也適用于軟件定義的存儲和超聚合基礎架構(gòu)。兩種架構(gòu)傳統(tǒng)上都使用管理層軟件(通常作為 VM 或 hypervisor 的一部分來運行)來虛擬化和抽象本地存儲和網(wǎng)絡,以使其可供集群中的其他服務器或客戶端使用。這對于服務器的快速部署,及共享存儲資源帶來了極大的便利。然而,管理層和虛擬化占用了許多本應運行應用程序的 CPU 資源。更糟糕的是,網(wǎng)絡帶寬越大,存儲速度越快,需要損耗的 CPU 的資源就越多。

這也是智能 DPU 創(chuàng)造效率的地方。首先,它卸載并幫助虛擬化網(wǎng)絡。它們加速了私有云和公共云,這就是為什么它們有時被稱為 CloudNICs 。它們可以卸載網(wǎng)絡和大部分甚至全部的存儲虛擬化。DPU 還可以減輕 SDS 和 HCI 的各種功能,如壓縮、加密、重復數(shù)據(jù)消除、 RAID 、報告等。這一切都是為了把更昂貴的 CPU 內(nèi)核送回它們最擅長的領域:運行應用程序。

必須有硬件加速

了解了主要的 DPU 用例之后,應該已經(jīng)清楚何時何地使用 DPU 會帶來最大的好處:加速和卸載網(wǎng)絡流量,虛擬化存儲資源,通過網(wǎng)絡共享 GPU,以及支持 RDMA 和執(zhí)行加解密。

那么最優(yōu)的 DPU 需要具備什么?必須有硬件加速。硬件加速提供了最好的性能和效率,這也意味著用更少的開銷進行更多的卸載。為某些功能提供專用硬件的能力讓采用 DPU 的機會大大增加。

必須可編程

為了獲得最佳性能,大多數(shù)加速功能必須在硬件上運行。為了獲得最大的靈活性,這些功能的控制和編程必須在軟件中運行。

在 DPU 上有許多功能可以編程,通常,特定的卸載方法、加密算法和傳輸機制不會有太大變化,但是路由規(guī)則、流表、加密的密鑰和網(wǎng)絡地址會一直會變化。前者是數(shù)據(jù)平面,后者是控制平面。數(shù)據(jù)平面規(guī)則和算法經(jīng)過標準化后,可以被固化到芯片中。但控制平面規(guī)則和要求變化太快,無法固化,但可以在 FPGA 上運行(偶爾修改,但很困難),也可以在 支持 C 語言編程的 Linux 環(huán)境中運行(容易且可以經(jīng)常修改)。

在DPU上需要多少編程?

用戶可以選擇在 DPU 上有多少功能要由運行程序完成,也就是說,處理數(shù)據(jù)包的數(shù)據(jù)平面由 DPU 處理 (硬件加速或/和 開發(fā)的程序),同時, 用于設置和管理規(guī)則的控制平面,可以由用戶決定是由 DPU 來全權(quán)處理,還是由位于其他地方的處理器,如 CPU 來處理 。

例如使用 Open vSwitch ,包交換可以在軟件或硬件中完成,而控制平面則可以在 CPU 或 DPU 上運行。如果是常規(guī)的基礎網(wǎng)卡,所有的交換和控制都必須由 CPU 上的軟件完成。使用 SmartNIC 時,交換在網(wǎng)卡的 ASIC 上運行,但控制仍必須在 CPU 上完成。只有在真正的 DPU 中,交換是由 DPU 卡上的 ASIC 完成,而控制平面也是在 DPU 包含的 Arm 內(nèi)核上運行。

DPU 和 SmartNIC 哪一個最好?

為了在數(shù)據(jù)中心充分實現(xiàn)應用程序的效率,傳輸卸載、可編程的數(shù)據(jù)平面以及用于虛擬交換的硬件卸載都是至關重要的功能。根據(jù)定義,支持這些功能是 SmartNIC 的重要部分。但只是 DPU 的最基本要求之一, 并不能將 SmartNIC 提升到 DPU 的級別。

客戶常稱必須有 DPU,因為他們需要可編程的虛擬交換硬件加速支持。這主要是某些供應商的誤導。如果某個供應商只能提供昂貴的、幾乎無法編程的產(chǎn)品,他會告訴客戶,“ DPU ”是實現(xiàn)這一目標的唯一方法。對 NVIDIA 來說,這種情況只需要 ConnectX 系列的 SmartNIC 。

要將 SmartNIC 提升到 DPU 的高度,還需要支持更多的功能,比如能夠運行控制平面,以及在 Linux 環(huán)境下提供 C 語言編程。NVIDIA 提供 BlueField DPU 來支持所有這些,它包括 ConnectX 的所有智能 網(wǎng)卡 功能,以及 4 到 16 個 64 位的 Arm 內(nèi)核,當然,所有這些內(nèi)核都運行 Linux ,并且易于編程。

在計劃下一個基礎架構(gòu)的構(gòu)建或更新時,請記?。?/p>

DPU 在卸載網(wǎng)絡功能和虛擬化存儲、網(wǎng)絡和 GPU 等資源方面越來越有用

SmartNIC 可以在硬件中加速數(shù)據(jù)平面任務,但必須依靠 host CPU 來運行控制平面

控制平面軟件和其他管理軟件可以在常規(guī) CPU 或 DPU 上運行

NVIDIA 提供業(yè)界最佳的 SmartNICs ( ConnectX )、 FPGA NIC ( Innova )和完全可編程并支持數(shù)據(jù)平面及控制平面 DPUs ( BlueField 可編程 DPU )

責任編輯:haq

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 編程
    +關注

    關注

    88

    文章

    3689

    瀏覽量

    95271
  • DPU
    DPU
    +關注

    關注

    0

    文章

    393

    瀏覽量

    24943

原文標題:用多個 DPU 實現(xiàn)云級架構(gòu)

文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達企業(yè)解決方案】歡迎添加關注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    聲學世界模型將如何改變我們的生活

    近日,聲智科技發(fā)表標題為“A Survey on World Models Grounded in Acoustic Physical Information”的聲學世界模型綜述文章,調(diào)研了全球研究
    的頭像 發(fā)表于 06-27 11:36 ?348次閱讀

    第三屆NVIDIA DPU黑客松開啟報名

    第三屆 NVIDIA DPU 中國虛擬黑客松(Hackathon)將于 6 月 28 日 - 6 月 30 日正式開啟!作為備受廣大開發(fā)者期待的年度賽事,它將提供與 NVIDIA 加速網(wǎng)絡技術(shù)深度
    的頭像 發(fā)表于 05-27 10:16 ?433次閱讀

    中科馭數(shù)攜DPU全棧產(chǎn)品亮相福州數(shù)博會,賦能智算時代算力基建

    會”)也拉開帷幕。共有150多家企業(yè)參展,展會吸引了八萬多名觀眾參觀。作為國內(nèi)DPU領域領軍企業(yè),中科馭數(shù)攜三大產(chǎn)品線亮相展會,其創(chuàng)新的DPU技術(shù)方案成為專業(yè)觀眾關注焦點。據(jù)大會報告的數(shù)據(jù)顯示,我國算力總規(guī)模已達280EFLOPS,數(shù)據(jù)中心綠色化率超80%。而
    的頭像 發(fā)表于 05-23 11:01 ?223次閱讀
    中科馭數(shù)攜<b class='flag-5'>DPU</b>全棧產(chǎn)品亮相福州數(shù)博會,賦能智算時代算力基建

    DPU232—高度集成USB到UART橋接控制器 國產(chǎn)替代方案

    DPU232是一款高度集成的USB到UART橋接控制器,提供了一種簡單的解決方案,可以使用最少的元器件和PCB空間,將RS232接口轉(zhuǎn)換為USB接口。DPU232包括一個USB2.0全速功能控制器
    發(fā)表于 04-01 10:53

    中科馭數(shù)受邀參與華泰證券春季投資峰會 分享DPU在AI領域的應用

    華泰證券2025年春季投資峰會以“破局、重構(gòu)、裂變”為主題,探討全球變局下的新趨勢。中科馭數(shù)高級副總裁張宇受邀參與,分享DPU的產(chǎn)業(yè)應用。
    的頭像 發(fā)表于 03-29 16:50 ?405次閱讀

    2025年嵌入式世界博覽會,我們來了

    與Swatch Group Electronic Systems旗下的其他公司,將攜手亮相于2025年3月11-13日在德國紐倫堡展覽中心舉辦的2025年嵌入式世界博覽會。 我們誠摯地邀請您蒞臨4A展廳
    的頭像 發(fā)表于 02-28 09:36 ?456次閱讀
    2025年嵌入式<b class='flag-5'>世界</b>博覽會,<b class='flag-5'>我們</b>來了

    利用NVIDIA DPF引領DPU加速云計算的未來

    DPU 的強大功能,并優(yōu)化 GPU 加速計算平臺。作為一種編排框架和實施藍圖,DPF 使開發(fā)者、服務提供商和企業(yè)能夠無縫構(gòu)建 BlueField 加速的云原生軟件平臺。
    的頭像 發(fā)表于 01-24 09:29 ?722次閱讀
    利用NVIDIA DPF引領<b class='flag-5'>DPU</b>加速云計算的未來

    使用下一代GaNFast和GeneSiC Power實現(xiàn)電氣化我們世界

    電子發(fā)燒友網(wǎng)站提供《使用下一代GaNFast和GeneSiC Power實現(xiàn)電氣化我們世界.pdf》資料免費下載
    發(fā)表于 01-22 14:51 ?0次下載
    使用下一代GaNFast和GeneSiC Power實現(xiàn)電氣化<b class='flag-5'>我們</b>的<b class='flag-5'>世界</b>

    在NVIDIA BlueField-3 DPU上運行WEKA客戶端的實際優(yōu)勢

    WEKA是可擴展軟件定義數(shù)據(jù)平臺的先驅(qū),NVIDIA 正在與其合作,將 WEKA 先進的數(shù)據(jù)平臺解決方案與功能強大的NVIDIA BlueField DPU相結(jié)合。
    的頭像 發(fā)表于 01-07 09:43 ?679次閱讀
    在NVIDIA BlueField-3 <b class='flag-5'>DPU</b>上運行WEKA客戶端的實際優(yōu)勢

    中科馭數(shù)憑借在DPU芯片領域的積累被認定為北京市知識產(chǎn)權(quán)優(yōu)勢單位

    近日北京市知識產(chǎn)權(quán)局公布了2024年擬認定北京市知識產(chǎn)權(quán)優(yōu)勢單位名單,中科馭數(shù)憑借在DPU芯片領域積累的知識產(chǎn)權(quán)成果以及在知識產(chǎn)權(quán)創(chuàng)造、運用、保護和管理等方面的優(yōu)勢,被認定為北京市知識產(chǎn)權(quán)優(yōu)勢單位
    的頭像 發(fā)表于 12-31 18:49 ?764次閱讀
    中科馭數(shù)憑借在<b class='flag-5'>DPU</b>芯片領域的積累被認定為北京市知識產(chǎn)權(quán)優(yōu)勢單位

    為什么我們需要制定長期存儲計劃

    易得也易逝的1和0 在上一期《Soul Circuitry》中,我們討論了數(shù)字媒體庫的易逝性。失去一首歌或者一部電視節(jié)目,對于龐大的數(shù)字世界而言,最多只能算是一種不便,可一旦意識到這樣的事情也會發(fā)
    發(fā)表于 12-11 11:30 ?536次閱讀
    為什么<b class='flag-5'>我們</b><b class='flag-5'>需要</b>制定長期存儲計劃

    DPU232—高度集成的USB到UART橋接控制器

    DPU232是一款高度集成的USB到UART橋接控制器,提供了一種簡單的解決方案,可以使用最少的元器件和PCB空間,將RS232接口轉(zhuǎn)換為USB接口。DPU232包括一個USB2.0全速功能控制器
    的頭像 發(fā)表于 09-13 10:55 ?676次閱讀
    <b class='flag-5'>DPU</b>232—高度集成的USB到UART橋接控制器

    中科馭數(shù)分析DPU在云原生網(wǎng)絡與智算網(wǎng)絡中的實際應用

    CCF Chip 2024,精彩不能停!7月21日下午,中科馭數(shù)在第二屆中國計算機學會(CCF)芯片大會的“馭數(shù)專屬時刻”仍在繼續(xù),馭數(shù)組織承辦“DPU技術(shù)趨勢和應用——DPU在云原生與智算網(wǎng)絡中
    的頭像 發(fā)表于 08-02 11:21 ?1171次閱讀

    IaaS+on+DPU(IoD)+下一代高性能算力底座技術(shù)白皮書

    ,在其上掛載了各種計算、存儲資源的節(jié)點,對于系統(tǒng)的資源彈性、運行效率、性能都大有益處。但是這種使用方式的變化,需要對現(xiàn)有云計算架構(gòu)進行一定程度的變革,才能充分發(fā)揮出 DPU的優(yōu)勢。云計算中的頭部企業(yè)
    發(fā)表于 07-24 15:32