現(xiàn)代數(shù)據(jù)中心變得越來越難以管理。應(yīng)用程序和 PB 級日志數(shù)據(jù)之間有數(shù)十億條可能的連接路徑。靜態(tài)規(guī)則不足以適應(yīng)動態(tài)微服務(wù)的安全策略，而且人工已經(jīng)無法應(yīng)對數(shù)量龐大的日志數(shù)據(jù)的分析。

AI 是通往未來安全和自主管理式數(shù)據(jù)中心的唯一出路。

NVIDIA 融合加速器在業(yè)界率先推出 AI 增強(qiáng)型 DPU。它將 GPU 的強(qiáng)大計(jì)算能力與 DPU 的網(wǎng)絡(luò)加速和安全優(yōu)勢相結(jié)合，為 AI 增強(qiáng)型數(shù)據(jù)中心管理創(chuàng)造了統(tǒng)一平臺。融合加速器可將 AI 生成的規(guī)則應(yīng)用于數(shù)據(jù)中心網(wǎng)絡(luò)中的每個(gè)數(shù)據(jù)包，為實(shí)現(xiàn)實(shí)時(shí)安全和管理創(chuàng)造新的可能性。圖像展示了將 BlueField-2 DPU 和 Ampere GPU 相結(jié)合的 NVIDIA 新型融合加速器。

在 NVIDIA GTC 大會上，我們推出了兩款新型融合加速器。A100X 在單一模組中融合了 A100 Tensor Core GPU 和 NVIDIA BlueField-2 DPU。A30X 則融合了 A30 Tensor Core GPU 和相同的 BlueField-2 DPU。融合卡具有獨(dú)特的能力，除了 BlueField-2 的卸載、隔離和加速網(wǎng)絡(luò)功能，進(jìn)一步拓展到 AI 推理和訓(xùn)練功能。

兩款加速器都包含一個(gè)集成的 PCIe 交換機(jī)實(shí)現(xiàn)DPU 和 GPU 連接。集成交換機(jī)能夠消除對主機(jī)資源的爭用，實(shí)現(xiàn)線速 GPUDirect RDMA 性能。集成交換機(jī)還通過隔離 GPU 和網(wǎng)卡之間移動的數(shù)據(jù)來提高安全性。

AI 增強(qiáng)型 DPU

融合加速器支持兩種運(yùn)行模式：

標(biāo)準(zhǔn)模式 – BlueField-2 DPU 和 GPU 分別獨(dú)立運(yùn)行。

BlueField-X模式 – PCI 交換機(jī)進(jìn)行了重新配置，GPU 將專用于 DPU，并且對于主機(jī)系統(tǒng)不可見。

在 BlueField-X 模式下，只有 DPU 上運(yùn)行的操作系統(tǒng)可見到GPU。BlueField-X 模式在業(yè)界首創(chuàng)了一種新型加速器類型：GPU 加速的 DPU。圖像展示了在 BlueField-X 模式下，主機(jī)服務(wù)器中的 CPU 連接到融合加速器。融合加速器的 PCIe 交換機(jī)連接到 CPU 和 DPU。而 GPU 僅通過 PCIe 交換機(jī)與 DPU連接。

在 BlueField-X 模式下，GPU 可以對流經(jīng) DPU 的數(shù)據(jù)運(yùn)行 AI 模型，成為 “bump in the wire”。保障安全同時(shí)，無性能損耗。AI 模型無需消耗主機(jī)資源，實(shí)現(xiàn)完全加速。

BlueField-X 為網(wǎng)絡(luò)安全、數(shù)據(jù)中心管理和 I/O 加速解鎖新穎使用場景。例如，Morpheus 網(wǎng)絡(luò)安全框架使用機(jī)器學(xué)習(xí)對以往無法識別的安全威脅進(jìn)行有效處理。Morpheus 通過 DPU 從數(shù)據(jù)中心的各個(gè)服務(wù)器獲取遙測數(shù)據(jù)，并將其發(fā)送到配備 GPU 的服務(wù)器進(jìn)行分析。

有了 BlueField-X，AI 模型可以在每個(gè)服務(wù)器的融合加速器上直接本地運(yùn)行。這使 Morpheus 能夠更快地分析更多數(shù)據(jù)，同時(shí)消除代價(jià)很高的數(shù)據(jù)移動，并縮小惡意攻擊面。由 BlueField-X 加速的 Morpheus 使用案例包括惡意軟件檢測、數(shù)據(jù)泄漏預(yù)防和動態(tài)防火墻規(guī)則創(chuàng)建等。

Morpheus 示例僅僅是 BlueField-X 實(shí)現(xiàn)加速的一種使用場景。我們的客戶經(jīng)常與我們分享一些我們尚未考慮到的新想法。為了對 AI 增強(qiáng)的網(wǎng)絡(luò)進(jìn)行更多創(chuàng)造性的探索，我們現(xiàn)正推出 NVIDIA 融合加速器開發(fā)套件。

結(jié)合此開發(fā)套件，我們?yōu)橛幸鈽?gòu)建新一代加速 AI 網(wǎng)絡(luò)應(yīng)用的特定客戶和合作伙伴提供 A30X 加速器的搶先體驗(yàn)計(jì)劃。在邊緣計(jì)算或數(shù)據(jù)中心管理中探索 BlueField-X 的新應(yīng)用場景。以下例子為您做參考：

透明視頻預(yù)處理 – Bump-in-the-wire 視頻預(yù)處理（解密、交錯(cuò)、格式轉(zhuǎn)換等），以提高 IVA 吞吐量和攝像頭密度。

小基站 RU 解決方案 – RAN 信號處理聚合加速器，以增加商業(yè) gNodeB 服務(wù)器上的用戶密度和吞吐量。

計(jì)算存儲 – Bump-in-the-wire 存儲加密、索引和哈希，為長期存儲主機(jī)數(shù)據(jù)準(zhǔn)備處理卸載昂貴的 CPU 資源。

作弊檢測 – 檢測流式游戲服務(wù)中的惡意游戲/作弊

開始使用 NVIDIA 融合加速器開發(fā)套件

NVIDIA 融合加速器開發(fā)套件包含有結(jié)合 CUDA 和 NVIDIA DOCA 的示例應(yīng)用程序，以及幫助安裝、配置新型融合加速器的文檔。最重要的是，可提供 A30X 及應(yīng)用支持來換取用戶的寶貴反饋。

要開始使用，只需在 NVIDIA 融合加速器開發(fā)套件網(wǎng)頁上完成注冊。獲得批準(zhǔn)后，一旦硬件準(zhǔn)備好發(fā)貨，將由工作人員主動聯(lián)系。之后就可以開啟新一代加速應(yīng)用之旅了。

編輯：jq