NVIDIA 近日宣布，三家頭部系統(tǒng)制造商將率先在其服務器產(chǎn)品陣容中集成專為 AI 量身定制的 NVIDIA Spectrum-X 以太網(wǎng)絡技術(shù)，幫助企業(yè)客戶加速生成式 AI 業(yè)務。

Spectrum-X 專為生成式 AI 量身定制，為企業(yè)提供了一種全新的以太網(wǎng)絡，相較傳統(tǒng)以太網(wǎng)方案，其 AI 通信網(wǎng)絡性能提高了 1.6 倍。

這三家頭部系統(tǒng)制造商的新系統(tǒng)，整合了 Spectrum-X 與 NVIDIA Tensor Core GPU、NVIDIA AI Enterprise 軟件和 NVIDIA AI Workbench 軟件，為企業(yè)通過生成式 AI 來實現(xiàn)業(yè)務轉(zhuǎn)型奠定了基礎(chǔ)。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“生成式 AI 和加速計算正在推動新一代的業(yè)務轉(zhuǎn)型，企業(yè)需要升級其數(shù)據(jù)中心來滿足新型業(yè)務的需求。加速網(wǎng)絡就是 NVIDIA 的頭部服務器制造商合作伙伴推出新一代系統(tǒng)的催化劑，加快他們邁向生成式 AI 新時代?！?/p>

專門用于加速 AI 的網(wǎng)絡

為實現(xiàn) AI 業(yè)務的出色效率，Spectrum-X 集性能優(yōu)異的 Spectrum-4 以太網(wǎng)交換機、NVIDIA BlueField-3 SuperNIC（一款可以大幅提升超大規(guī)模 AI 業(yè)務性能的新型網(wǎng)絡加速器）以及多種加速軟件于一體。領(lǐng)先的基礎(chǔ)設(shè)施計算平臺 —— NVIDIA BlueField-3 DPU 就屬于 Spectrum-X 的一部分。

Spectrum-4 是專門面向 AI 的 51Tb/sec 以太網(wǎng)交換機，可在大規(guī)模、滿負荷的場景下提供較高的數(shù)據(jù)吞吐量，同時在 AI 云業(yè)務的多租戶場景下將網(wǎng)絡擁塞降低，其智能的、基于微調(diào)的路由技術(shù)可以保障網(wǎng)絡基礎(chǔ)設(shè)施的利用率。

BlueField-3 SuperNIC 專為網(wǎng)絡密集型的大規(guī)模并行計算而設(shè)計，可在 GPU 服務器之間提供高達 400Gb/s 的 RDMA（RoCE - RDMA over Converged Ethernet）網(wǎng)絡連接，大幅提升了集群內(nèi)部基于東西網(wǎng)絡流量的 AI 訓練和推理性能，還能實現(xiàn)多租戶數(shù)據(jù)中心環(huán)境的安全隔離，確保租戶業(yè)務的可預測性和性能隔離。BlueField-3 SuperNIC 基于低功耗、半高半長的 PCIe 規(guī)格設(shè)計，是企業(yè)級服務器的理想選擇。

NVIDIA 加速軟件包括 Cumulus Linux、SONiC 和 NetQ 三者組成的性能優(yōu)異的 Spectrum-X 軟件開發(fā)套件，以及作為 BlueField 核心的 NVIDIA DOCA 軟件框架。

NVIDIA AI Enterprise 為安全、穩(wěn)定和已經(jīng)支持的生產(chǎn)級 AI 業(yè)務提供了框架、預訓練模型和開發(fā)工具。NVIDIA AI Workbench 使開發(fā)者能夠在 PC 或工作站上快速創(chuàng)建、測試和自定義預訓練生成式 AI 模型，然后將其擴展至幾乎任何數(shù)據(jù)中心或云。

搭載 Spectrum-X 的 NVIDIA 超級計算機

NVIDIA 自己的一臺超級計算機就在使用 Spectrum-X，這也是新一代 AI 系統(tǒng)的參考架構(gòu)。該超級計算機由 NVIDIA 與戴爾科技聯(lián)合開發(fā)，使用了基于 8 卡 NVIDIA Hopper GPU 的 HGX 平臺和 BlueField-3 DPU 及 SuperNIC 的 Dell PowerEdge XE9680 服務器，并通過 Spectrum-4 交換機組成了集群系統(tǒng)。

審核編輯：劉清