在過去十年中，云計算每年增長20%，成為了價值1萬億美元的巨大行業(yè)大約3000萬臺CPU服務器完成大部分處理工作，另外，減少碳排放這任務從根本上與增加數(shù)據(jù)中心的需求相悖，未經過加速的工作負載都將會在CPU上進行處理在AI和云服務中。

在GTC 2023開發(fā)者大會上，英偉達向我們介紹了關于他在云計算領域的三個大動作。

首先，英偉達與微軟Azure、Google GCP和Oracle OCI三家云廠商合作推出了NVIDIA DGX Cloud。NVIDIA DGX Cloud是一項人工智能超級計算服務，它可以讓企業(yè)快速訪問為生成式人工智能和其他開創(chuàng)性應用訓練高級模型所需的基礎設施和軟件。通過一個瀏覽器，客戶就可以將英偉達DGX AI超級計算機實時接入公司。

其次，面向具有構建、優(yōu)化和運營定制大語言模型和生成式AI需求的客戶，英偉達推出云服務NVIDIA AI Foundations，提供語言、數(shù)據(jù)和生物學模型的定制服務。

同時，針對ChatGPT等大語言模型的推理訓練，英偉達推出了新的GPU H100。H100配備有94GB HBM3的顯存，可以支持參數(shù)規(guī)模達到1750億的GPT-3，并將大語言模型的處理成本降低一個數(shù)量級。

NVIDIA DGX Cloud將透過多個云端服務供應商提供，微軟Azure預計于下一季起托管DGX Cloud服務，包括Google Cloud等業(yè)者也將陸續(xù)開始供應服務，DGX Cloud執(zhí)行個體價格為每個執(zhí)行個體每月36，999美金起。

每個DGX Cloud執(zhí)行個體皆有8個NVIDIA H100或NVIDIA A100 80GB Tensor GPU，單一節(jié)點具備640GB 的GPU記憶體，并透過NVIDIA Networking技術提供高效能、低延遲網(wǎng)路，使多個執(zhí)行個體等同一個超大型GPU。

文章綜合和訊 、格隆匯APP、CNMO手機中國