Oracle Cloud Infrastructure 率先運(yùn)行 NVIDIA AI 超級計(jì)算實(shí)例；微軟 Azure、谷歌云等即將托管 DGX Cloud

加利福尼亞州圣克拉拉市 – GTC – 太平洋時間 2023 年 3 月 21 日 – NVIDIA 今日發(fā)布 NVIDIA DGX Cloud。這項(xiàng) AI 超級計(jì)算服務(wù)使企業(yè)能夠即時接入用于訓(xùn)練生成式 AI 等開創(chuàng)性應(yīng)用的高級模型所需的基礎(chǔ)設(shè)施和軟件。

DGX Cloud 可提供 NVIDIA DGX AI 超級計(jì)算專用集群，并配以 NVIDIA AI 軟件。這項(xiàng)服務(wù)使得每個企業(yè)都可以通過一個簡單的網(wǎng)絡(luò)瀏覽器就能訪問自己的 AI 超級計(jì)算機(jī)，免除了購置、部署和管理本地基礎(chǔ)設(shè)施的復(fù)雜性。

企業(yè)可按月租用 DGX Cloud 集群，以便能夠快速、輕松地?cái)U(kuò)展大型多節(jié)點(diǎn)訓(xùn)練工作負(fù)載的開發(fā)，無須等待需求量通常很大的加速計(jì)算資源。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“我們正處于 AI 的‘iPhone’時刻。初創(chuàng)企業(yè)正在競相打造顛覆性的產(chǎn)品和商業(yè)模式，老牌企業(yè)則在尋求應(yīng)對之法。DGX Cloud 使客戶能夠在全球規(guī)模的云上即時接入 NVIDIA AI 超級計(jì)算。”

NVIDIA 正在與領(lǐng)先的云服務(wù)商聯(lián)合托管 DGX Cloud 基礎(chǔ)設(shè)施，Oracle Cloud Infrastructure（OCI）將首當(dāng)其沖，通過其 OCI 超級集群，提供專門構(gòu)建的 RDMA 網(wǎng)絡(luò)、裸金屬計(jì)算以及高性能本地塊存儲，可擴(kuò)展到超過 32,000 個 GPU 所組成的超級集群。

微軟 Azure 預(yù)計(jì)將在下個季度開始托管 DGX Cloud。這項(xiàng)服務(wù)還將在不久之后擴(kuò)展到谷歌云等。

行業(yè)巨頭利用 NVIDIA DGX Cloud

加速取得成功

首批使用 DGX Cloud 的 AI 行業(yè)先鋒包括全球領(lǐng)先的生物技術(shù)公司安進(jìn)（Amgen）、保險科技領(lǐng)導(dǎo)者 CCC Intelligent Solutions（CCC）以及數(shù)字業(yè)務(wù)平臺提供商 ServiceNow。

安進(jìn)正在使用 DGX Cloud 與 NVIDIA BioNeMo 大型語言模型軟件來加速藥物研發(fā)，比如包含 NVIDIA RAPIDS 數(shù)據(jù)科學(xué)加速庫的 NVIDIA AI Enterprise 軟件。

安進(jìn)數(shù)字創(chuàng)新研究加速中心、生物制劑治療研究執(zhí)行總監(jiān) Peter Grandsard 表示：“借助 NVIDIA DGX Cloud 和 NVIDIA BioNeMo，我們的研究人員能夠把精力集中在更深層次的生物學(xué)研究上，無需再處理 AI 基礎(chǔ)設(shè)施和設(shè)置機(jī)器學(xué)習(xí)工程。相較于其他平臺，我們借助 DGX Cloud 的強(qiáng)大算力和多節(jié)點(diǎn)能力，同時結(jié)合 BioNeMo 將蛋白質(zhì) LLM 的訓(xùn)練速度提高了 3 倍，使用 NVIDIA RAPIDS 將訓(xùn)練后分析速度提高了 100 倍?！?/p>

財(cái)產(chǎn)和意外保險領(lǐng)域的領(lǐng)先云平臺 CCC 正在使用 DGX Cloud，以加快和擴(kuò)展其 AI 模型的開發(fā)與訓(xùn)練。這些模型為該公司的創(chuàng)新汽車?yán)碣r解決方案賦能， 幫助加速該行業(yè)的智能自動化，并為每天數(shù)百萬的企業(yè)用戶及其消費(fèi)者改進(jìn)理賠體驗(yàn)。

ServiceNow 正在使用 DGX Cloud 與本地 NVIDIA DGX 超級計(jì)算機(jī)，來構(gòu)建靈活可擴(kuò)展的混合云 AI 超級計(jì)算，以來幫助其在大型語言模型、代碼生成和因果分析方面的 AI 研究。ServiceNow 還與其他機(jī)構(gòu)共同發(fā)起了一個負(fù)責(zé)任的開放科學(xué)生成式 AI 倡議——BigCode 項(xiàng)目，其在 NVIDIA 的 Megatron-LM 框架上進(jìn)行訓(xùn)練。

打開瀏覽器即可使用

NVIDIA AI 超級計(jì)算和軟件

企業(yè)可以使用 NVIDIA Base Command 平臺軟件管理和監(jiān)控 DGX Cloud 訓(xùn)練工作負(fù)載，該軟件可實(shí)現(xiàn) DGX Cloud 以及本地 NVIDIA DGX 超級計(jì)算機(jī)之間用戶體驗(yàn)的無縫銜接。通過使用 Base Command 平臺，用戶可根據(jù)每項(xiàng)工作所需的 DGX 基礎(chǔ)設(shè)施的數(shù)量和類型，將工作負(fù)載與之相匹配。

DGX Cloud 包含 NVIDIA AI Enterprise。NVIDIA AI Enterprise 作為 NVIDIA AI 平臺的軟件層，通過提供端到端 AI 框架和預(yù)訓(xùn)練模型，來加速數(shù)據(jù)科學(xué)流程，并簡化生產(chǎn)級 AI 的開發(fā)和部署。今日發(fā)布的 NVIDIA AI Enterprise 3.1 提供新的預(yù)訓(xùn)練模型、經(jīng)過優(yōu)化的框架和加速數(shù)據(jù)科學(xué)軟件庫，可進(jìn)一步幫助開發(fā)人員啟動他們的 AI 項(xiàng)目。

DGX Cloud 的每個實(shí)例都配有 8 個 NVIDIA H100 或A100 80GB Tensor Core GPU，每個節(jié)點(diǎn)共有 640GB GPU 內(nèi)存。使用 NVIDIA 網(wǎng)絡(luò)解決方案構(gòu)建的高性能、低延遲結(jié)構(gòu)確保了工作負(fù)載能夠在互連系統(tǒng)集群中擴(kuò)展，使多個實(shí)例就像一個巨型的 GPU，以滿足高級 AI 訓(xùn)練性能要求。集成在 DGX Cloud 中的高性能存儲為 AI 超級計(jì)算提供了完整的解決方案。

DGX Cloud 特有的來自 NVIDIA 專家的支持貫穿整個 AI 開發(fā)流程。用戶可以直接與 NVIDIA 工程師一起優(yōu)化模型，并迅速解決各種行業(yè)用例中的開發(fā)難題。

供應(yīng)情況

DGX Cloud 實(shí)例的價格為每實(shí)例每月 36,999 美元起。企業(yè)機(jī)構(gòu)可以聯(lián)系 NVIDIA 合作伙伴網(wǎng)絡(luò)了解更多詳情。

掃描海報(bào)二維碼，或點(diǎn)擊“閱讀原文”，即可觀看 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛 GTC23 主題演講重播！

百里挑一！

3 月 23 日不可錯過的演講!