SAP、Amdocs、Getty Images 率先使用 NVIDIA AI Foundation Models構(gòu)建自定義 LLM、在 NVIDIA DGX 云上進(jìn)行訓(xùn)練，并使用 NVIDIA AI Enterprise 軟件進(jìn)行部署

NVIDIA 于今日推出一項(xiàng) AI foundry 服務(wù)，助力企業(yè)和初創(chuàng)公司在 Microsoft Azure 上開(kāi)發(fā)、調(diào)優(yōu)和部署其自定義生成式 AI 應(yīng)用。

這項(xiàng) NVIDIA AI foundry 服務(wù)整合了NVIDIA AI Foundation Models、NVIDIA NeMo框架和工具，以及NVIDIA DGX 云AI 超算服務(wù)三大要素，為企業(yè)提供創(chuàng)建自定義生成式 AI 模型的端到端解決方案，并且支持企業(yè)使用NVIDIA AI Enterprise軟件部署其定制模型，以支持生成式 AI 應(yīng)用，包括智能搜索、摘要和內(nèi)容生成。

行業(yè)領(lǐng)導(dǎo)者 SAP SE、Amdocs 和 Getty Images 率先使用了這項(xiàng)服務(wù)來(lái)構(gòu)建自定義模型。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“企業(yè)需要自定義模型來(lái)執(zhí)行基于公司專有 DNA （即數(shù)據(jù)）訓(xùn)練的專業(yè)技能。NVIDIA 的 AI foundry 服務(wù)整合了我們的生成式 AI 模型技術(shù)、LLM 訓(xùn)練的專業(yè)知識(shí)和超大型 AI 工廠。我們?cè)?Microsoft Azure 中構(gòu)建這項(xiàng)服務(wù)，使全世界的企業(yè)都能夠?qū)⑺麄兊淖远x模型與微軟全球領(lǐng)先的云服務(wù)進(jìn)行連接?！?/p>

微軟公司董事長(zhǎng)兼首席執(zhí)行官 Satya Nadella 表示：“從芯片到軟件，我們與 NVIDIA 的合作涵蓋了 Copilot 堆棧的每一層，雙方正在這個(gè) AI 新時(shí)代共同創(chuàng)新。借助 NVIDIA 在 Microsoft Azure 上提供的生成式 AI foundry 服務(wù)，我們將為企業(yè)和初創(chuàng)公司提供新的功能，方便他們?cè)谠粕蠘?gòu)建和部署 AI 應(yīng)用。”

行業(yè)領(lǐng)導(dǎo)者構(gòu)建量身定制

且響應(yīng)及時(shí)的 LLM

NVIDIA 的 AI foundry 服務(wù)可用于為企業(yè)軟件、電信、媒體等各個(gè)行業(yè)的生成式 AI 應(yīng)用定制模型。在部署就緒后，企業(yè)就可以使用一種名為檢索增強(qiáng)生成（RAG）的技術(shù)將其自定義模型與企業(yè)數(shù)據(jù)連接，從而獲得新的洞察。

作為 Microsoft Azure 上 NVIDIA DGX 云的首家客戶，SAP 計(jì)劃使用該服務(wù)和經(jīng)過(guò)優(yōu)化的 RAG 工作流，以及在 Azure 上運(yùn)行的 NVIDIA DGX 云和 NVIDIA AI Enterprise 軟件，以幫助自定義和部署其全新的自然語(yǔ)言生成式 AI 智能副駕—— Joule。

SAP SE 首席執(zhí)行官兼執(zhí)行董事會(huì)成員 Christian Klein 表示：“Joule 秉承了 SAP 融合業(yè)務(wù)和技術(shù)領(lǐng)域的獨(dú)有定位，并建立在與之相關(guān)、可靠且負(fù)責(zé)的 Business AI 基礎(chǔ)之上。通過(guò)與 NVIDIA 合作，Joule 可以通過(guò)自動(dòng)執(zhí)行耗時(shí)的任務(wù)并快速分析數(shù)據(jù)，來(lái)提供更智能和個(gè)性化的體驗(yàn)，幫助客戶從而挖掘生成式 AI 在其業(yè)務(wù)中的潛力?！?/p>

Amdocs 是一家面向電信和媒體公司的領(lǐng)先軟件與服務(wù)提供商，該公司正在為 Amdocs amAIz 框架優(yōu)化模型，以加快全球電信公司采用生成式 AI 應(yīng)用和服務(wù)的速度。

Amdocs 總裁兼首席執(zhí)行官 Shuky Sheffer 表示：“生成式 AI 技術(shù)為服務(wù)提供商帶來(lái)了一次絕佳的機(jī)會(huì)，可以重塑他們與客戶互動(dòng)的方式。在 NVIDIA 和微軟技術(shù)的加持下，Amdocs amAlz 框架將更快地為客戶帶來(lái)由生成式 AI 驅(qū)動(dòng)的新應(yīng)用，并提供企業(yè)級(jí)的安全性、可靠性和性能，使其能夠從生成式 AI 的巨大潛力中獲益。”

用于自定義生成式 AI 的

精選優(yōu)化模型

使用 NVIDIA Foundry 服務(wù)的客戶可從多個(gè) NVIDIA AI Foundation 模型中進(jìn)行選擇，包括托管在 Azure AI 模型目錄中的全新系列NVIDIA Nemotron-3 8B模型。開(kāi)發(fā)者還可以訪問(wèn)NVIDIA NGC 目錄中的 Nemotron-3 8B 模型，以及專為 NVIDIA 加速計(jì)算優(yōu)化的各種社區(qū)模型（如 Meta 的 Llama 2），這些社區(qū)模型也即將被添加到 Azure AI 模型目錄中。

Nemotron-3 8B 系列經(jīng)過(guò) 80 億個(gè)參數(shù)優(yōu)化，其包含針對(duì)不同用例進(jìn)行調(diào)整的版本，并具有構(gòu)建自定義企業(yè)生成式 AI 應(yīng)用的多語(yǔ)言功能。

NVIDIA DGX 云現(xiàn)已在

Microsoft Azure Marketplace 上架

NVIDIA DGX 云 AI 超算服務(wù)已在 Azure Marketplace（https://azuremarketplace.microsoft.com/en-US/marketplace/apps/nvidia.dgx-cloud?ocid=GTMRewards_WhatsNewBlog_dgx-cloud_10272023）上架。該服務(wù)提供客戶可租用的實(shí)例，可擴(kuò)展至數(shù)千顆 NVIDIA Tensor Core GPU，并附帶包括 NeMo 在內(nèi)的 NVIDIA AI Enterprise 軟件以加速 LLM 的定制化。

Azure Marketplace 新上架的 DGX 云還支持 Azure 客戶使用其現(xiàn)有的 Microsoft Azure 消費(fèi)承諾額度，來(lái)兌換 NVIDIA AI 超算服務(wù)和軟件，以加快其模型開(kāi)發(fā)速度。

NVIDIA AI Enterprise 軟件現(xiàn)已集成到 Azure 機(jī)器學(xué)習(xí)中，為其添加了 NVIDIA 安全、穩(wěn)定且具支持性的 AI 和數(shù)據(jù)科學(xué)軟件平臺(tái)。Azure 的企業(yè)級(jí) AI 服務(wù)也添加了 NeMo 和 NVIDIA Triton 推理服務(wù)器。

NVIDIA AI Enterprise 也已在 Azure Marketplace（https://azuremarketplace.microsoft.com/en-us/marketplace/apps/nvidia.nvidia-ai-enterprise）上架，為全球企業(yè)提供了廣泛的生產(chǎn)就緒型 AI 開(kāi)發(fā)和自定義生成式 AI 應(yīng)用部署的選擇。

GTC 2024 將于 2024 年 3 月 18 至 21 日在美國(guó)加州圣何塞會(huì)議中心舉行，線上大會(huì)也將同期開(kāi)放。掃描下方海報(bào)二維碼，立即注冊(cè) GTC 大會(huì)。