NVIDIA 的 AI 平臺(tái)適用于任何高瞻遠(yuǎn)矚的企業(yè)使用，而且比以往任何時(shí)候都更加易于應(yīng)用。

NVIDIA AI Enterprise 5.0于今日發(fā)布，其中包括 NVIDIA 微服務(wù)、用于部署生成式 AI 應(yīng)用和加速計(jì)算的可下載軟件容器。領(lǐng)先的云服務(wù)提供商、系統(tǒng)構(gòu)建商和軟件供應(yīng)商均可提供，并且 Uber 等客戶已開(kāi)始使用該產(chǎn)品。

Uber 平臺(tái)工程副總裁 Albert Greenberg 表示：“我們采用了 NVIDIA AI Enterprise 推理軟件，這對(duì)于滿足用戶對(duì)高性能的期望來(lái)說(shuō)非常重要。讓 Uber 引以為豪的是，我們走在了采用 AI 創(chuàng)新技術(shù)的前沿，使我們成為一個(gè)在效率和卓越方面樹(shù)立行業(yè)標(biāo)準(zhǔn)的客戶服務(wù)平臺(tái)?！?/p>

微服務(wù)加速應(yīng)用開(kāi)發(fā)

開(kāi)發(fā)者正在轉(zhuǎn)而采用微服務(wù)，并將其作為在全球范圍內(nèi)構(gòu)建現(xiàn)代企業(yè)應(yīng)用的有效方式。他們?cè)跒g覽器中使用云 API 或應(yīng)用編程接口來(lái)編寫(xiě)可在系統(tǒng)上運(yùn)行的應(yīng)用，并為全球用戶提供服務(wù)。

NVIDIA AI Enterprise 5.0 現(xiàn)包括一系列微服務(wù)，其中包括用于在生產(chǎn)中部署 AI 模型的NVIDIA NIM和包括NVIDIA cuOpt在內(nèi)的NVIDIA CUDA-X微服務(wù)集合。

NIM 微服務(wù)可為來(lái)自 NVIDIA 及其合作伙伴生態(tài)系統(tǒng)的數(shù)十種熱門(mén) AI 模型優(yōu)化推理。

NIM 由 NVIDIA 推理軟件（包括Triton 推理服務(wù)器、TensorRT和TensorRT-LLM）提供支持，可將部署時(shí)間由數(shù)周縮短至數(shù)分鐘。它提供基于行業(yè)標(biāo)準(zhǔn)的安全性和可管理性，以及與企業(yè)級(jí)管理工具的兼容性。

NVIDIA cuOpt 是一款 GPU 加速的 AI 微服務(wù)，它在路徑優(yōu)化方面創(chuàng)造了記錄，并能夠支持動(dòng)態(tài)決策，從而幫助企業(yè)降低成本、縮短時(shí)間并減少碳足跡。作為 CUDA-X 微服務(wù)之一，它可幫助各行業(yè)將 AI 投入生產(chǎn)。

更多功能正在陸續(xù)開(kāi)發(fā)中。例如NVIDIA RAG LLM operator將把 Co-Pilot 和其他使用檢索增強(qiáng)生成的生成式 AI 應(yīng)用從試驗(yàn)階段推向生產(chǎn)階段，而無(wú)需重寫(xiě)任何代碼。

包括 CrowdStrike、SAP 和 ServiceNow 在內(nèi)的多家領(lǐng)先應(yīng)用和網(wǎng)絡(luò)安全平臺(tái)提供商都正在采用 NVIDIA 微服務(wù)。

更多工具和功能

此外，我們還在 5.0 版本中進(jìn)行了 3 項(xiàng)重要更新。

該平臺(tái)現(xiàn)集成了一個(gè)開(kāi)發(fā)者工具包NVIDIA AI Workbench，用于快速下載、自定義和運(yùn)行生成式 AI 項(xiàng)目。該軟件目前已全面上市，并已獲得 NVIDIA AI Enterprise 許可證支持。

此外，5.0 版本現(xiàn)在還支持紅帽 OpenStack 平臺(tái)，大多數(shù)財(cái)富 500 強(qiáng)公司都使用該平臺(tái)創(chuàng)建私有云和公有云服務(wù)。它由紅帽負(fù)責(zé)維護(hù)，為開(kāi)發(fā)者構(gòu)建虛擬計(jì)算環(huán)境提供熟悉的平臺(tái)。IBM 咨詢服務(wù)將幫助客戶部署這些新功能。

此外，5.0 版本還擴(kuò)展了支持范圍，支持各種最新NVIDIA GPU、網(wǎng)絡(luò)硬件和虛擬化軟件。

可隨時(shí)隨地運(yùn)行

功能增強(qiáng)的 NVIDIA AI 平臺(tái)比以往任何時(shí)候都更易于訪問(wèn)。

NIM 和 CUDA-X 微服務(wù)以及所有 5.0 功能均會(huì)很快在亞馬遜云科技、谷歌云、Microsoft Azure 和 Oracle Cloud marketplace 上架。

如果用戶希望在自己的數(shù)據(jù)中心運(yùn)行代碼，VMware Private AI Foundation 和 NVIDIA 將為軟件提供支持，使其能夠部署在博通公司客戶的虛擬化數(shù)據(jù)中心中。

企業(yè)可以選擇在紅帽 OpenShift 上運(yùn)行 NVIDIA AI Enterprise，以便在裸機(jī)或虛擬化環(huán)境中運(yùn)行。它還可以在 Canonical 的 Charmed Kubernetes 和 Ubuntu 上運(yùn)行。

此外，該 AI 平臺(tái)也將成為慧與（HPE）的 HPE ProLiant 服務(wù)器上可用軟件的一部分。HPE 的生成式 AI 企業(yè)計(jì)算解決方案使用 NVIDIA AI Enterprise 進(jìn)行推理和模型微調(diào)。

同時(shí)，Anyscale、Dataiku 和 DataRobot 這三家領(lǐng)先的機(jī)器學(xué)習(xí)操作管理軟件提供商也將在其平臺(tái)上支持 NIM。他們加入了由數(shù)百家 MLOps 合作伙伴組成的 NVIDIA 生態(tài)系統(tǒng)，其中包括 Microsoft Azure 機(jī)器學(xué)習(xí)、Dataloop AI、Domino Data Lab 和 Weights & Biases。

用戶無(wú)論通過(guò)何種方式訪問(wèn) NVIDIA AI Enterprise 5.0，都能從這一安全、生產(chǎn)就緒且性能優(yōu)化的軟件中獲益。它可以靈活地部署在數(shù)據(jù)中心、云、工作站或網(wǎng)絡(luò)邊緣的應(yīng)用中。

NVIDIA AI Enterprise 可通過(guò)思科、戴爾科技、惠普、HPE、聯(lián)想和超微等領(lǐng)先的系統(tǒng)提供商提供。

在 GTC 上聆聽(tīng)成功案例

3 月 18 日至 21 日，全球 AI 盛會(huì) NVIDIA GTC 在圣何塞會(huì)議中心舉行。會(huì)上，用戶將會(huì)分享他們使用該軟件的體驗(yàn)。

例如，ServiceNow 首席數(shù)字信息官 Chris Bedi 將在小組討論上就如何利用生成式 AI 的潛能進(jìn)行發(fā)言：

https://www.nvidia.com/gtc/session-catalog/?tab.allsessions=1700692987788001F1cG&search=ServiceNow#/session/1698205437942001FOg6

ServiceNow AI 產(chǎn)品副總裁 Jeremy Barnes 則會(huì)在另一場(chǎng)演講中分享如何借助 NVIDIA AI Enterprise 充分提高開(kāi)發(fā)者的開(kāi)發(fā)效率：

https://www.nvidia.com/gtc/session-catalog/?tab.allsessions=1700692987788001F1cG&search=ServiceNow#/session/1696278742562001JcJ2

來(lái)自貝萊德、美敦力、SAP 和 Uber 的高管們將就其在金融、醫(yī)療、企業(yè)軟件和業(yè)務(wù)運(yùn)營(yíng)領(lǐng)域中使用 NVIDIA AI 平臺(tái)開(kāi)展的工作進(jìn)行探討。

此外，總部位于德國(guó)汽車(chē)保險(xiǎn)公司全球應(yīng)用提供商 ControlExpert 的高管將與大家一同分享如何利用 NVIDIA AI Enterprise 軟件開(kāi)發(fā) AI 理賠管理解決方案。

NVIDIA 對(duì)數(shù)百個(gè)內(nèi)外部的生成式 AI 項(xiàng)目進(jìn)行了評(píng)估，并將這些項(xiàng)目全部集成到一個(gè)經(jīng)過(guò)穩(wěn)定性和安全性測(cè)試的軟件包中，讓越來(lái)越多的公司能夠從中受益。

審核編輯：劉清