軟件提供商與 NVIDIA 一起幫助客戶建立更有效的 AI管線

開發(fā) AI 應(yīng)用并不容易，而將它們應(yīng)用于業(yè)務(wù)之上，這個難度系數(shù)則變得更高。

根據(jù) IDC 最近的一項調(diào)查，在已經(jīng)開始采用 AI 的企業(yè)中，只有不到三分之一的企業(yè)真正將 AI 投入生產(chǎn)。

企業(yè)往往要等到發(fā)布一個應(yīng)用之前，才能完全意識到運行 AI 的復(fù)雜性。這些臨時發(fā)現(xiàn)的問題似乎無法很快地得到解決，因此部署工作往往被擱置和遺忘。

為了幫助企業(yè)順利完成 AI 部署，100 多家機器學習運維（MLOps）軟件提供商正在與 NVIDIA 開展合作。這些 MLOps 領(lǐng)域的先鋒企業(yè)提供豐富的解決方案，幫助企業(yè)優(yōu)化他們的 AI 流程，包括現(xiàn)有運行的以及重建的管線。

許多 NVIDIA MLOps 和 AI 平臺生態(tài)合作伙伴以及 DGX-Ready Software 合作伙伴，包括 Canonical、ClearML、Dataiku、Domino Data Lab、Run:ai 和 Weights & Biases 等在內(nèi)的公司，正在構(gòu)建與 NVIDIA 加速的基礎(chǔ)設(shè)施和軟件相集成的解決方案，以滿足企業(yè)的 AI 運行需求。

包括亞馬遜云、谷歌云、微軟 Azure、甲骨文云等 NVIDIA 云服務(wù)提供商合作伙伴，以及阿里云等其他全球合作伙伴，也在提供簡化 AI 部署的 MLOps 解決方案。

NVIDIA 領(lǐng)先的 MLOps 軟件合作伙伴均通過 NVIDIA AI Enterprise 軟件套件的驗證和認證，該套件提供了一個用于創(chuàng)建和加速生產(chǎn)級 AI 的端到端平臺。結(jié)合 NVIDIA AI Enterprise， NVIDIA MLOps 合作伙伴所提供的工具可以幫助企業(yè)成功開發(fā)和部署 AI。

以下 NVIDIA MLOps 和 AI 平臺合作伙伴可以幫助企業(yè)啟動和運行 AI：

• Canonical：在加速大規(guī)模 AI 部署的同時，為 AI 的開發(fā)開放源碼。Canonical 宣布，部署在 NVIDIA DGX 系統(tǒng)單節(jié)點和多節(jié)點上的 Charmed Kubeflow 現(xiàn)已獲準加入 DGX-Ready Software 計劃。Charmed Kubeflow 旨在實現(xiàn)機器學習工作流程的自動化，它創(chuàng)建了一個可以將模型轉(zhuǎn)移到生產(chǎn)中的可靠應(yīng)用層。

• ClearML：提供一個用于持續(xù)機器學習的統(tǒng)一開源平臺，覆蓋從實驗管理、編排到性能提升以及 機器學習 的生產(chǎn)部署，受到全球 1,300 家企業(yè)團隊的信任。通過 ClearML，企業(yè)可以在個性化的運算組織構(gòu)造上編排和安排工作。無論是在本地還是在云端，企業(yè)都可以實現(xiàn)基礎(chǔ)設(shè)施使用情況的完全可視化，同時減少計算、硬件和資源消耗，優(yōu)化成本和性能。現(xiàn)在，ClearML 的 MLOps 平臺已獲準運行 NVIDIA AI Enterprise，在整個工作流程中的效率將變得更高，能夠更好地優(yōu)化 GPU 性能。

• Dataiku：提供一個使數(shù)據(jù)和領(lǐng)域?qū)＜夷軌蛟谝黄饘?AI 融入到日常運營中的 Everyday AI 平臺。Dataiku 現(xiàn)已獲準加入 NVIDIA DGX-Ready Software 計劃，因此企業(yè)可以放心地將 Dataiku MLOps 平臺與 NVIDIA DGX AI 超級計算機一起使用。

• Domino Data Lab：所提供的一站式管理平臺使全球最先進的企業(yè)能夠在所有地區(qū)運行基于任何云或本地計算集群中的數(shù)據(jù)科學和機器學習工作負載。Domino Cloud 是一項全新的全托管式 MLOps 平臺即服務(wù)，現(xiàn)在可用于快速、簡單的大規(guī)模數(shù)據(jù)科學研究。Domino Data Lab 的平臺去年獲準在 NVIDIA AI Enterprise 上運行，它可以降低部署風險，并與 NVIDIA AI 實現(xiàn)可靠、高性能的集成。

• Run:ai：通過其 AI 計算平臺 Atlas，在企業(yè)的 MLOps 和 AI 基礎(chǔ)設(shè)施堆棧中發(fā)揮基礎(chǔ)層作用。該平臺的自動化資源管理功能使企業(yè)機構(gòu)能夠適當整合在 Run:ai Atlas 上運行的不同 MLOps 平臺與工具的資源。Run:ai 已獲準提供 NVIDIA AI Enterprise，而且還完全集成了 NVIDIA Triton 推理服務(wù)器，最大程度地提高了 GPU 在 AI 賦能的環(huán)境中的利用率和價值。

• Weights & Biases（W&B）：幫助機器學習團隊更快地構(gòu)建更好的模型。只需幾行代碼，從業(yè)者就可以立即調(diào)試、比較和復(fù)制他們的模型，同時與他們的團隊成員開展合作。W&B 得到了全球領(lǐng)先企業(yè)和研究機構(gòu) 50 多萬名機器學習從業(yè)人員的信任。Weights & Biases 已獲準提供 NVIDIA AI Enterprise，著眼于加速包括計算機視覺、自然語言處理和生成式 AI 的深度學習工作負載。

NVIDIA 云服務(wù)提供商合作伙伴已將 MLOps 集成其平臺，為數(shù)據(jù)處理、整理、訓練和推理任務(wù)提供 NVIDIA 加速計算與軟件：

• 亞馬遜云：Amazon SageMaker for MLOps 使用 NVIDIA 加速計算幫助開發(fā)人員在整個機器學習生命周期中實現(xiàn)流程的自動化和標準化。通過訓練、測試、排查、部署和治理機器學習模型提高生產(chǎn)力。

• 谷歌云：全托管式機器學習平臺 Vertex AI 通過匯集大量特定功能，幫助加快機器學習的部署速度。通過 NVIDIA GPU 為各種 AI 工作負載提供優(yōu)化，Vertex AI 的端到端 MLOps 能力使機器學習的大規(guī)模訓練、編排、部署和管理變得更加容易。Vertex AI 還支持各種領(lǐng)先的邊緣解決方案，比如最大程度地提高性能并簡化模型大規(guī)模部署的 NVIDIA Merlin 等。谷歌云和 NVIDIA 合作，將 Triton 推理服務(wù)器作為谷歌云的全托管式模型服務(wù)平臺——Vertex AI Prediction 的后臺。

• Azure：通過 NVIDIA 加速的 Azure Machine Learning 機器學習云平臺 統(tǒng)一了機器學習模型的開發(fā)和運維（DevOps），還將 DevOps 原則與實踐，比如持續(xù)集成、交付和部署等，應(yīng)用于機器學習的流程，以加速將 Azure 機器學習模型部署到生產(chǎn)環(huán)境中的實驗、開發(fā)和生產(chǎn)部署。Azure Machine Learning 通過內(nèi)置的負責任 AI 工具提供質(zhì)量保證，幫助機器學習專業(yè)人士開發(fā)公平、可解釋和負責任的模型。

• Oracle Cloud：Oracle Cloud Infrastructure（OCI）AI Services 是一個提供預(yù)制機器學習模型的服務(wù)集，它能夠幫助開發(fā)人員方便地在其應(yīng)用和業(yè)務(wù)運營中使用NVIDIA 加速的 AI。企業(yè)內(nèi)部的團隊可以在各項服務(wù)中重復(fù)使用這些模型、數(shù)據(jù)集和數(shù)據(jù)標簽。OCI AI Services 使開發(fā)人員在不減慢應(yīng)用開發(fā)的同時，輕松將機器學習植入應(yīng)用成為可能。

• 阿里云：阿里云機器學習平臺 PAI 提供一站式的機器學習服務(wù)，提供高性能的解決方案并減少對用戶的技術(shù)技能的要求。在 NVIDIA 技術(shù)的加速下，阿里云機器學習平臺 PAI 使企業(yè)能夠快速建立和部署機器學習實驗以達成業(yè)務(wù)目標。

掃描海報二維碼，或點擊“閱讀原文”，即可觀看 NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛 GTC23 主題演講重播！