這家初創(chuàng)公司通過共享加速計算基礎(chǔ)設(shè)施促進(jìn) AI 工作負(fù)載高效集群的資源利用。

為了幫助客戶更加高效地利用其 AI 計算資源，NVIDIA 宣布與基于 Kubernetes 的工作負(fù)載管理和編排軟件提供商 Run:ai 達(dá)成最終收購協(xié)議。

客戶的 AI 部署正變得更加復(fù)雜，其工作負(fù)載分布在各個云、邊緣和本地數(shù)據(jù)中心基礎(chǔ)設(shè)施上。

生成式 AI、推薦系統(tǒng)、搜索引擎等工作負(fù)載的管理和編排需要精密復(fù)雜的調(diào)度，才能優(yōu)化系統(tǒng)級別和底層基礎(chǔ)設(shè)施的性能。

無論是在本地、云端還是在混合環(huán)境中，Run:ai 都可以幫助企業(yè)客戶管理并優(yōu)化其計算基礎(chǔ)設(shè)施。

Run:ai 在 Kubernetes（現(xiàn)代 AI 和云基礎(chǔ)設(shè)施編排層）上建立了一個開放平臺。該平臺支持所有熱門的 Kubernetes 變體，并與第三方 AI 工具和框架集成。

Run:ai 的客戶中有來自多個行業(yè)的全球超大型企業(yè)，他們使用 Run:ai 平臺管理數(shù)據(jù)中心規(guī)模的 GPU 集群。

Run:ai 聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Omri Geller 表示：

Run:ai 從 2020 年開始一直與 NVIDIA 開展密切合作。我們都熱衷于幫助客戶充分發(fā)揮他們基礎(chǔ)設(shè)施的作用。Run:ai 十分高興能夠加入 NVIDIA 并期待繼續(xù)雙方的合作。

Run:ai 平臺為 AI 開發(fā)者及其團(tuán)隊提供以下功能：

用于管理共享計算基礎(chǔ)設(shè)施的集中式界面，能夠使復(fù)雜 AI 工作負(fù)載的訪問變得更加簡單、快速。

提供添加用戶、在團(tuán)隊下管理用戶、提供對集群資源的訪問、控制配額、優(yōu)先級別和池，以及監(jiān)控和報告資源使用情況的功能。

針對不同的任務(wù)能夠?qū)?GPU 池化并共享算力——從 GPU 分塊到多個 GPU 或者在不同集群上運行的多個 GPU 節(jié)點。

高效利用 GPU 集群資源，使客戶能夠從算力投資中獲得更大回報。

在不久的將來，NVIDIA 將繼續(xù)以相同的商業(yè)模式提供 Run:ai 產(chǎn)品。同時將繼續(xù)投資 Run:ai 產(chǎn)品路線圖，將其納入到 NVIDIA DGX Cloud 中。NVIDIA DGX Cloud 是一個與領(lǐng)先的云服務(wù)提供商共同設(shè)計的針對企業(yè)開發(fā)人員的 AI 平臺，它能夠為生成式 AI 提供綜合全面的全棧優(yōu)化服務(wù)。

NVIDIA DGX 和 DGX Cloud 客戶將獲得 Run:ai 為其 AI 工作負(fù)載（尤其是大語言模型部署）所提供的功能。Run:ai 的解決方案已經(jīng)與 NVIDIA DGX、NVIDIA DGX SuperPOD、NVIDIA Base Command、NGC 容器和 NVIDIA AI Enterprise 軟件等產(chǎn)品集成。

NVIDIA 加速計算平臺和 Run:ai 平臺將繼續(xù)支持廣大第三方解決方案生態(tài)系統(tǒng)，為客戶提供選擇和靈活性。

通過與 Run:ai 的合作，NVIDIA 將為客戶提供一個可在任何位置訪問 GPU 解決方案的單一架構(gòu)。客戶有望受益于更高的 GPU 利用率、更好的 GPU 基礎(chǔ)設(shè)施管理以及開放式架構(gòu)所帶來的更大靈活性。

審核編輯：劉清