在本文中,我們將介紹 GPU Operator release 1.8 中添加的新功能,進(jìn)一步簡化 GPU 對各種部署場景的管理,包括:
增加了對 GPU 操作員升級的支持
支持 NVX 交換機(jī)系統(tǒng),包括 DGX A100 和 NVIDIA HGX A100 服務(wù)器
支持收集 GPU 操作員狀態(tài)指標(biāo)
GPU 運營商和網(wǎng)絡(luò)運營商改進(jìn)多節(jié)點培訓(xùn)
支持 Red Hat OpenShift 4.8
NVIDIA 軟件生命周期管理
GPU Operator 的 1.8 版為組織提供了更新機(jī)制,以更新其 GPU Operator 版本,而不會中斷運行 GPU Operator 的群集的工作流。 GPU Operator 的早期版本要求用戶在安裝新版本之前卸載以前的版本,這意味著在升級過程中群集中沒有可用的 GPU 。
從 1.8 開始,升級版本不會中斷工作流程。該機(jī)制以滾動方式一次更新一個節(jié)點,因此其他節(jié)點可以繼續(xù)使用。只有在安裝完成且上一個節(jié)點重新聯(lián)機(jī)時,下一個節(jié)點才會更新。用戶可以確信,在更新 GPU 操作員時,他們的工作流程將得到更好的管理。
現(xiàn)在支持 NVS 交換機(jī)系統(tǒng)
對于 1.8 , GPU 操作員自動在 NVIDIA 上部署初始化結(jié)構(gòu)所需的軟件 NVSwitch 系統(tǒng),包括 NVIDIA HGX A100 和 DGX A100 。一旦初始化,所有 GPU 都可以在全 NVLink 帶寬下相互通信,以創(chuàng)建一個可擴(kuò)展的終端計算平臺。
GPU 操作員還經(jīng)過認(rèn)證,可在 DGX A100 系統(tǒng)上與 Red Hat OpenShift 4 一起使用。
支持收集 GPU 操作員狀態(tài)指標(biāo)
在 1.8 版本中, GPU 運營商現(xiàn)在報告各種指標(biāo),供用戶監(jiān)控 GPU 運營商和 GPU – 運營商資源命名空間下的運營商部署資源的總體運行狀況。 SRE 團(tuán)隊和集群管理員現(xiàn)在可以配置必要的 Prometheus 用于收集指標(biāo)以及在某些故障情況下觸發(fā)警報的資源。
對于 OpenShift 容器平臺,這些資源將在此版本中自動創(chuàng)建。監(jiān)控解決方案,如 Grafana 可用于構(gòu)建儀表板和可視化 GPU 操作員和節(jié)點組件的操作狀態(tài)。
更好地結(jié)合: NVIDIA 加速計算和聯(lián)網(wǎng)
最近, NVIDIA 發(fā)布了 NVIDIA Network Operator 。 模擬 NVIDIA GPU Operator ,網(wǎng)絡(luò)運營商通過自動化網(wǎng)絡(luò)部署和配置的各個方面簡化了 Kubernetes 的擴(kuò)展網(wǎng)絡(luò)設(shè)計,否則需要手動操作。它在具有 NVIDIA 網(wǎng)絡(luò)接口的任何群集節(jié)點上加載所需的驅(qū)動程序、庫、設(shè)備插件和 CNI 。
當(dāng)它們一起部署時, NVIDIA GPU 和網(wǎng)絡(luò)運營商啟用 GPU 直接 RDMA ,即不同節(jié)點上 NVIDIA GPU 之間的快速數(shù)據(jù)路徑。這是數(shù)據(jù)密集型工作負(fù)載(如 AI 多節(jié)點培訓(xùn))的關(guān)鍵技術(shù)促成因素。
了解有關(guān)最新版本的更多信息 NVIDIA 網(wǎng)絡(luò)運營商發(fā)布 。
增加了對 Red Hat OpenShift 的支持
我們繼續(xù)支持紅帽 OpenShift 。
GPU Operator 1.8 和 1.7 支持 Red Hat OpenShift 4.8 和 4 . 7
GPU 運算符 1.6 支持 Red Hat OpenShift 4. 7
GPU 運算符 1. 5 支持 Red Hat OpenShift 4 . 6
GPU Operator 1. 4 和1 .3 分別支持 Red Hat OpenShift 4.5 和 4.4
概括
以下資源可用于使用 NVIDIA GPU 運算符:
GPU 操作員 1.8 發(fā)行說明
入門指南
GPU NGC 上的操作員舵圖
GitHub 上的 GPU 運算符
NVIDIA GPU 運算符是許多應(yīng)用程序的關(guān)鍵組件 邊緣計算 解決。
關(guān)于作者
Troy Estes 是 NVIDIA Edge 和企業(yè)計算解決方案的產(chǎn)品營銷經(jīng)理。在加入 Edge & Enterprise 業(yè)務(wù)部門之前,特洛伊曾在自主汽車業(yè)務(wù)部門和 NVIDIA 電網(wǎng)產(chǎn)品集團(tuán)從事營銷活動和支持產(chǎn)品 GTM 。
Erik Bohnhorst 是 NVIDIA 的高級產(chǎn)品經(jīng)理,專注于云本地技術(shù),為 edge 和數(shù)據(jù)中心構(gòu)建一流的解決方案。 Erik 于 2014 年加入 NVIDIA ,以解決方案架構(gòu)師的身份幫助客戶構(gòu)建世界一流的虛擬化遠(yuǎn)程工作站。埃里克領(lǐng)導(dǎo)技術(shù)營銷團(tuán)隊,直到他加入了 EGX 團(tuán)隊。
審核編輯:郭婷
-
NVIDIA
+關(guān)注
關(guān)注
14文章
5308瀏覽量
106342 -
數(shù)據(jù)中心
+關(guān)注
關(guān)注
16文章
5226瀏覽量
73499
發(fā)布評論請先 登錄
GPU架構(gòu)深度解析

可以手動構(gòu)建imx-gpu-viv嗎?
無法在GPU上運行ONNX模型的Benchmark_app怎么解決?
OpenVINO?檢測到GPU,但網(wǎng)絡(luò)無法加載到GPU插件,為什么?
GPU按需計費的優(yōu)勢
Triton編譯器與GPU編程的結(jié)合應(yīng)用
《CST Studio Suite 2024 GPU加速計算指南》
GPU在虛擬現(xiàn)實中的表現(xiàn) 低功耗GPU的優(yōu)缺點
【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】--了解算力芯片GPU
談?wù)?b class='flag-5'>GPU的使用壽命

【一文看懂】大白話解釋“GPU與GPU算力”

常見GPU問題及解決方法
如何選擇適合的GPU
GPU算力租用平臺是什么

評論