一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

企業(yè)可在Kubernetes上輕松擴展NVIDIA GPU

星星科技指導(dǎo)員 ? 來源:NVIDIA ? 作者:NVIDIA ? 2022-04-11 14:56 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

NVIDIA GPU 運營商允許企業(yè)在 Kubernetes 上輕松擴展 NVIDIA GPU 。

通過使用 Kubernetes 簡化 GPU 的部署和管理, GPU 運營商使基礎(chǔ)設(shè)施團隊能夠在幾分鐘內(nèi)自動無誤地擴展 GPU 應(yīng)用程序。

GPU Operator 1.9 現(xiàn)已推出,其中包括幾個關(guān)鍵功能,以及其他更新,使用戶可以更快地開始使用并保持不間斷服務(wù)。

GPU 操作員 1.9 包括:

支持使用 DGX 操作系統(tǒng)的 NVIDIA DGX A100 系統(tǒng)

簡化的安裝過程

使用 DGX 操作系統(tǒng)支持 DGX A100

對于 1.9 , GPU 操作員自動在 NVIDIA NVSwitch 系統(tǒng)上部署初始化結(jié)構(gòu)所需的軟件,包括與 DGX OS 一起使用時的 DGX A100 。一旦初始化,所有 GPU 都可以在全 NVLink 帶寬下相互通信,以創(chuàng)建端到端可擴展計算平臺。

DGX A100 配備了世界上最先進的加速器,使企業(yè)能夠?qū)⑴嘤?xùn)、推理和分析整合到統(tǒng)一、易于部署的 AI 基礎(chǔ)設(shè)施中?,F(xiàn)在,有了 GPU 運營商的支持,企業(yè)可以將其應(yīng)用程序從培訓(xùn)擴展到與世界上最先進的系統(tǒng)相匹配。

簡化的安裝過程

對于 GPU 運營商的早期版本,使用 GPU 運營商和 OpenShift 的組織需要從 Red Hat 申請額外的權(quán)利,以便成功使用 GPU 運營商。由于授權(quán)密鑰過期,用戶需要重新應(yīng)用這些密鑰,以確保其工作流程不會中斷。

GPU Operator 1.9 現(xiàn)在支持 OpenShift 的免授權(quán)驅(qū)動程序容器。這是通過利用 RedHat 提供的 Driver-Toolkit 映像以及為構(gòu)建 NVIDIA 內(nèi)核模塊而預(yù)先安裝的必要內(nèi)核包來實現(xiàn)的。用戶不再需要確保運行 GPU 運算符時始終應(yīng)用具有 RHEL 訂閱的有效證書。更重要的是,對于斷開連接的集群,它消除了對私有包存儲庫的依賴。

版本 1.9 還包括對帶有 MIG Manager 的預(yù)裝驅(qū)動程序的支持,對預(yù)裝 MOFED 使用 GPUDirect RDMA 的支持,對容器運行時的自動檢測,以及對 NOUVEAU 的自動禁用–所有這些都旨在讓用戶更容易開始并繼續(xù)使用 GPU 加速的 Kubernetes 。

此外, GPU Operator 1.9 會自動檢測工作節(jié)點上安裝的容器運行時。無需在安裝時指定容器運行時。

GPU 操作員 1.9 :

helm install --wait --generate-name nvidia/gpu-operator

GPU 操作員 1.8 及更早版本:

helm install --wait --generate-name nvidia/gpu-operator --set operator.defaultRuntime=containerd

GPU 操作員要求禁用 Nouveau 。在以前的 GPU 操作員版本中, K8s 管理員必須按照文檔 禁用 Nouveau 。 GPU 操作員 1.9 會自動檢測 Nouveau 是否已啟用并為您禁用。

GPU 操作員資源

以下資源可用于使用 NVIDIA GPU 運營商:

GPU 操作員 1.9 發(fā)行說明

入門指南

GPU NGC 上的操作員舵圖

GitHub 上的 GPU 運算符

關(guān)于作者

Erik Bohnhorst 是 NVIDIA 的高級產(chǎn)品經(jīng)理,專注于云本地技術(shù),為 edge 和數(shù)據(jù)中心構(gòu)建一流的解決方案。 Erik 于 2014 年加入 NVIDIA ,以解決方案架構(gòu)師的身份幫助客戶構(gòu)建世界一流的虛擬化遠(yuǎn)程工作站。埃里克領(lǐng)導(dǎo)技術(shù)營銷團隊,直到他加入了 EGX 團隊。

Troy Estes 是 NVIDIA Edge 和企業(yè)計算解決方案的產(chǎn)品營銷經(jīng)理。在加入 Edge & Enterprise 業(yè)務(wù)部門之前,特洛伊曾在自主汽車業(yè)務(wù)部門和 NVIDIA 電網(wǎng)產(chǎn)品集團從事營銷活動和支持產(chǎn)品 GTM 。

審核編輯:郭婷

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • NVIDIA
    +關(guān)注

    關(guān)注

    14

    文章

    5309

    瀏覽量

    106422
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4948

    瀏覽量

    131253
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    生產(chǎn)環(huán)境中Kubernetes容器安全的最佳實踐

    隨著容器化技術(shù)的快速發(fā)展,Kubernetes已成為企業(yè)級容器編排的首選平臺。然而,在享受Kubernetes帶來的便利性和可擴展性的同時,安全問題也日益凸顯。本文將從運維工程師的角度
    的頭像 發(fā)表于 07-14 11:09 ?119次閱讀

    NVIDIA技術(shù)助力企業(yè)創(chuàng)建主權(quán)AI智能體

    AI Factory 的經(jīng)驗證設(shè)計將加速基礎(chǔ)設(shè)施與軟件(包括全新 NVIDIA NIM 微服務(wù)和經(jīng)擴展NVIDIA Blueprint)相結(jié)合,為各國和企業(yè)簡化了全棧式 AI 開發(fā)
    的頭像 發(fā)表于 06-16 14:28 ?598次閱讀

    如何在Ubuntu安裝NVIDIA顯卡驅(qū)動?

    專有顯卡驅(qū)動。本文將詳細(xì)介紹在Ubuntu系統(tǒng)安裝NVIDIA顯卡驅(qū)動的多種方法,幫助用戶根據(jù)自身情況選擇最適合的安裝方式。 二,硬件參數(shù) 平臺:PX22_GPU CPU:I7-1165G7
    的頭像 發(fā)表于 05-07 16:05 ?716次閱讀
    如何在Ubuntu<b class='flag-5'>上</b>安裝<b class='flag-5'>NVIDIA</b>顯卡驅(qū)動?

    NVIDIA虛擬GPU 18.0版本的亮點

    NVIDIA 虛擬 GPU(vGPU)技術(shù)可在虛擬桌面基礎(chǔ)設(shè)施(VDI)中解鎖 AI 功能,使其比以往更加強大、用途更加廣泛。vGPU 通過為各種虛擬化環(huán)境中的 AI 驅(qū)動工作負(fù)載提供動力,提高了
    的頭像 發(fā)表于 04-07 11:28 ?690次閱讀

    使用NVIDIA RTX PRO Blackwell系列GPU加速AI開發(fā)

    NVIDIA GTC 推出新一代專業(yè)級 GPU 和 AI 賦能的開發(fā)者工具—同時,ChatRTX 更新現(xiàn)已支持 NVIDIA NIM,RTX Remix 正式結(jié)束測試階段,本月的 NVIDIA
    的頭像 發(fā)表于 03-28 09:59 ?625次閱讀

    英偉達(dá)GTC2025亮點:NVIDIA認(rèn)證計劃擴展企業(yè)存儲領(lǐng)域,加速AI工廠部署

    全新的存儲認(rèn)證和參考架構(gòu)讓企業(yè) IT 部門能更輕松地選擇和部署 AI 基礎(chǔ)設(shè)施,實現(xiàn)最優(yōu)的性能和能效。 AI 部署的成功依靠速度、數(shù)據(jù)和規(guī)模。因此,NVIDIA 正在擴展
    的頭像 發(fā)表于 03-21 19:38 ?1095次閱讀

    英偉達(dá)GTC25亮點:NVIDIA Dynamo開源庫加速并擴展AI推理模型

    NVIDIA Dynamo 提高了推理性能,同時降低了擴展測試時計算 (Scaling Test-Time Compute) 的成本;在 NVIDIA Blackwell 的推理優(yōu)化
    的頭像 發(fā)表于 03-20 15:03 ?650次閱讀

    Oracle 與 NVIDIA 合作助力企業(yè)加速代理式 AI 推理

    Oracle 數(shù)據(jù)庫與 NVIDIA AI 相集成,使企業(yè)能夠更輕松、快捷地采用代理式 AI ? ? ? 美國加利福尼亞州圣何塞 —— GTC? —— 2025 年 3 月 18 日
    發(fā)表于 03-19 15:24 ?358次閱讀
    Oracle 與 <b class='flag-5'>NVIDIA</b> 合作助力<b class='flag-5'>企業(yè)</b>加速代理式 AI 推理

    解鎖新應(yīng)用:探索GPU擴展是如何提升渲染農(nóng)場的工作效率

    聯(lián)瑞GPU擴展方案在渲染農(nóng)場的應(yīng)用,是在原有計算機設(shè)備的基礎(chǔ)增加GPU的數(shù)量,不用額外購買GPU服務(wù)器,有效的幫助
    的頭像 發(fā)表于 01-09 17:13 ?415次閱讀
    解鎖新應(yīng)用:探索<b class='flag-5'>GPU</b><b class='flag-5'>擴展</b>是如何提升渲染農(nóng)場的工作效率

    NVIDIA和GeForce RTX GPU專為AI時代打造

    NVIDIA 和 GeForce RTX GPU 專為 AI 時代打造。
    的頭像 發(fā)表于 01-06 10:45 ?664次閱讀

    《CST Studio Suite 2024 GPU加速計算指南》

    。 2. 操作系統(tǒng)支持:CST Studio Suite在不同操作系統(tǒng)持續(xù)測試,可在支持的操作系統(tǒng)使用GPU計算,具體參考相關(guān)文檔。 3. 許可證:
    發(fā)表于 12-16 14:25

    NVIDIA通過加速AWS的機器人仿真推進物理AI的發(fā)展

    NVIDIA Isaac Sim 現(xiàn)在可在 Amazon EC2 G6e 實例中的 NVIDIA GPU 云實例使用,將機器人仿真的
    的頭像 發(fā)表于 12-09 11:50 ?797次閱讀

    AMD與NVIDIA GPU優(yōu)缺點

    ,NVIDIA的RTX系列顯卡以其強大的光線追蹤和DLSS技術(shù)領(lǐng)先于市場。例如,NVIDIA的RTX 3080在4K分辨率下提供了卓越的游戲體驗,而AMD的Radeon RX 6800 XT雖然在某些游戲中表現(xiàn)接近,但在光線追蹤技術(shù)
    的頭像 發(fā)表于 10-27 11:15 ?2535次閱讀

    NVIDIA NIM助力企業(yè)高效部署生成式AI模型

    Canonical、Nutanix 和 Red Hat 等廠商的開源 Kubernetes 平臺集成了 NVIDIA NIM,將允許用戶通過 API 調(diào)用來大規(guī)模地部署大語言模型。
    的頭像 發(fā)表于 10-10 09:49 ?770次閱讀

    暴漲預(yù)警!NVIDIA GPU供應(yīng)大跳水

    gpu
    jf_02331860
    發(fā)布于 :2024年07月26日 09:41:42