一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

NVIDIA宣布推出NVIDIA Blackwell平臺以賦能計(jì)算新時(shí)代

NVIDIA英偉達(dá)企業(yè)解決方案 ? 來源:NVIDIA英偉達(dá)企業(yè)解決方案 ? 2024-03-20 09:44 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

全新 Blackwell GPU、NVLink 和可靠性技術(shù)賦能萬億參數(shù)規(guī)模的 AI 模型

全新 Tensor Core 與 TensorRT- LLM 編譯器將 LLM 推理運(yùn)行成本和能耗降低多達(dá) 25 倍

全新加速器助推數(shù)據(jù)處理、工程模擬、電子設(shè)計(jì)自動(dòng)化、計(jì)算機(jī)輔助藥物設(shè)計(jì)和量子計(jì)算領(lǐng)域?qū)崿F(xiàn)突破

各大云提供商、服務(wù)器制造商和頭部 AI 企業(yè)紛紛采用

NVIDIA 于太平洋時(shí)間3 月 18 日宣布推出 NVIDIA Blackwell 平臺以賦能計(jì)算新時(shí)代。該平臺可使世界各地的機(jī)構(gòu)都能夠在萬億參數(shù)的大語言模型(LLM)上構(gòu)建和運(yùn)行實(shí)時(shí)生成式 AI,其成本和能耗較上一代產(chǎn)品降低多達(dá) 25 倍。

Blackwell GPU 架構(gòu)搭載六項(xiàng)變革性的加速計(jì)算技術(shù),這些技術(shù)將助推數(shù)據(jù)處理、工程模擬、電子設(shè)計(jì)自動(dòng)化、計(jì)算機(jī)輔助藥物設(shè)計(jì)、量子計(jì)算和生成式 AI 等領(lǐng)域?qū)崿F(xiàn)突破,這些都是 NVIDIA 眼中的新興行業(yè)機(jī)遇。

NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛表示:“三十年來,我們一直深耕加速計(jì)算領(lǐng)域,力求實(shí)現(xiàn)像深度學(xué)習(xí)和 AI 這樣的變革性突破。生成式 AI 是我們這個(gè)時(shí)代的決定性技術(shù),Blackwell GPU 是推動(dòng)新一輪工業(yè)革命的引擎。通過與全球最具活力的企業(yè)合作,我們將實(shí)現(xiàn) AI 賦能各行各業(yè)的承諾?!?/strong>

許多企業(yè)都在計(jì)劃采用 Blackwell,其中包括亞馬遜科技、戴爾科技、谷歌、Meta、微軟、OpenAI、Oracle、特斯拉和 xAI。

Alphabet 和谷歌首席執(zhí)行官 Sundar Pichai表示:“通過擴(kuò)展谷歌搜索和 Gmail 等服務(wù)以服務(wù)于數(shù)十億用戶,我們對于如何管理計(jì)算基礎(chǔ)設(shè)施有了更加深入的了解。隨著公司業(yè)務(wù)進(jìn)入 AI 平臺轉(zhuǎn)型期,我們將繼續(xù)為自身產(chǎn)品和服務(wù)以及云客戶擴(kuò)大基礎(chǔ)設(shè)施投資。我們有幸與 NVIDIA 建立了長期合作伙伴關(guān)系,并期待著將 Blackwell GPU 的突破性功能帶給我們的云客戶以及包括 Google DeepMind 在內(nèi)的谷歌團(tuán)隊(duì),以加速未來的探索進(jìn)程?!?/p>

亞馬遜總裁兼首席執(zhí)行官 Andy Jassy表示:“我們與 NVIDIA 的深度合作可以追溯到13 年前,當(dāng)時(shí)我們在 AWS 上推出了全球首個(gè) GPU 云實(shí)例。如今,我們在云端提供了最為廣泛的 GPU 解決方案,以支持全球那些技術(shù)上最先進(jìn)的加速工作負(fù)載。正因如此,NVIDIA Blackwell GPU 能夠在 AWS 上運(yùn)行得如此出色,NVIDIA也選擇與 AWS 共同開發(fā) Project Ceiba,將 NVIDIA 新一代 Grace Blackwell 超級芯片與 AWS Nitro System 的高級虛擬化和超快速的 Elastic Fabric Adapter 網(wǎng)絡(luò)結(jié)合,以用于 NVIDIA 自身的 AI 研發(fā)。通過 AWS 與 NVIDIA 工程師的共同努力,我們將持續(xù)創(chuàng)新,使 AWS 成為每一個(gè)想要在云端運(yùn)行 NVIDIA GPU 的用戶的最佳選擇?!?/p>

戴爾科技董事會主席兼首席執(zhí)行官 Michael Dell表示:“生成式 AI 對于創(chuàng)建更智能、更可靠和更高效的系統(tǒng)至關(guān)重要。戴爾科技與 NVIDIA 將攜手塑造未來科技。隨著 Blackwell 的發(fā)布, 我們將繼續(xù)為用戶提供新一代加速產(chǎn)品和服務(wù),以提供推動(dòng)跨行業(yè)創(chuàng)新所需的工具?!?/p>

谷歌 DeepMind 聯(lián)合創(chuàng)始人兼首席執(zhí)行官 Demis Hassabis表示:“AI 的變革潛力令人難以置信,它將幫助我們解決世界上那些最重要的科學(xué)問題。Blackwell 突破性的技術(shù)性能將提供所需的關(guān)鍵算力,從而幫助那些世界上最聰明的大腦繪制新的科學(xué)藍(lán)圖。”

Meta 公司創(chuàng)始人兼首席執(zhí)行官 Mark Zuckerberg表示:“從我們的大語言模型到內(nèi)容推薦、廣告和安全系統(tǒng),AI 已經(jīng)在賦能一切,而且 AI 在未來將會日益重要。我們期待通過 NVIDIA Blackwell 幫助訓(xùn)練我們的開源 Llama 模型,打造下一代 Meta AI 和消費(fèi)產(chǎn)品。”

微軟執(zhí)行董事長兼首席執(zhí)行官 Satya Nadella表示:“我們致力于為客戶提供最先進(jìn)的基礎(chǔ)設(shè)施,以賦能其 AI 工作負(fù)載。一直以來,我們致力于為云端優(yōu)化 NVIDIA GPU,通過在我們的全球數(shù)據(jù)中心采用 GB200 Grace Blackwell 處理器,我們得以在這一進(jìn)程中再進(jìn)一步,助力世界各地的組織實(shí)現(xiàn) AI 落地。”

OpenAI 首席執(zhí)行官 Sam Altman表示:“Blackwell 實(shí)現(xiàn)了巨大的性能飛躍,并將加速我們提供尖端模型的能力。我們很高興能繼續(xù)與 NVIDIA 合作,共同提升 AI 計(jì)算?!?/p>

Oracle 董事長兼首席技術(shù)官 Larry Ellison表示:“Oracle 與 NVIDIA 的緊密合作將推動(dòng) AI、機(jī)器學(xué)習(xí)和數(shù)據(jù)分析領(lǐng)域?qū)崿F(xiàn)質(zhì)和量的突破。為了讓用戶能夠獲取更多具有可操作性的洞察,正需要像 Blackwell 這樣專為加速計(jì)算和生成式 AI 而打造的、更強(qiáng)大的引擎?!?/p>

特斯拉及 xAI 首席執(zhí)行官 Elon Musk表示:“當(dāng)下的 AI 領(lǐng)域,NVIDIA 硬件無可比擬?!?/p>

新架構(gòu)以紀(jì)念 David Harold Blackwell 命名,他不僅是一位專門研究博弈論和統(tǒng)計(jì)學(xué)的數(shù)學(xué)家,也是第一位入選美國國家科學(xué)院的黑人學(xué)者。這一新架構(gòu)是繼兩年前推出的 NVIDIA Hopper 架構(gòu)以來的全新架構(gòu)。

Blackwell 的多項(xiàng)創(chuàng)新技術(shù)

為加速計(jì)算和生成式 AI 提供助力

憑借六項(xiàng)變革性的技術(shù),Blackwell 能夠在擁有高達(dá) 10 萬億參數(shù)的模型上實(shí)現(xiàn) AI 訓(xùn)練和實(shí)時(shí) LLM 推理,這些技術(shù)包括:

全球最強(qiáng)大的芯片:Blackwell 架構(gòu) GPU 具有 2080 億個(gè)晶體管,采用專門定制的雙倍光刻極限尺寸 4NP TSMC 工藝制造,通過 10 TB/s 的片間互聯(lián),將 GPU 裸片連接成一塊統(tǒng)一的 GPU。

第二代 Transformer 引擎:得益于全新微張量縮放支持,以及集成于 NVIDIA TensorRT-LLM 和 NeMo Megatron 框架中的 NVIDIA 先進(jìn)動(dòng)態(tài)范圍管理算法,Blackwell 將在新型 4 位浮點(diǎn) AI 推理能力下實(shí)現(xiàn)算力和模型大小翻倍。

第五代 NVLink:為了提升萬億級參數(shù)模型和混合專家 AI 模型的性能,最新一代 NVIDIA NVLink 為每塊 GPU 提供突破性的 1.8TB/s 雙向吞吐量,確保多達(dá) 576 塊 GPU 之間的無縫高速通信,滿足了當(dāng)今最復(fù)雜 LLM 的需求。

RAS 引擎:采用 Blackwell 架構(gòu)的 GPU 包含一個(gè)用于保障可靠性、可用性和可維護(hù)性的專用引擎。此外,Blackwell 架構(gòu)還增加了多項(xiàng)芯片級功能,能夠利用 AI 預(yù)防性維護(hù)來運(yùn)行診斷并預(yù)測可靠性相關(guān)的問題。這將最大程度地延長系統(tǒng)正常運(yùn)行時(shí)間,提高大規(guī)模 AI 部署的彈性,使其能夠連續(xù)不間斷運(yùn)行數(shù)周乃至數(shù)月,同時(shí)降低運(yùn)營成本。

安全 AI:先進(jìn)的機(jī)密計(jì)算功能可以在不影響性能的情況下保護(hù) AI 模型和客戶數(shù)據(jù),并且支持全新本地接口加密協(xié)議,這對于醫(yī)療、金融服務(wù)等高度重視隱私問題的行業(yè)至關(guān)重要。

解壓縮引擎:專用的解壓縮引擎支持最新格式,通過加速數(shù)據(jù)庫查詢提供極其強(qiáng)大的數(shù)據(jù)分析和數(shù)據(jù)科學(xué)性能。未來幾年,每年需要企業(yè)花費(fèi)數(shù)百億美元的數(shù)據(jù)處理將越來越多地由 GPU 加速。

一個(gè)超大規(guī)模的超級芯片

NVIDIA GB200 Grace Blackwell 超級芯片通過 900GB/s 超低功耗的片間互聯(lián),將兩個(gè) NVIDIA B200 Tensor Core GPU 與 NVIDIA Grace CPU 相連。

為了實(shí)現(xiàn)超高的 AI 性能,搭載 GB200 的系統(tǒng)可與同在今天發(fā)布的 NVIDIA Quantum-X800 InfiniBand 和 Spectrum-X800 以太網(wǎng)平臺連接。這兩個(gè)平臺均可提供速度高達(dá) 800Gb/s 的高性能網(wǎng)絡(luò)。

GB200 是 NVIDIA GB200 NVL72 的關(guān)鍵組件。NVIDIA GB200 NVL72 是一套多節(jié)點(diǎn)液冷機(jī)架級擴(kuò)展系統(tǒng),適用于高度計(jì)算密集型的工作負(fù)載。它將 36 個(gè) Grace Blackwell 超級芯片組合在一起,其中包含通過第五代 NVLink 相互連接的 72 個(gè) Blackwell GPU 和 36 個(gè) Grace CPU。

此外,GB200 NVL72 還內(nèi)置 NVIDIA BlueField-3 數(shù)據(jù)處理器,可在超大規(guī)模 AI 云中實(shí)現(xiàn)云網(wǎng)絡(luò)加速、組合式存儲、零信任安全和 GPU 計(jì)算彈性。對于 LLM 推理工作負(fù)載,相較于同樣數(shù)量的 NVIDIA H100 Tensor Core GPU,GB200 NVL72 最高可提供 30 倍的性能提升以及多達(dá) 25 倍的成本和能耗降低。

該平臺可作為一個(gè)單 GPU,具有 1.4 exaflops 的 AI 性能和 30TB 的快速內(nèi)存,是組成最新一代 DGX SuperPOD 的基礎(chǔ)模塊。

NVIDIA 提供的 HGX B200 是一個(gè)通過 NVLink 連接 8 塊 B200 GPU 的服務(wù)器主板,支持基于 x86 的生成式 AI 平臺?;?NVIDIA Quantum-2 InfiniBand 和 Spectrum-X 以太網(wǎng)網(wǎng)絡(luò)平臺,HGX B200 支持高達(dá) 400Gb/s 的網(wǎng)絡(luò)速度。

Blackwell的全球合作伙伴網(wǎng)絡(luò)

合作伙伴將從今年晚些時(shí)候開始供應(yīng)采用 Blackwell 架構(gòu)的產(chǎn)品。

AWS、Google Cloud、Microsoft Azure、Oracle CloudInfrastructure 將成為首批提供 Blackwell 驅(qū)動(dòng)實(shí)例的云服務(wù)提供商。同時(shí) NVIDIA 云合作伙伴計(jì)劃的公司 Applied Digital、CoreWeave、Crusoe、IBM Cloud 和 Lambda 也將提供上述服務(wù)。Indosat Ooredoo Hutchinson、Nebius、Nexgen Cloud、Oracle EUSovereign Cloud、Oracle US, UK,and Australian Government Clouds、Scaleway、新加坡電信、NorthernData Group 的 Taiga Cloud、Yotta Data Services 的 Shakti Cloud 和 YTL Power International 等主權(quán) AI 云也將提供基于 Blackwell 架構(gòu)的云服務(wù)和基礎(chǔ)設(shè)施。

GB200 還將通過 NVIDIADGX Cloud 提供,NVIDIA DGX Cloud 是一個(gè)與領(lǐng)先的云服務(wù)提供商共同設(shè)計(jì)的 AI 平臺,可為企業(yè)開發(fā)人員提供專門的基礎(chǔ)設(shè)施和軟件訪問權(quán)限,使他們能夠構(gòu)建并部署先進(jìn)的生成式 AI 模型。AWS、Google Cloud 和 Oracle Cloud Infrastructure 計(jì)劃在今年晚些時(shí)候托管采用 NVIDIA Grace Blackwell 的新實(shí)例。

Cisco、戴爾科技、慧與、聯(lián)想和 Supermicro 預(yù)計(jì)將提供基于 Blackwell 產(chǎn)品打造的各種服務(wù)器。Aivres、永擎電子、華碩、Eviden、Foxconn、技嘉、Inventec、和碩、QCT、Wistron、緯穎和 ZT Systems 也將提供基于 Blackwell 的服務(wù)器。

此外,越來越多的軟件制造商網(wǎng)絡(luò),包括工程仿真領(lǐng)域的全球領(lǐng)導(dǎo)者 Ansys、Cadence 和 Synopsys,將使用基于 Blackwell 的處理器來加速其用于設(shè)計(jì)和仿真電氣機(jī)械和制造系統(tǒng)及零件的軟件。他們的客戶可以更低成本、更高能效地使用生成式 AI 和加速計(jì)算,來加速產(chǎn)品上市。

NVIDIA 軟件支持

Blackwell 產(chǎn)品組合由生產(chǎn)級 AI 端到端操作系統(tǒng) NVIDIA AI Enterprise 支持。NVIDIA AI Enterprise 中包含同日發(fā)布的 NVIDIA NIM 推理微服務(wù)以及 AI 框架、程序庫和工具,企業(yè)可以部署在由 NVIDIA 提供加速的云、數(shù)據(jù)中心及工作站上。




審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 處理器
    +關(guān)注

    關(guān)注

    68

    文章

    19881

    瀏覽量

    234828
  • TSMC
    +關(guān)注

    關(guān)注

    3

    文章

    178

    瀏覽量

    85428
  • NVIDIA
    +關(guān)注

    關(guān)注

    14

    文章

    5299

    瀏覽量

    106262
  • 晶體管
    +關(guān)注

    關(guān)注

    77

    文章

    10013

    瀏覽量

    141457
  • GPU芯片
    +關(guān)注

    關(guān)注

    1

    文章

    305

    瀏覽量

    6178

原文標(biāo)題:GTC24 | NVIDIA Blackwell 平臺發(fā)布,賦能計(jì)算新時(shí)代

文章出處:【微信號:NVIDIA-Enterprise,微信公眾號:NVIDIA英偉達(dá)企業(yè)解決方案】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    NVIDIA技術(shù)歐洲最快超級計(jì)算機(jī)JUPITER

    NVIDIA 宣布,搭載 NVIDIA Grace Hopper 平臺的 JUPITER 超級計(jì)算機(jī)成為歐洲最快超級
    的頭像 發(fā)表于 06-12 15:33 ?449次閱讀

    使用NVIDIA RTX PRO Blackwell系列GPU加速AI開發(fā)

    NVIDIA GTC 推出新一代專業(yè)級 GPU 和 AI 的開發(fā)者工具—同時(shí),ChatRTX 更新現(xiàn)已支持 NVIDIA NIM,RTX
    的頭像 發(fā)表于 03-28 09:59 ?592次閱讀

    英偉達(dá)GTC2025亮點(diǎn):NVIDIA Blackwell加速計(jì)算機(jī)輔助工程軟件,實(shí)現(xiàn)實(shí)時(shí)數(shù)字孿生性能數(shù)量級提升

    、Altair、Cadence、Siemens 和 Synopsys 等在內(nèi)的領(lǐng)先計(jì)算機(jī)輔助工程(CAE)軟件供應(yīng)商正在使用 NVIDIA Blackwell 平臺加速其仿真工具,速度
    的頭像 發(fā)表于 03-21 15:12 ?647次閱讀

    NVIDIA GTC2025 亮點(diǎn) NVIDIA推出 DGX Spark個(gè)人AI計(jì)算機(jī)

    和聯(lián)想)提供。 NVIDIA 發(fā)布了由 NVIDIA Grace Blackwell 平臺驅(qū)動(dòng)的 DGX 個(gè)人 AI 超級計(jì)算機(jī)。 DGX
    的頭像 發(fā)表于 03-20 18:59 ?873次閱讀
    <b class='flag-5'>NVIDIA</b> GTC2025 亮點(diǎn)  <b class='flag-5'>NVIDIA</b><b class='flag-5'>推出</b> DGX Spark個(gè)人AI<b class='flag-5'>計(jì)算</b>機(jī)

    NVIDIA Blackwell白皮書:NVIDIA Blackwell Architecture Technical Brief

    NVIDIA Blackwell白皮書:NVIDIA Blackwell Architecture Technical Brief
    的頭像 發(fā)表于 03-20 18:35 ?685次閱讀

    NVIDIA Blackwell數(shù)據(jù)手冊與NVIDIA Blackwell架構(gòu)技術(shù)解析

    NVIDIA Blackwell數(shù)據(jù)手冊與NVIDIA Blackwell 架構(gòu)技術(shù)解析
    的頭像 發(fā)表于 03-20 17:19 ?689次閱讀

    英偉達(dá)GTC25亮點(diǎn):NVIDIA Blackwell Ultra 開啟 AI 推理新時(shí)代

    英偉達(dá)GTC25亮點(diǎn):NVIDIA Blackwell Ultra 開啟 AI 推理新時(shí)代
    的頭像 發(fā)表于 03-20 15:35 ?710次閱讀

    NVIDIA 宣布推出 DGX Spark 個(gè)人 AI 計(jì)算機(jī)

    臺式超級計(jì)算機(jī)由 NVIDIA Grace Blackwell 驅(qū)動(dòng),為開發(fā)者、研究人員和數(shù)據(jù)科學(xué)家提供加速 AI 功能;系統(tǒng)由頭部計(jì)算機(jī)制造商(包括華碩、Dell Technolog
    發(fā)表于 03-19 09:59 ?316次閱讀
       <b class='flag-5'>NVIDIA</b> <b class='flag-5'>宣布</b><b class='flag-5'>推出</b> DGX Spark 個(gè)人 AI <b class='flag-5'>計(jì)算</b>機(jī)

    Supermicro提高NVIDIA Blackwell機(jī)架級解決方案產(chǎn)量

    Supermicro, Inc.,作為人工智能/機(jī)器學(xué)習(xí)、高性能計(jì)算、云、存儲和5G/Edge領(lǐng)域的整體IT解決方案提供商,近日宣布其基于NVIDIA Blackwell
    的頭像 發(fā)表于 02-11 09:45 ?399次閱讀

    MediaTek與NVIDIA攜手設(shè)計(jì)GB10 Grace Blackwell超級芯片

    MediaTek與NVIDIA近日宣布了一項(xiàng)重要合作,雙方將共同設(shè)計(jì)NVIDIA GB10 Grace Blackwell超級芯片。這款超級芯片將被應(yīng)用于
    的頭像 發(fā)表于 01-13 10:48 ?585次閱讀

    NVIDIA推出個(gè)人AI超級計(jì)算機(jī)Project DIGITS

    NVIDIA 推出個(gè)人 AI 超級計(jì)算機(jī) NVIDIA Project DIGITS,全球的 AI 研究員、數(shù)據(jù)科學(xué)家和學(xué)生都可獲取 NVIDIA
    的頭像 發(fā)表于 01-08 11:03 ?803次閱讀

    NVIDIA推出多個(gè)生成式AI模型和藍(lán)圖

    NVIDIA 宣布推出多個(gè)生成式 AI 模型和藍(lán)圖,將 NVIDIA Omniverse 一體化進(jìn)一步擴(kuò)展至物理 AI 應(yīng)用,如機(jī)器人、自動(dòng)駕駛汽車和視覺 AI 等。全球軟件開發(fā)和專業(yè)
    的頭像 發(fā)表于 01-08 10:48 ?612次閱讀

    聯(lián)發(fā)科與NVIDIA合作 為NVIDIA 個(gè)人AI超級計(jì)算機(jī)設(shè)計(jì)NVIDIA GB10超級芯片

    聯(lián)發(fā)科近日宣布NVIDIA合作設(shè)計(jì)NVIDIA GB10 Grace Blackwell超級芯片,將應(yīng)用于NVIDIA 的個(gè)人AI超級
    的頭像 發(fā)表于 01-07 16:26 ?585次閱讀

    Supermicro推出直接液冷優(yōu)化的NVIDIA Blackwell解決方案

    ,宣布推出高性能的SuperCluster。這一端對端AI數(shù)據(jù)中心解決方案采用NVIDIA Blackwell平臺,專為兆級參數(shù)規(guī)模的生成式
    發(fā)表于 11-25 10:39 ?774次閱讀
    Supermicro<b class='flag-5'>推出</b>直接液冷優(yōu)化的<b class='flag-5'>NVIDIA</b> <b class='flag-5'>Blackwell</b>解決方案

    NVIDIA向開放計(jì)算項(xiàng)目捐贈(zèng)Blackwell平臺設(shè)計(jì)

    近日,在美國加利福尼亞州舉行的 OCP 全球峰會上,NVIDIA 宣布已把 NVIDIA Blackwell 加速計(jì)算
    的頭像 發(fā)表于 11-19 15:30 ?639次閱讀