一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線(xiàn)課程
  • 觀(guān)看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

英偉達(dá)最新一代AI芯片Blackwell GPU,AI算力能力較上代提升30倍!

中國(guó)半導(dǎo)體論壇 ? 來(lái)源:國(guó)芯網(wǎng) ? 2024-03-19 13:39 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

3月19日上午,英偉達(dá)2024 GTC AI大會(huì),黃仁勛發(fā)布了英偉達(dá)最新一代AI芯片Blackwell GPU,AI算力能力較上代提升30倍!

黃仁勛說(shuō):"我們已經(jīng)來(lái)到了一個(gè)臨界點(diǎn),因此需要一種新的計(jì)算方式來(lái)加速整個(gè)行業(yè)的發(fā)展效率。那么英偉達(dá)能夠做什么?當(dāng)然,答案就是——更大的芯片?!苯又ミ_(dá)新一代圖形計(jì)算平臺(tái)Blackwell正式登場(chǎng),它被英偉達(dá)稱(chēng)為 “新工業(yè)革命的引擎”。

采用全新Blackwell架構(gòu)的B200和GB200系列芯片正式到來(lái)。

Blackwell以第一位入選美國(guó)國(guó)家科學(xué)院的黑人學(xué)者、數(shù)學(xué)家David Harold Blackwell的名字命名,它將允許客戶(hù)能夠在萬(wàn)億參數(shù)大型語(yǔ)言模型上構(gòu)建和運(yùn)行實(shí)時(shí)生成人工智能。

Blackwell平臺(tái)引入了六項(xiàng)開(kāi)創(chuàng)性技術(shù)來(lái)支持高達(dá)10萬(wàn)億參數(shù)的AI模型訓(xùn)練和大語(yǔ)言模型的實(shí)時(shí)推理。有望在數(shù)據(jù)處理、工程模擬、電子設(shè)計(jì)自動(dòng)化、計(jì)算機(jī)輔助藥物設(shè)計(jì)、量子計(jì)算和生成人工智能等領(lǐng)域?qū)崿F(xiàn)新的突破。用黃仁勛的原話(huà)來(lái)說(shuō),它就是“當(dāng)今世界上最強(qiáng)大的芯片”。這六項(xiàng)技術(shù)分別為:

更大芯片:Blackwell 架構(gòu) GPU 擁有2080億個(gè)晶體管,尺寸是Hopper(800億晶體管)的兩倍多。Blackwell B200不是傳統(tǒng)的單一GPU,而是由兩個(gè)緊密耦合的芯片組成,這兩個(gè)芯片通過(guò)10 TB/秒的芯片到芯片鏈路連接成了一個(gè)統(tǒng)一的GPU 。

第二代Transformer引擎:配備了新的微張量縮放支持和先進(jìn)的動(dòng)態(tài)范圍管理算法,通過(guò)創(chuàng)新的4位浮點(diǎn)AI推理功能使計(jì)算和模型大小加倍。

第五代 NVLink 網(wǎng)絡(luò)技術(shù):最新的NVLink迭代增強(qiáng)了數(shù)萬(wàn)億參數(shù)AI模型的性能,為每個(gè)GPU提供了高達(dá)1.8TB/s的雙向吞吐量,確保當(dāng)今最復(fù)雜的大語(yǔ)言模型能在多達(dá)576個(gè)GPU之間實(shí)現(xiàn)無(wú)縫高速通信。

RAS引擎:Blackwell驅(qū)動(dòng)的GPU集成了專(zhuān)用引擎和基于人工智能的預(yù)防性維護(hù)功能,可確??煽啃浴⒖捎眯院涂删S護(hù)性,從而最大限度地延長(zhǎng)系統(tǒng)運(yùn)行時(shí)間并最大限度地降低運(yùn)營(yíng)成本。

安全人工智能:全新的機(jī)密計(jì)算功能可在不影響性能的情況下保護(hù)人工智能模型和客戶(hù)數(shù)據(jù),并支持新的本機(jī)接口加密協(xié)議,在傳輸過(guò)程中、靜止?fàn)顟B(tài)和計(jì)算時(shí)都能保證安全。

解壓縮引擎:通過(guò)支持最新格式加速數(shù)據(jù)庫(kù)查詢(xún),增強(qiáng)數(shù)據(jù)分析和數(shù)據(jù)科學(xué)性能,徹底改變數(shù)據(jù)處理。

英偉達(dá)表示,此前訓(xùn)練一個(gè)1.8萬(wàn)億參數(shù)模型需要用到8000個(gè)Hopper GPU和 15兆瓦的功率。而如今,同樣的訓(xùn)練量2000個(gè)Blackwell GPU就可以做到,功耗僅為4兆瓦。

基于Blackwell,此次英偉達(dá)還推出了其AI超級(jí)芯片GB2000。GB2000由兩個(gè)B200 Blackwell GPU和一個(gè)基于Arm的Grace CPU組成,可以為大語(yǔ)言模型推理工作負(fù)載提供30倍的性能,而成本能耗要比其“前輩”Hopper低25倍。在具有1750億個(gè)參數(shù)的GPT-3 LLM基準(zhǔn)測(cè)試中,GB200的性能是H100的7倍,訓(xùn)練速度是H100的4倍。

GB200還將成為英偉達(dá)全新大型機(jī)架系統(tǒng)GB200 NVL72的基石。該系統(tǒng)擁有72個(gè)Blackwell GPU和36個(gè)Grace GPU,擁有1.4 exaflops的AI性能和30TB的快速內(nèi)存。英偉達(dá)表示,該系統(tǒng)可以部署27萬(wàn)億參數(shù)的模型,而目前最大的模型GPT-4僅約有1.7萬(wàn)億個(gè)參數(shù),因此能夠加快釋放生成式AI的能力。




審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀(guān)點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 人工智能
    +關(guān)注

    關(guān)注

    1807

    文章

    49029

    瀏覽量

    249609
  • 英偉達(dá)
    +關(guān)注

    關(guān)注

    22

    文章

    3953

    瀏覽量

    93809
  • AI芯片
    +關(guān)注

    關(guān)注

    17

    文章

    1983

    瀏覽量

    35921
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3146

    瀏覽量

    4076

原文標(biāo)題:剛剛!英偉達(dá)發(fā)布“AI核彈”!

文章出處:【微信號(hào):CSF211ic,微信公眾號(hào):中國(guó)半導(dǎo)體論壇】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    AI大模型不再依賴(lài)英偉達(dá)GPU?蘋(píng)果揭秘自研大模型

    ? 電子發(fā)燒友網(wǎng)報(bào)道(文/梁浩斌)過(guò)去幾年中爆發(fā)的AI力需求,英偉達(dá)GPU成為了最大的贏(yíng)家,無(wú)論是自動(dòng)駕駛還是
    的頭像 發(fā)表于 08-05 06:07 ?4652次閱讀
    <b class='flag-5'>AI</b>大模型不再依賴(lài)<b class='flag-5'>英偉</b><b class='flag-5'>達(dá)</b><b class='flag-5'>GPU</b>?蘋(píng)果揭秘自研大模型

    英偉達(dá)GTC25亮點(diǎn):NVIDIA Blackwell Ultra 開(kāi)啟 AI 推理新時(shí)代

    英偉達(dá)GTC25亮點(diǎn):NVIDIA Blackwell Ultra 開(kāi)啟 AI 推理新時(shí)代
    的頭像 發(fā)表于 03-20 15:35 ?734次閱讀

    新思科技攜手英偉達(dá)加速芯片設(shè)計(jì),提升芯片電子設(shè)計(jì)自動(dòng)化效率

    宣布在英偉達(dá) Grace Blackwell 平臺(tái)上實(shí)現(xiàn)高達(dá) 30 的預(yù)期性能提升,加速下
    發(fā)表于 03-19 17:59 ?282次閱讀

    英偉達(dá)Blackwell芯片機(jī)架出現(xiàn)故障 訂單下滑

    Blackwell GB200機(jī)架訂單。 些客戶(hù)正在等待改進(jìn)版本的機(jī)架,或者計(jì)劃購(gòu)買(mǎi)該公司舊款的AI芯片。 微軟最初計(jì)劃在其位于鳳凰城的
    的頭像 發(fā)表于 01-14 15:39 ?438次閱讀

    英偉達(dá)新一代AI芯片過(guò)熱問(wèn)題引關(guān)注

    近日,英偉達(dá)新一代Blackwell AI芯片遭遇過(guò)熱問(wèn)題,這
    的頭像 發(fā)表于 11-19 16:15 ?641次閱讀

    軟銀攜手英偉達(dá)打造日本最強(qiáng)AI

    軟銀集團(tuán)近日宣布,將率先采用英偉達(dá)最新的Blackwell平臺(tái),打造日本最強(qiáng)的AI超級(jí)計(jì)算機(jī)。此舉旨在滿(mǎn)足日本在人工智能領(lǐng)域快速發(fā)展的迫切需求,推動(dòng)國(guó)內(nèi)
    的頭像 發(fā)表于 11-14 16:25 ?649次閱讀

    英偉達(dá)Blackwell GPU未來(lái)年訂單爆滿(mǎn)

    據(jù)摩根士丹利(大摩)透露,人工智能(AI芯片領(lǐng)域的領(lǐng)軍企業(yè)英偉達(dá)(NVIDIA)的管理層在近期的系列與投資人的會(huì)議中,分享了關(guān)于其下
    的頭像 發(fā)表于 10-17 16:52 ?896次閱讀

    英偉達(dá)Blackwell芯片量產(chǎn)加速,Q4預(yù)計(jì)出貨達(dá)45萬(wàn)片

    摩根士丹利最新發(fā)布的報(bào)告揭示了英偉達(dá)AI芯片領(lǐng)域的重大進(jìn)展,其最新力作Blackwell芯片
    的頭像 發(fā)表于 09-27 15:02 ?1280次閱讀

    英偉達(dá)Blackwell GPU量產(chǎn)加速,Q4營(yíng)收沖刺百億美元大關(guān)

    近日,全球領(lǐng)先的圖形處理單元(GPU)及人工智能芯片制造商英偉達(dá)傳來(lái)重大利好消息。據(jù)摩根士丹利最新發(fā)布的行業(yè)分析報(bào)告指出,英偉
    的頭像 發(fā)表于 09-26 15:58 ?649次閱讀

    英偉達(dá)Blackwell可支持10萬(wàn)億參數(shù)模型AI訓(xùn)練,實(shí)時(shí)大語(yǔ)言模型推理

    電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)在近日的Hot Chips 2024大會(huì)上,英偉達(dá)公布了下一代GPU架構(gòu)Blackwell的更多細(xì)節(jié)信息,以及
    的頭像 發(fā)表于 09-04 09:10 ?3729次閱讀

    英偉達(dá)Blackwell架構(gòu)揭秘:下個(gè)AI計(jì)算里程碑?# 英偉達(dá)# 英偉達(dá)Blackwell

    英偉達(dá)行業(yè)資訊
    jf_02331860
    發(fā)布于 :2024年08月26日 10:58:09

    英偉達(dá)2025年計(jì)劃發(fā)布Blackwell Ultra與B200A,或大幅提升HBM消耗量

    根據(jù)TrendForce最新發(fā)布的HBM市場(chǎng)研究報(bào)告,隨著人工智能(AI芯片技術(shù)的持續(xù)迭代升級(jí),單顆芯片所集成的HBM(高帶寬內(nèi)存)容量正顯著增長(zhǎng)。英偉
    的頭像 發(fā)表于 08-09 15:51 ?872次閱讀

    英偉達(dá)Blackwell芯片延遲發(fā)貨,臺(tái)積電量產(chǎn)面臨技術(shù)挑戰(zhàn)

    近期,科技界傳來(lái)消息,英偉達(dá)備受矚目的新一代人工智能(AI芯片Blackwell
    的頭像 發(fā)表于 08-06 15:28 ?1924次閱讀

    3萬(wàn)-4萬(wàn)美元/顆,英偉達(dá)最新AI芯片曝設(shè)計(jì)缺陷、延遲出貨

    Q1。 隨后,SemiAnalysis在最新研報(bào)中剖析了英偉達(dá)Blackwell B200芯片的技術(shù)挑戰(zhàn),主要在合封方面。
    的頭像 發(fā)表于 08-06 00:19 ?4658次閱讀

    英偉達(dá)回應(yīng)AI芯片推遲發(fā)布傳聞

    近日,英偉達(dá)就外界廣泛關(guān)注的AI芯片Blackwell推遲發(fā)布傳聞作出正式回應(yīng)。8月4日,英偉
    的頭像 發(fā)表于 08-05 17:34 ?957次閱讀