一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

AI計算需求激增,英偉達H100功耗成挑戰(zhàn)

微云疏影 ? 來源:綜合整理 ? 作者:綜合整理 ? 2023-12-28 09:29 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

伴隨著人工智能技術飛躍式的進步,對于計算機運算能力的需求同樣大幅提升。目前,英偉達公司的H100芯片銷售火爆。值得關注的是,單片H100芯片的峰值功率高達700瓦。隨著此類芯片的廣泛使用,預計到2024年末,其總體功耗將相當于甚至超越某些歐洲小型國家。

根據(jù)預測,若H100的年利用率保持在61%,那么單臺設備每年將耗電3740千瓦小時左右。如果英偉達在2023年售出150萬塊H100,2024年再增加至200萬塊,那么到2024年底,將有350萬塊H100芯片投入使用,其總年用電量將高達130.91億千瓦小時(13091.82GWh)。相對而言,一些國家的年平均發(fā)電水平,如格魯吉亞、立陶宛和危地馬拉,也是這個數(shù)量級。

盡管H100的電力消耗數(shù)字讓人瞠目結舌,但我們可以看到,AI以及高性能計算GPU的能效正逐步改善。英偉達下一代Blackwell架構的B100芯片不僅可能擁有超過H100的功耗,而且還能實現(xiàn)更高的性能表現(xiàn),從而在相同能耗下完成更多任務。

很明顯,隨著AI技術的持續(xù)發(fā)展,如何妥善處理算力與能耗之間的矛盾,成為了未來亟待解決的重大問題。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    460

    文章

    52520

    瀏覽量

    441093
  • 人工智能
    +關注

    關注

    1807

    文章

    49029

    瀏覽量

    249609
  • 英偉達
    +關注

    關注

    22

    文章

    3953

    瀏覽量

    93809
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    GPU 維修干貨 | 英偉 GPU H100 常見故障有哪些?

    上漲,英偉H100GPU憑借其強大的算力,成為AI訓練、高性能計算領域的核心硬件。然而,隨著使用場景的復雜化,
    的頭像 發(fā)表于 05-05 09:03 ?998次閱讀
    GPU 維修干貨 | <b class='flag-5'>英偉</b><b class='flag-5'>達</b> GPU <b class='flag-5'>H100</b> 常見故障有哪些?

    特朗普要叫停英偉對華特供版 英偉H20出口限制 或損失55億美元

    是“中國特供版”人工智能芯片;是英偉公司為符合美國出口規(guī)定專門為中國市場開發(fā)的定制芯片,H20芯片在訓練AI模型方面不如英偉
    的頭像 發(fā)表于 04-16 16:59 ?1340次閱讀

    英偉、高通布局AI投資版圖,這些明星企業(yè)被收入囊中!

    的模型并不會減少芯片的需求,相反,未來的計算需求只會增加,尤其是對計算基礎設施的需求英偉
    的頭像 發(fā)表于 03-25 09:22 ?1358次閱讀

    英偉A100H100比較

    英偉A100H100都是針對高性能計算和人工智能任務設計的GPU,但在性能和特性上存在顯著差異。以下是對這兩款GPU的比較: 1. 架構
    的頭像 發(fā)表于 02-10 17:05 ?4482次閱讀
    <b class='flag-5'>英偉</b><b class='flag-5'>達</b>A<b class='flag-5'>100</b>和<b class='flag-5'>H100</b>比較

    華迅光通AI計算加速800G光模塊部署

    ,都需要更多的光模塊來進行光纖通信。對于使用gpu的廣泛AI訓練應用,在NVIDIA的DGX H100服務器中,集成了8個H100 gpu,對計算和存儲網(wǎng)絡的
    發(fā)表于 11-13 10:16

    丹麥推出首臺AI超級計算機Gefion

    超級計算機由1528個英偉H100 Tensor Core GPU驅動,并采用了英偉DGX
    的頭像 發(fā)表于 10-29 15:13 ?813次閱讀

    英偉H100芯片市場降溫

    隨著英偉新一代AI芯片GB200需求的不斷攀升,其上一代明星產(chǎn)品H100芯片卻遭遇了市場的冷落。據(jù)業(yè)內(nèi)人士透露,搭載
    的頭像 發(fā)表于 10-28 15:42 ?1672次閱讀

    英偉發(fā)布AI模型 Llama-3.1-Nemotron-51B AI模型

    英偉公司宣布推出 Llama-3.1-Nemotron-51B AI 模型,這個AI大模型是源自 Meta 公司的 Llama-3.1-70B?大模型,基于使用了神經(jīng)架構搜索(NAS
    的頭像 發(fā)表于 09-26 17:30 ?930次閱讀

    英偉Blackwell架構揭秘:下一個AI計算里程碑?# 英偉# 英偉Blackwell

    英偉行業(yè)資訊
    jf_02331860
    發(fā)布于 :2024年08月26日 10:58:09

    英偉面臨雙重反壟斷調(diào)查挑戰(zhàn)

    英偉,這家在人工智能芯片領域占據(jù)領先地位的科技公司,近期遭遇了前所未有的挑戰(zhàn)。在享受了數(shù)月由AI芯片需求
    的頭像 發(fā)表于 08-14 11:45 ?963次閱讀

    英偉或取消B100轉用B200A代替

    今年3月份,英偉在美國加利福尼亞州圣何塞會議中心召開的GTC 2024大會上推出了Blackwell架構GPU。原定于今年底出貨的B100/B200被寄予厚望,將替代現(xiàn)行H100/
    的頭像 發(fā)表于 08-08 17:19 ?1024次閱讀

    氟化液 | 液冷在AI芯片降溫的應用

    已突破350W,NVIDIA的H100系列GPU芯片TDP更是達到700W,B100TDP或將達到1000W左右。英偉GTC大會上,英偉
    的頭像 發(fā)表于 07-27 08:10 ?1190次閱讀
    氟化液 | 液冷在<b class='flag-5'>AI</b>芯片降溫的應用

    英偉TITAN AI顯卡曝光,性能狂超RTX 409063%!# 英偉# 顯卡

    顯卡英偉
    jf_02331860
    發(fā)布于 :2024年07月24日 17:18:28

    英偉帶領芯片股飆升 英偉大漲4.76%

    1.08%,道指漲0.32%。 AI浪潮之下,業(yè)界預期正不斷加強,在AI算力需求的邊際拉動下、疊加消費電子復蘇,新一輪終端AI上新,相關行業(yè)正迎來具備較強持續(xù)性的上行周期;
    的頭像 發(fā)表于 07-23 16:26 ?630次閱讀

    英偉AI芯片市場還能領先多久?

    7月22日,國際媒體傳來消息,英偉在近年來興起的生成式人工智能浪潮中脫穎而出,其高性能計算芯片如H100等廣受業(yè)界青睞,推動了公司營收與利潤的大幅增長。這一強勁表現(xiàn)不僅助力
    的頭像 發(fā)表于 07-22 16:18 ?996次閱讀