伴隨著人工智能技術飛躍式的進步,對于計算機運算能力的需求同樣大幅提升。目前,英偉達公司的H100芯片銷售火爆。值得關注的是,單片H100芯片的峰值功率高達700瓦。隨著此類芯片的廣泛使用,預計到2024年末,其總體功耗將相當于甚至超越某些歐洲小型國家。
根據(jù)預測,若H100的年利用率保持在61%,那么單臺設備每年將耗電3740千瓦小時左右。如果英偉達在2023年售出150萬塊H100,2024年再增加至200萬塊,那么到2024年底,將有350萬塊H100芯片投入使用,其總年用電量將高達130.91億千瓦小時(13091.82GWh)。相對而言,一些國家的年平均發(fā)電水平,如格魯吉亞、立陶宛和危地馬拉,也是這個數(shù)量級。
盡管H100的電力消耗數(shù)字讓人瞠目結舌,但我們可以看到,AI以及高性能計算GPU的能效正逐步改善。英偉達下一代Blackwell架構的B100芯片不僅可能擁有超過H100的功耗,而且還能實現(xiàn)更高的性能表現(xiàn),從而在相同能耗下完成更多任務。
很明顯,隨著AI技術的持續(xù)發(fā)展,如何妥善處理算力與能耗之間的矛盾,成為了未來亟待解決的重大問題。
-
芯片
+關注
關注
460文章
52520瀏覽量
441093 -
人工智能
+關注
關注
1807文章
49029瀏覽量
249609 -
英偉達
+關注
關注
22文章
3953瀏覽量
93809
發(fā)布評論請先 登錄
特朗普要叫停英偉達對華特供版 英偉達H20出口限制 或損失55億美元
英偉達、高通布局AI投資版圖,這些明星企業(yè)被收入囊中!
華迅光通AI計算加速800G光模塊部署
英偉達H100芯片市場降溫
英偉達發(fā)布AI模型 Llama-3.1-Nemotron-51B AI模型

英偉達Blackwell架構揭秘:下一個AI計算里程碑?# 英偉達# 英偉達Blackwell
英偉達面臨雙重反壟斷調(diào)查挑戰(zhàn)
英偉達或取消B100轉用B200A代替

評論