除集中采購臺積電產(chǎn)能外，英偉達(dá)更斥巨額資金購買了HBM3內(nèi)存。據(jù)消息人士指出，該公司已向美光和 SK海力士預(yù)先訂購高達(dá)韓元1兆至10兆的HBM3內(nèi)存，雖尚無明確用途，但業(yè)界普遍推測旨在確保2024年前期HBM供應(yīng)穩(wěn)定。

另有業(yè)內(nèi)專家透露，三星、SK海力士以及美光三家頭部存儲器供應(yīng)商早已備戰(zhàn)明年的HBM產(chǎn)能，預(yù)計將呈現(xiàn)出急速上漲的趨勢。

據(jù)最新傳聞，英偉達(dá)正在籌劃發(fā)布兩款搭載HBM3E內(nèi)存的新品——包括141GB HBM3E的H200 GPU及GH200超級芯片，這也進(jìn)一步說明了對于HBM內(nèi)存的大量需求。

H200堪稱全球最強(qiáng)大的AI芯片之一，且為全球首個采用HBM3e的GPU，基于NVIDIA Hopper架構(gòu)設(shè)計，與H100相容，能達(dá)到4.8 TB/s的運行速度。

在AI領(lǐng)域，英偉達(dá)聲稱，HGT H200在Lima 2（含700億參數(shù)LLM）上的推理速度較H100成倍提升。這款HGT H200計劃以4路和8路模式提供服務(wù)，同時與H100系統(tǒng)中軟硬件完美兼容。已知它將適用于所有數(shù)據(jù)中心（包括本地、云、混合云及邊緣），并得到Amazon Web Services、Google Cloud、Microsoft Azure和Oracle Cloud Infrastructure等多個平臺推廣，預(yù)計于2024年第二季度上市。