2023年8月8日，NVIDIA創(chuàng)始人兼CEO黃仁勛在計(jì)算機(jī)圖形年會(huì)SIGGRAPH上發(fā)布了HBM3e內(nèi)存新一代GH200 Grace Hopper超級芯片。這款芯片被黃仁勛稱為“加速計(jì)算和生成式AI時(shí)代的處理器”，旨在用于任何大型語言模型，以降低推理成本。

與今年5月發(fā)布的GH200不同，新一代GH200芯片搭載了全球首款HBM3e內(nèi)存，內(nèi)存容量和帶寬都有顯著提高，專為加速計(jì)算和生成式AI時(shí)代而設(shè)計(jì)。

新版GH200芯片平臺(tái)基于72核Grace CPU，配備480GB ECC LPDDR5X內(nèi)存以及GH100計(jì)算GPU。此外，它還搭配著141GB的HBM3e內(nèi)存，分為六個(gè)24GB的堆棧，并采用了6，144位的內(nèi)存接口。盡管實(shí)際上NVIDIA安裝了144GB的內(nèi)存，但可用的內(nèi)存容量為141GB。

借助全球最快的HBM3e內(nèi)存，這款芯片的內(nèi)存容量高達(dá)141GB，帶寬每秒可達(dá)到5TB。每個(gè)GPU的容量比NVIDIA H100 GPU多出1.7倍，帶寬比H100高1.55倍。

NVIDIA強(qiáng)調(diào)，新版GH200 Grace Hopper芯片使用了與原版相同的Grace CPU和GH100 GPU芯片，因此無需推出新的軟件版本或步進(jìn)。原版GH200和升級版GH200將共存于市場，后者將以更高的價(jià)格銷售，因?yàn)樗邆涓冗M(jìn)的內(nèi)存技術(shù)帶來的更高性能。

NVIDIA表示，新版GH200旨在處理世界上最復(fù)雜的生成式AI工作負(fù)載，包括大型語言模型、推薦系統(tǒng)和矢量數(shù)據(jù)庫，并將提供多種配置。預(yù)計(jì)新版GH200將于2024年第二季度投產(chǎn)。

編輯：黃飛