來源:電子工程專輯
編輯:感知芯視界
過去近兩年來,受消費(fèi)電子市場(chǎng)需求疲軟等因素影響,存儲(chǔ)芯片產(chǎn)業(yè)游進(jìn)入庫(kù)存過剩、訂單減少、價(jià)格暴跌的“寒冬”。三星、美光、SK海力士、鎧俠等存儲(chǔ)芯片大廠紛紛減產(chǎn)、去庫(kù)存,但市場(chǎng)行情是否筑底眾說紛紜,整體產(chǎn)業(yè)回暖的跡象亦不明顯。
然而,在生成式AI對(duì)算力需求的帶動(dòng)下,2023年初以來高帶寬內(nèi)存(HBM)在整個(gè)存儲(chǔ)芯片產(chǎn)業(yè)中可謂“這邊風(fēng)景獨(dú)好”。目前,三星、SK海力士、美光等存儲(chǔ)芯片大廠均在布局與搶占這一細(xì)分市場(chǎng)利好。
與此同時(shí),隨著AI對(duì)內(nèi)存速率提出更高的要求,HBM技術(shù)創(chuàng)新仍將持續(xù)不斷演進(jìn)。因此,相對(duì)整個(gè)存儲(chǔ)芯片產(chǎn)業(yè)而言,HBM這一細(xì)分領(lǐng)域出現(xiàn)了產(chǎn)能和性能雙提升的增長(zhǎng)態(tài)勢(shì)。
HBM增長(zhǎng)勢(shì)頭強(qiáng)勁
HBM(High Bandwidth Memory)是一款新型的CPU/GPU內(nèi)存芯片(即“RAM”),其實(shí)就是將很多個(gè)DDR芯片堆疊在一起后和GPU封裝在一起,實(shí)現(xiàn)大容量、高位寬的DDR組合陣列,可被廣泛應(yīng)用于高性能計(jì)算、人工智能、圖形處理和數(shù)據(jù)中心等領(lǐng)域。
整體來看,HBM具有超越一般芯片集成的RAM的特殊優(yōu)勢(shì):一是高速、高帶寬的特性使HBM非常適合用于GPU顯存和HPC高性能計(jì)算、AI計(jì)算;二是由于采用了TSV和微凸塊技術(shù),HBM具備更好的內(nèi)存功耗能效特性,相對(duì)于GDDR5存儲(chǔ)器,HBM2的單引腳I/O帶寬功耗比數(shù)值降低42%,更低的熱負(fù)荷降低了冷卻成本;三是在物理空間日益受限的數(shù)據(jù)中心環(huán)境中,HBM緊湊的體系結(jié)構(gòu)也是其獨(dú)特的優(yōu)勢(shì)。
今年初以來,ChatGPT突然爆火,帶動(dòng)了AI大模型的快速增長(zhǎng),使得具備高帶寬和低功耗特性的HBM成為處理大規(guī)模數(shù)據(jù)和復(fù)雜計(jì)算任務(wù)的理想選擇。據(jù)悉,2023年開年后,三星、SK海力士?jī)杉掖鎯?chǔ)大廠HBM訂單快速增加,價(jià)格也水漲船高,HBM3規(guī)格DRAM價(jià)格甚至上漲5倍。
過去數(shù)月里,HBM乘AI東風(fēng),市場(chǎng)關(guān)注度大幅上升。據(jù)悉,三星電子、SK海力士等韓國(guó)本土存儲(chǔ)半導(dǎo)體企業(yè)正在推動(dòng)HBM專用線的擴(kuò)張。兩家公司計(jì)劃在2024年年底前投資超過2萬億韓元,使HBM生產(chǎn)線目前的產(chǎn)能增加一倍以上。SK海力士計(jì)劃利用利川現(xiàn)有HBM生產(chǎn)基地的清州工廠的閑置空間。三星電子正在考慮擴(kuò)大位于忠清南道天安市的HBM核心生產(chǎn)線。
另一大存儲(chǔ)大廠美光也很早就嗅到AI應(yīng)用商機(jī),于2019年在中國(guó)臺(tái)灣成立HBM部門。美光甚至表示,看好2022年至2025年HBM市場(chǎng)年復(fù)合成長(zhǎng)率超50%。
當(dāng)前,HBM市場(chǎng)呈現(xiàn)三足鼎立格局。TrendForce研究顯示,2022年三大原廠HBM市占率分別為SK海力士占50%、三星約40%、美光約占10%。
從發(fā)展進(jìn)程來看,2023-2024年將是AI建設(shè)爆發(fā)期,大量需求集中在AI訓(xùn)練芯片上,勢(shì)必推升HBM使用量。預(yù)計(jì)2023年,HBM即便在原廠擴(kuò)大產(chǎn)能的情況下,仍無法完全滿足客戶需求。從各原廠規(guī)劃看,預(yù)計(jì)2024年HBM供給位元量將年增長(zhǎng)105%。另?yè)?jù)semiconductor-digest預(yù)測(cè),到2031年,全球高帶寬存儲(chǔ)器市場(chǎng)預(yù)計(jì)將從2022年的2.93億美元增長(zhǎng)到34.34億美元,在2023-2031年的預(yù)測(cè)期內(nèi)復(fù)合年增長(zhǎng)率為31.3%。
三星獲英偉達(dá)HBM訂單
在AI大模型熱潮影響下,科技大廠接連布局AI大模型,掀起了AI大模型競(jìng)爭(zhēng)之戰(zhàn),可以預(yù)見未來算力需求仍將大幅增長(zhǎng)。目前,NVIDIA、AMD、Intel等高端AI芯片大多選擇搭載HBM。而作為加速計(jì)算領(lǐng)導(dǎo)者,英偉達(dá)更是受益于ChatGPT引發(fā)AI大模型需求增長(zhǎng),今年以來股價(jià)累計(jì)漲幅已超過245%,目前(9月5日)市值已站上1.2萬億美元。
當(dāng)前,在核心GPU(圖像處理器)加速計(jì)算芯片供不應(yīng)求的情形下,英偉達(dá)在加大GPU供應(yīng)量的同時(shí),也加速推出新一代算力更快的芯片——超級(jí)芯片GH200,以持續(xù)鞏固AI大模型核心算力芯片供應(yīng)商地位。
中信證券分析認(rèn)為,目前英偉達(dá)數(shù)據(jù)中心加速卡銷量仍主要以高端的A100/H100系列卡為主,其中臺(tái)積電CoWoS環(huán)節(jié)產(chǎn)能為主要約束,考慮到封測(cè)設(shè)備的交貨周期等因素,預(yù)計(jì)臺(tái)積電CoWoS產(chǎn)能實(shí)質(zhì)性改善至少應(yīng)在2024Q2左右。
當(dāng)然,除了CoWoS產(chǎn)能不足之外,HBM也是供不應(yīng)求。目前,SK海力士是HBM3領(lǐng)域的全球領(lǐng)導(dǎo)者,迄今為止也是英偉達(dá)唯一為AI加速器提供HBM的供應(yīng)商。有專家認(rèn)為,HBM3是需高帶寬的人工智能服務(wù)的理想選擇。
然而,SK海力士一家遠(yuǎn)遠(yuǎn)難以滿足英偉達(dá)對(duì)HBM的需求。據(jù)悉,英偉達(dá)計(jì)劃到2024年出貨最高200萬顆H100。此前HBM供應(yīng)商主要是SK海力士,但是產(chǎn)能也有限,如果英偉達(dá)不引入其他HBM供應(yīng)商,那么要達(dá)成這一目標(biāo)將變得相當(dāng)困難。這勢(shì)必迫使英偉達(dá)尋找更多的HBM供應(yīng)商進(jìn)行合作。
9月5日消息,據(jù)韓國(guó)媒體報(bào)導(dǎo),三星電子已獲得英偉達(dá)(NVIDIA)的高帶寬內(nèi)存(HBM)訂單。據(jù)悉,三星的HBM已通過NVIDIA的第四次測(cè)試,也是最后一次品質(zhì)測(cè)試。隨后,兩家公司已同意簽訂供應(yīng)協(xié)議。根據(jù)該協(xié)議,雙方的供貨最早可能在10月啟動(dòng)?,F(xiàn)在NVIDIA已經(jīng)擁有SK Hynix和三星作為其HBM供應(yīng)商,這使得AI GPU的產(chǎn)量能夠提升。
花旗集團(tuán)分析師也曾在一份報(bào)告中寫道,三星電子將從第四季度開始供應(yīng)HBM3新一代內(nèi)存,經(jīng)過優(yōu)化配合人工智能加速器使用。未來,隨著三星的加入,英偉達(dá)將在很大程度上緩解GPU供應(yīng)不足的壓力。
HBM技術(shù)不斷演進(jìn)
未來數(shù)年,HBM的發(fā)展“錢景”被存儲(chǔ)大廠廣受看好。而在當(dāng)前高性能計(jì)算應(yīng)用對(duì)內(nèi)存速率提出更高要求的背景下,HBM技術(shù)將繼續(xù)進(jìn)行改進(jìn)和創(chuàng)新。
從技術(shù)發(fā)展趨勢(shì)看,HBM促使DRAM從傳統(tǒng)2D加速走向立體3D,充分利用空間、縮小面積,契合半導(dǎo)體行業(yè)小型化、集成化的發(fā)展趨勢(shì)。具體來看,增加堆疊層數(shù)、提高數(shù)據(jù)傳輸速度和密度,以及降低功耗和成本等方面的改進(jìn),將推動(dòng)HBM技術(shù)的進(jìn)一步發(fā)展。
目前,HBM內(nèi)部的DRAM堆疊屬于3D封裝,而HBM與AI芯片的其他部分合封于Interposer上屬于2.5D封裝,是典型的Chiplet應(yīng)用。
過去十年里,高帶寬和高密度的HBM解決方案不斷涌現(xiàn),使得數(shù)據(jù)傳輸速度更快、容量更大,同時(shí)降低功耗和占用空間。據(jù)悉,HBM發(fā)展至今第四代性能不斷突破。自2014年首款硅通孔HBM產(chǎn)品問世至今,HBM技術(shù)已經(jīng)發(fā)展至第四代,分別是:HBM(第一代)、HBM2(第二代)、HBM2E(第三代)、HBM3(第四代),HBM芯片容量從1GB升級(jí)至24GB,帶寬從128GB/s提升至819GB/s,數(shù)據(jù)傳輸速率也從1Gbps提高至6.4Gbps。
為了搶占未來HBM市場(chǎng),目前各大存儲(chǔ)大廠也在不斷提升HBM技術(shù)性能。近日,美光中國(guó)臺(tái)灣地區(qū)董事長(zhǎng)盧東暉就表示,美光有多達(dá)65%的DRAM產(chǎn)品在中國(guó)臺(tái)灣生產(chǎn),繼日本廠于2022年10月開始量產(chǎn)1β(1-beta)制程技術(shù)后,中國(guó)臺(tái)灣現(xiàn)在也開始量產(chǎn)1-beta制程。同時(shí),臺(tái)日?qǐng)F(tuán)隊(duì)還研發(fā)新一代的1-gamma制程,是美光第1代采用極紫外光(EUV)的制程技術(shù),將在2025年上半年先在臺(tái)中廠量產(chǎn)。
而三星早在2022年10月召開的Samsung Foundry Forum 2022活動(dòng)上,就對(duì)外公布了DRAM技術(shù)路線圖。按照規(guī)劃,三星將于2023年進(jìn)入1bnm工藝階段,芯片容量將達(dá)到24Gb(3GB)- 32Gb(4GB),原生速度將在6.4-7.2Gbp。
今年5月,三星已宣布量產(chǎn)12納米級(jí)16Gb DDR5 DRAM,隨后9月宣布采用12納米(nm)級(jí)工藝技術(shù),開發(fā)出其容量最大的32Gb DDR5 DRAM,全新12納米級(jí)32Gb DDR5 DRAM計(jì)劃于今年年底開始量產(chǎn)。
盡管各大儲(chǔ)存廠商正不斷加碼HBM,但其技術(shù)創(chuàng)新仍需克服兩大主要問題:一是HBM需要較高的工藝,進(jìn)而大幅度提升了成本;二是大量DRAM堆疊,和GPU封裝在一起,產(chǎn)生大量的熱,如何散熱是極大的挑戰(zhàn)。
整體來看,存儲(chǔ)產(chǎn)業(yè)出現(xiàn)了分化的市場(chǎng)行情:一方面在多類消費(fèi)電子需求疲弱背景下,多家NAND Flash廠商仍在減產(chǎn),另一方面因AI服務(wù)器需求增加,與AI場(chǎng)景高算力需求匹配的HBM需求上升。然而,AI浪潮催化下的DRAM行情雖有好轉(zhuǎn)跡象,但整個(gè)存儲(chǔ)芯片產(chǎn)業(yè)似乎仍待實(shí)際需求支撐。
*免責(zé)聲明:本文版權(quán)歸原作者所有,本文所用圖片、文字如涉及作品版權(quán),請(qǐng)第一時(shí)間聯(lián)系我們刪除。本平臺(tái)旨在提供行業(yè)資訊,僅代表作者觀點(diǎn),不代表感知芯視界立場(chǎng)。
今日內(nèi)容就到這里啦,如果有任何問題,或者想要獲取更多行業(yè)干貨研報(bào),可以私信我或者留言
審核編輯 黃宇
-
芯片
+關(guān)注
關(guān)注
460文章
52520瀏覽量
441016 -
存儲(chǔ)
+關(guān)注
關(guān)注
13文章
4533瀏覽量
87466 -
內(nèi)存
+關(guān)注
關(guān)注
8文章
3125瀏覽量
75271 -
AI
+關(guān)注
關(guān)注
88文章
35164瀏覽量
280007 -
GPT
+關(guān)注
關(guān)注
0文章
368瀏覽量
16096
發(fā)布評(píng)論請(qǐng)先 登錄

如何將#1Gbit #貼片SD卡 穩(wěn)定適配于#電子秤 的#存儲(chǔ)系統(tǒng) ? #貼片tf卡 #存儲(chǔ)芯片 #sd卡
半導(dǎo)體存儲(chǔ)芯片核心解析

深入解析#智能燈具 中與#創(chuàng)世 #貼片式TF卡 #NAND #Flash 的協(xié)同應(yīng)用 #存儲(chǔ)芯片
劃片機(jī)在存儲(chǔ)芯片制造中的應(yīng)用

DeepSeek與存儲(chǔ)芯片為AI眼鏡注入新動(dòng)能
劃片機(jī)在存儲(chǔ)芯片切割中的應(yīng)用優(yōu)勢(shì)

英偉達(dá)加速認(rèn)證三星新型AI存儲(chǔ)芯片

如何格式化貼片式SD卡/貼片式TF卡(SD NAND)#電路知識(shí) #pcb設(shè)計(jì) #芯片 #存儲(chǔ)芯片 #嵌入式
存儲(chǔ)芯片的基礎(chǔ)知識(shí)

一文帶你了解什么是SD NAND存儲(chǔ)芯片
UV三防漆:存儲(chǔ)芯片的隱形盔甲

評(píng)論