隨著AI與HPC運算的盛行,如今為了將算力繼續(xù)擴展下去,CPU和GPU都在朝著多核的方向發(fā)展下去,計算密度也在大幅提升。此外,數(shù)據(jù)中心也越來越多地開始轉(zhuǎn)向異構(gòu)工作負載,對基礎(chǔ)架構(gòu)、性能和可用性提出了又一輪的要求,也在加速存儲產(chǎn)品的轉(zhuǎn)型,催生了CXL這樣的新技術(shù),但僅僅只靠CXL,是無法打破我們所說的內(nèi)存瓶頸的。
加速內(nèi)部流量成為服務(wù)器性能的新關(guān)鍵
100GbE模塊的出現(xiàn)后,在網(wǎng)絡(luò)交換與傳輸性能如此發(fā)達的當(dāng)下,遠程存儲已經(jīng)成了越來越多企業(yè)的首選。但本地存儲也在經(jīng)歷一輪性能的革命,NVMe、NVDIMM等技術(shù)演進進一步降低了存儲的網(wǎng)絡(luò)延遲,解決了一路走高的內(nèi)部帶寬需求。
那么服務(wù)器內(nèi)部數(shù)據(jù)的移動要如何跟上呢?在復(fù)雜的服務(wù)器基礎(chǔ)架構(gòu)中,內(nèi)部數(shù)據(jù)的交換往往由多個內(nèi)存緩沖拷貝組成,比如內(nèi)核到I/O、I/O到特定硬件,實現(xiàn)方式主要靠不同層級的軟件棧,但軟件到軟件間的數(shù)據(jù)交換仍靠的是CPU。
當(dāng)下的內(nèi)存數(shù)據(jù)移動的軟件標(biāo)準(zhǔn)為memcpu,雖然已經(jīng)足夠穩(wěn)定,但也限制了應(yīng)用的性能。比如為了提供上下文隔離而招致更大的軟件開銷。所以大家開始嘗試DMA,這種用于卸載軟件復(fù)制循環(huán)的策略。雖說這樣做解放了CPU的部分負擔(dān),但這種方案與特定設(shè)備的接口綁定,只適合專門的特權(quán)軟件和I/O用例,更別提前向兼容了,尤其是在公有云這種多人功用的虛擬環(huán)境中。
SDXI,新的數(shù)據(jù)加速器接口標(biāo)準(zhǔn)
這就引出了一系列痛點,比如既要從CPU執(zhí)行周期中將I/O解放出來,又要保證架構(gòu)的穩(wěn)定性。提供虛擬機加速的同時,又能幫助開發(fā)者從已有軟件棧中遷移到新的方案上,還要考慮到當(dāng)下新的內(nèi)存互聯(lián)方案,比如CXL、Gen-Z等等。為了解決這些痛點,2020年起,SNIA(全球網(wǎng)絡(luò)存儲工業(yè)協(xié)會)成立了一個新的工作組并提出了SDXI(智能數(shù)據(jù)加速器接口)這一概念,為的就是提供一個可擴展、虛擬化且前向兼容的內(nèi)存數(shù)據(jù)移動與加速接口規(guī)范。
SDXI下的內(nèi)存間數(shù)據(jù)移動 / SNIA
SDXI作為一個標(biāo)準(zhǔn)化方案,不僅要兼容DRAM、SCM、MMIO、CXL和Gen-Z這些不同的內(nèi)存,也要為CPU、GPU、FPGA、智能I/O等提供標(biāo)準(zhǔn)的加速器接口。如此一來,SDXI可以在不同的地址空間實現(xiàn)數(shù)據(jù)移動,包括用戶地址空間和不同的虛擬機等。而且一旦連接建立,數(shù)據(jù)移動再也不需要特權(quán)軟件作為中介。從戴爾在PCIe 3.0 FPGA上的原型測試上來安,改用SDXI可以實現(xiàn)超過memcpy兩倍以上的線性拷貝速度。
截至目前,不少內(nèi)存廠商和服務(wù)器廠商都已經(jīng)加入了對SDXI的貢獻行列中來,比如AMD、Arm、戴爾、HPE、IBM,以及美光、三星、SK海力士等。他們也在考慮在1.0標(biāo)準(zhǔn)之后,繼續(xù)從QoS、延遲、RAS上加以改進,在實現(xiàn)未來版本前向與后向兼容的同時,一起推動SDXI在CXL系統(tǒng)架構(gòu)中的普及。
小結(jié)
在ARM、RISC-V紛紛入局數(shù)據(jù)中心,并推出百核、千核的CPU處理器后,更快的數(shù)據(jù)交換將成為一個必然的需求,未來的網(wǎng)絡(luò)與存儲技術(shù)也需要SDXI提供這樣的擴展性。何況SDXI提供的不僅僅是加速,還是一個標(biāo)準(zhǔn)化接口,在滿足數(shù)據(jù)移動性能的同時,支持軟件愛你的重復(fù)利用和虛擬化。
審核編輯 :李倩
-
cpu
+關(guān)注
關(guān)注
68文章
11077瀏覽量
217032 -
服務(wù)器
+關(guān)注
關(guān)注
13文章
9793瀏覽量
87951 -
數(shù)據(jù)中心
+關(guān)注
關(guān)注
16文章
5226瀏覽量
73510
原文標(biāo)題:只靠CXL還不夠,數(shù)據(jù)移動也需要統(tǒng)一標(biāo)準(zhǔn)
文章出處:【微信號:elecfans,微信公眾號:電子發(fā)燒友網(wǎng)】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
內(nèi)存擴展CXL加速發(fā)展,繁榮AI存儲

通過標(biāo)準(zhǔn)化數(shù)據(jù)通路來實現(xiàn)數(shù)據(jù)共享
新思科技解讀CXL 3.1標(biāo)準(zhǔn)

芯盾時代助力中國礦產(chǎn)資源集團構(gòu)建統(tǒng)一認證系統(tǒng)
為什么你的設(shè)備還不夠“聽話”?

SMART Modular CXL AIC內(nèi)存擴充卡獲CXL聯(lián)盟認證
SMART Modular世邁科技CXL內(nèi)存擴充卡獲CXL聯(lián)盟認證
瀾起科技CXL?內(nèi)存擴展控制器芯片通過CXL 2.0合規(guī)性測試
瀾起科技MXC芯片列入首批CXL 2.0合規(guī)供應(yīng)商清單

PCIe 6.0 互操作性PHY驗證測試方案

韓國無晶圓廠初創(chuàng)公司Panmnesia展示第一個支持CXL的AI集群
鴻蒙生態(tài)發(fā)布統(tǒng)一互聯(lián)技術(shù)標(biāo)準(zhǔn)
研華科技推出SQRAM CXL 2.0 Type 3內(nèi)存模塊SQR-CX5N
ALVA AR技術(shù)助力數(shù)字化展示升級
新思科技CXL 3.1驗證解決方案

評論