AI聊天機(jī)器人回答復(fù)雜問題十分迅速、智能手機(jī)能播放高清視頻不卡頓的核心，毋庸置疑是帶寬的不斷提高和數(shù)據(jù)中心的迅速崛起。市場(chǎng)對(duì)帶寬的需求仍在不斷增長(zhǎng)，數(shù)據(jù)中心正在轉(zhuǎn)向分散式架構(gòu)，并在加速器上運(yùn)行工作負(fù)載。Compute Express Link（簡(jiǎn)稱CXL）是這些創(chuàng)新背后的核心技術(shù)。CXL是一種具有緩存一致性的從CPU到設(shè)備的互聯(lián)技術(shù)，為處理器、內(nèi)存擴(kuò)展和AI加速器提供了強(qiáng)大的連接能力。

XConn創(chuàng)立于2020年，在實(shí)現(xiàn)下一代人工智能和高性能計(jì)算（HPC）應(yīng)用方面表現(xiàn)突出，該公司的使命是通過高性能、高能效、可擴(kuò)展且經(jīng)濟(jì)高效的互連解決方案，加快數(shù)據(jù)中心和HPC的人工智能計(jì)算速度。

最近，XConn公司宣布其XC50256 CXL 2.0數(shù)據(jù)交換芯片在FinFET工藝上實(shí)現(xiàn)了首次流片成功。這款CXL數(shù)據(jù)交換芯片專為數(shù)據(jù)中心和內(nèi)存池應(yīng)用而設(shè)計(jì)，旨在實(shí)現(xiàn)最高吞吐量、最低延遲和最低功耗。這款創(chuàng)新型產(chǎn)品采用了新思科技的CXL 2.0控制器和PCIe 5.0 PHY IP。通過在復(fù)雜的數(shù)據(jù)交換芯片中內(nèi)置對(duì)PCIe的支持并實(shí)施CXL，XConn致力于為客戶提供一條更加順暢的CXL采用之路。那么，XConn這款業(yè)界首個(gè)CXL數(shù)據(jù)交換芯片是如何開發(fā)的？下文一起來探討一下。

數(shù)據(jù)中心架構(gòu)設(shè)計(jì)為何發(fā)生改變

PC和筆記本電腦過去經(jīng)常用于處理繁重的計(jì)算工作負(fù)載，但在如今這個(gè)AI驅(qū)動(dòng)的數(shù)字世界中，數(shù)據(jù)中心成為了處理這些工作的主力設(shè)備。據(jù)statista預(yù)測(cè)，到2025年，全球數(shù)據(jù)生成量預(yù)計(jì)將達(dá)到180 ZB。對(duì)于管理者海量信息的數(shù)據(jù)中心而言，高帶寬和低延遲成了保持?jǐn)?shù)字世界正常運(yùn)轉(zhuǎn)的重要基石。

隨著數(shù)據(jù)需求的不斷增長(zhǎng)，數(shù)據(jù)中心架構(gòu)正在發(fā)生變革。超大規(guī)模世界正朝著解耦的方向發(fā)展：將計(jì)算、存儲(chǔ)和網(wǎng)絡(luò)等同質(zhì)資源分別置于不同模塊中，并以光互連的方式進(jìn)行連接，然后由中央智能單元負(fù)責(zé)確定并從每個(gè)模塊中提取所需的數(shù)據(jù)。這種架構(gòu)有利于充分釋放剩余資源，使其能夠用于處理其他工作負(fù)載。

得益于分散化趨勢(shì)，內(nèi)存池化成為可能，并且在數(shù)據(jù)中心內(nèi)發(fā)揮越來越重要的作用。傳統(tǒng)的數(shù)據(jù)中心架構(gòu)中，每個(gè)服務(wù)器都有自己獨(dú)立的內(nèi)存集合，運(yùn)行在上面的任何應(yīng)用程序只能訪問這些特定內(nèi)存，這限制了單個(gè)應(yīng)用程序能使用的內(nèi)存量。

然而，如今的數(shù)據(jù)驅(qū)動(dòng)型應(yīng)用，如ChatGPT等大型語言模型（LLMs），對(duì)內(nèi)存的需求極為旺盛。不論為特定服務(wù)器分配內(nèi)存資源，這些大型應(yīng)用總會(huì)不夠用并需要更多。因此，解決這一困境的最佳方式就是打破內(nèi)存壁壘，允許多臺(tái)服務(wù)器之間共享和集中內(nèi)存資源。

當(dāng)運(yùn)行在特定服務(wù)器上的任何程序都能根據(jù)應(yīng)用需求訪問內(nèi)存池時(shí)，整體的內(nèi)存使用效率會(huì)大大提高。即使請(qǐng)求的內(nèi)存量很大，內(nèi)存池也有TB級(jí)容量，可以支持大型內(nèi)存應(yīng)用。這樣，無論是大型語言模型還是其他數(shù)據(jù)密集型應(yīng)用，都能獲得所需的內(nèi)存，從而充分發(fā)揮性能，實(shí)現(xiàn)高效的數(shù)據(jù)處理和分析。

在數(shù)據(jù)中心架構(gòu)中，加速器扮演著舉足輕重的角色。CXL技術(shù)提供了直達(dá)內(nèi)存的通道，讓加速器和處理器能夠訪問相同數(shù)據(jù)。這種方式不僅避免了數(shù)據(jù)在系統(tǒng)內(nèi)的冗余復(fù)制，還通過CXL的智能內(nèi)存管理，實(shí)現(xiàn)了內(nèi)存的動(dòng)態(tài)分配和釋放。這意味著，當(dāng)應(yīng)用程序需要內(nèi)存時(shí)，CXL會(huì)及時(shí)提供所需資源；而當(dāng)應(yīng)用程序完成任務(wù)后，CXL會(huì)迅速回收這些內(nèi)存，以供其他應(yīng)用使用。這種高效的內(nèi)存管理策略不僅降低了延遲，還減少了軟件開銷，使系統(tǒng)能夠更好地處理Multi-Die系統(tǒng)中的die-to-die通信。隨著Multi-Die系統(tǒng)在數(shù)據(jù)中心的應(yīng)用日益廣泛，CXL技術(shù)的這一優(yōu)勢(shì)將變得更加重要和突出。

CXL標(biāo)準(zhǔn)憑借其緩存一致性和超低延遲，備受數(shù)據(jù)中心SoC開發(fā)者的青睞。該標(biāo)準(zhǔn)擁有卓越的計(jì)算卸載能力，與PCI Express兼容，釋放了無限的設(shè)計(jì)可能。此外，CXL標(biāo)準(zhǔn)還兼?zhèn)涞凸奶匦?，?duì)于滿足現(xiàn)代數(shù)據(jù)中心的高能耗需求至關(guān)重要，據(jù)統(tǒng)計(jì)，數(shù)據(jù)中心的能源消耗量約占全球能源的1%?？梢哉f，CXL標(biāo)準(zhǔn)不僅是技術(shù)的革新，更是未來數(shù)據(jù)中心節(jié)能減碳的重要推手。

超高帶寬CXL 2.0數(shù)據(jù)交換芯片

XConn的CXL 2.0數(shù)據(jù)交換芯片提供了比競(jìng)爭(zhēng)對(duì)手高出兩倍的帶寬，并且能夠?qū)崟r(shí)或近實(shí)時(shí)做出響應(yīng)。在設(shè)計(jì)數(shù)據(jù)交換芯片時(shí)，XConn深知讓來自不同廠商的不同設(shè)備能夠相互通信的關(guān)鍵在于其可靠性。對(duì)于數(shù)據(jù)中心的每個(gè)組件而言，可靠性、可用性和可服務(wù)性（RAS）都是不容忽視的關(guān)鍵屬性。

要想盡可能地減少互操作性問題，就離不開成熟可靠的IP。在IP方面，XConn選擇向新思科技尋求幫助，因?yàn)槲覀兊腃XL控制器和PHY應(yīng)用非常廣泛，并獲得了眾多企業(yè)的高度認(rèn)可。除了具有RAS功能的CXL 2.0控制器和PCIe 5.0 PHY IP，XConn還使用了用于CXL的新思科技驗(yàn)證IP。XConn團(tuán)隊(duì)與新思科技的多個(gè)工程團(tuán)隊(duì)密切合作，在爭(zhēng)取將CXL數(shù)據(jù)交換芯片快速推向市場(chǎng)的過程中，得到了強(qiáng)有力的支持。

為了最小化互操作性問題，業(yè)界普遍采用經(jīng)驗(yàn)證的IP。XConn選擇新思科技作為其IP供應(yīng)商，因?yàn)槲覀兊腃XL控制器和PHY在行業(yè)中已經(jīng)得到了非常廣泛的應(yīng)用，并得到了許多公司的驗(yàn)證。除了具備RAS功能的CXL 2.0控制器和PCIe 5.0 PHY IP外，XConn還使用了用于CXL的新思科技驗(yàn)證IP。

XConn團(tuán)隊(duì)與新思科技的各個(gè)開發(fā)團(tuán)隊(duì)緊密合作，在將CXL數(shù)據(jù)交換芯片推向市場(chǎng)的過程中得到了充分支持。他們憑借出色的技術(shù)實(shí)力和專業(yè)知識(shí)，成功打造了一款具備卓越性能和可靠性的CXL數(shù)據(jù)交換芯片，為數(shù)據(jù)中心的高效運(yùn)行提供了有力保障。

開發(fā)基于CXL 3.0的下一代數(shù)據(jù)交換芯片

XConn正在研發(fā)基于CXL 3.0和PCIe 6.0的下一代數(shù)據(jù)交換芯片設(shè)計(jì)，這兩項(xiàng)技術(shù)將提供雙倍帶寬并降低延遲。XConn未來還將繼續(xù)與新思科技合作，并將新思科技的CXL 3.0和PCIe 6.0 IP用于其新設(shè)計(jì)。

隨著數(shù)據(jù)量和數(shù)據(jù)中心需求的迅速增長(zhǎng)，CXL標(biāo)準(zhǔn)將在數(shù)據(jù)中心的發(fā)展中發(fā)揮越來越重要的作用。XConn的CXL數(shù)據(jù)交換芯片是CXL生態(tài)系統(tǒng)中的關(guān)鍵元素，助力打造HPC和AI應(yīng)用的美好未來。