一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

片上光互連:未來單芯片算力提升的重要路徑

Hobby觀察 ? 來源:電子發(fā)燒友網(wǎng) ? 作者:梁浩斌 ? 2023-12-18 07:00 ? 次閱讀
電子發(fā)燒友網(wǎng)報道(文/梁浩斌)今年火爆的AI應(yīng)用也帶火了數(shù)據(jù)中心市場,AI服務(wù)器需求暴增。不僅是AI大模型的規(guī)模在不斷擴(kuò)張至千億級參數(shù),還有越來越多不同類型的大模型訓(xùn)練和推理,都需要更強(qiáng)大的算力集群。

在一個多服務(wù)器構(gòu)成的算力系統(tǒng)中,互連速率其實很大程度上決定著整個系統(tǒng)的性能上限,因此在片間互連方面,也開始采用CPO光電合封技術(shù),將交換芯片和光電器件封裝在一起,使得光電器件與芯片之間的數(shù)據(jù)傳輸損耗減小、提高傳輸速度。

但另一方面,由于半導(dǎo)體晶體管密度的提升速度放緩,單個計算節(jié)點中,比如單張AI加速卡上的芯片采用Chiplet技術(shù)成為了趨勢,即多個小的“芯?!狈庋b在一起,通過互連組成一個整體的計算引擎。而為了提高chiplet設(shè)計的性能,芯片內(nèi)部多個die之間的互連也非常關(guān)鍵。ONoC(Optical Network-on-Chip)片上光互連正是為了解決這個問題。

片上光互連:晶圓級的光互連網(wǎng)絡(luò)

從結(jié)構(gòu)上看,片上光互連其實是一種光子集成芯片技術(shù),將不同功能的有源器件和無源器件集成在同一塊光電基板上。光電基板上具有光子路由波導(dǎo),這些波導(dǎo)被用于數(shù)據(jù)通信,和用于電路走線的多層金屬層。CMOS電芯片堆疊在硅光芯片上,在光電基板上形成二維陣列。

光從基板上的激光光源中發(fā)出,輸入到基板上的路由波導(dǎo),通過波導(dǎo)到達(dá)光芯片上的調(diào)制器。這個時候電芯片上的信息數(shù)據(jù),通過電芯片和光芯片之間的微凸塊加載到環(huán)形調(diào)制器中,將數(shù)字1和0轉(zhuǎn)換為光的強(qiáng)度差異。

調(diào)制后的光信號通過光電基板上的波導(dǎo)傳播,到達(dá)其他光芯片上的光電探測器中。這個時候光信號就被轉(zhuǎn)換成電信號,這些信息就被不同的電芯片所接收。

當(dāng)然在實際應(yīng)用中,每個CMOS芯片和光芯片之間,都有數(shù)以千計的微凸塊被用于數(shù)據(jù)傳輸。因為光信號傳播不需要銅導(dǎo)線,損耗小,延遲低,這樣就實現(xiàn)了在光電基板上進(jìn)行高能效、高帶寬密度、低延遲的光互連。

工作原理上看,其實可以大致分析出片上光互連的核心器件主要是激光器、調(diào)制器和接收器。要想提高片上光互連的傳輸容量,可以使用波分復(fù)用、偏振復(fù)用、模分復(fù)用等技術(shù)實現(xiàn)。

目前,針對單一物理維度光信號的復(fù)用、解復(fù)用設(shè)備已經(jīng)相對成熟。為了進(jìn)一步提高片上光互連系統(tǒng)的通道數(shù)量和傳輸容量,多種復(fù)用方式的綜合運用成為了重要的研究趨勢。例如,波長-偏振-模式混合復(fù)用等技術(shù)能夠顯著提升片上光互連系統(tǒng)的性能。此外,片上光互連架構(gòu)的設(shè)計與選擇對性能的提升也具有不可忽視的作用。片上光互連架構(gòu)不僅決定了片上網(wǎng)絡(luò)中不同節(jié)點的互連方式,同時也影響了路由器的端口數(shù)量和網(wǎng)絡(luò)鏈路數(shù)量,進(jìn)一步影響了網(wǎng)絡(luò)的時延、功耗和可靠性等性能指標(biāo)。

因此,綜合運用多種復(fù)用方式并優(yōu)化片上光互連架構(gòu)是片上光互連發(fā)展的重要趨勢。

距離落地應(yīng)用還有多遠(yuǎn)?

目前片上光互連技術(shù)主要處于實驗室階段,還未大規(guī)模量產(chǎn)。業(yè)界的主要玩家包括一些高校和研究機(jī)構(gòu),比如美國加州大學(xué)圣巴巴拉分校、加州伯克利大學(xué)、荷蘭的埃因霍溫科技大學(xué)和特溫特大學(xué)、美國集成光子制造研究所、中科院半導(dǎo)體所等。另外也有英特爾、曦智科技等廠商在推動相關(guān)技術(shù)的產(chǎn)業(yè)化。

英特爾在今年的Hot CHIPS會議上,展示了一款代號為“Piuma”的8核528線程處理器,而這款處理器的最大特點在于,采用了硅光子互連,能夠提供1TB/s的光學(xué)帶寬,可以將多達(dá)131,072個芯片連接在一起,形成一個大型共享內(nèi)存的圖形處理超級計算機(jī)。

在Piuma組成的超級計算機(jī)中,路由器就是網(wǎng)絡(luò),所有設(shè)備都通過 HyperX 拓?fù)溥M(jìn)行連接,每個機(jī)架內(nèi)將有16個Piuma芯片。不過英特爾目前還未決定Piuma芯片是否會進(jìn)行商業(yè)化,他們表示,如果有客戶提供資金支持,公司將會很樂意生產(chǎn)這款產(chǎn)品。

曦智科技近幾年一直在片上光互連技術(shù)上努力推進(jìn)商業(yè)化,今年HiPChips會議上,曦智科技展示了其片上光互連技術(shù)上的最新進(jìn)展,該系統(tǒng)的通道數(shù)為512,單通道最長廣播距離為50mm,廣播延時1ns,單通道頻率4GHz,片上總帶寬達(dá)到2Tbps。實測數(shù)據(jù)顯示,該計算系統(tǒng)完成多個計算核之間All-to-All的數(shù)據(jù)廣播,這將大幅提高每個計算核的算力利用率。

而基于該片上光互連技術(shù),曦智科技正在推動第一款商用級光電混合計算加速卡的商業(yè)化落地,未來將搭載曦智科技自研軟件棧,在商用場景下發(fā)揮片上光互連低延遲、低功耗的優(yōu)勢。

小結(jié):

在芯片受限于制程工藝、晶體管密度提高放緩的情況下,通過芯粒的設(shè)計將多個die封裝在同一基板上成為了突破單芯片性能的一條重要路線。而這條路線的關(guān)鍵在于片上互連技術(shù)的發(fā)展,片上光互連技術(shù)也為未來的chiplet設(shè)計路線提供了更多的可能。
聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 光互連
    +關(guān)注

    關(guān)注

    0

    文章

    10

    瀏覽量

    7873
收藏 人收藏

    評論

    相關(guān)推薦

    芯片的生態(tài)突圍與革命

    電子發(fā)燒友網(wǎng)報道(文 / 李彎彎)大芯片,即具備強(qiáng)大計算能力的集成電路芯片,主要應(yīng)用于高性能計算(HPC)、人工智能(AI)、數(shù)據(jù)中心、自動駕駛等需要海量數(shù)據(jù)并行計算的場景。隨著
    的頭像 發(fā)表于 04-13 00:02 ?1251次閱讀

    DeepSeek推動AI需求:800G光模塊的關(guān)鍵作用

    數(shù)據(jù)傳輸速率,減少帶寬瓶頸,成為數(shù)據(jù)中心和AI集群架構(gòu)優(yōu)化的重點。光模塊速率的躍升不僅提升了傳輸效率,也為大規(guī)模并行計算任務(wù)提供了必要的帶寬保障。 800G光模塊如何解決DeepSeek大規(guī)模
    發(fā)表于 03-25 12:00

    DeepSeek對芯片的影響

    DeepSeek模型,尤其是其基于MOE(混合專家)架構(gòu)的DeepSeek-V3,對芯片的要求產(chǎn)生了深遠(yuǎn)影響。為了更好地理解這一影響,我們可以從幾個方面進(jìn)行分析。一.MOE架構(gòu)對
    的頭像 發(fā)表于 02-07 10:02 ?888次閱讀
    DeepSeek對<b class='flag-5'>芯片</b><b class='flag-5'>算</b><b class='flag-5'>力</b>的影響

    中心的如何衡量?

    作為當(dāng)下科技發(fā)展的重要基礎(chǔ)設(shè)施,其的衡量關(guān)乎其能否高效支撐人工智能、大數(shù)據(jù)分析等智能應(yīng)用的運行。以下是對智中心算衡量的詳細(xì)闡述:一、
    的頭像 發(fā)表于 01-16 14:03 ?1505次閱讀
    <b class='flag-5'>算</b>智<b class='flag-5'>算</b>中心的<b class='flag-5'>算</b><b class='flag-5'>力</b>如何衡量?

    未來邊緣GPU在車聯(lián)網(wǎng)中的創(chuàng)新應(yīng)用

    的發(fā)展提供了強(qiáng)大的技術(shù)支撐。未來邊緣GPU在車聯(lián)網(wǎng)中的應(yīng)用及創(chuàng)新,將有力推動車聯(lián)網(wǎng)技術(shù)的快速發(fā)展,提升交通運行效率,降低交通事故發(fā)生率,為人們創(chuàng)造更加安全、便捷
    的頭像 發(fā)表于 10-25 08:08 ?575次閱讀
    <b class='flag-5'>未來</b>邊緣GPU<b class='flag-5'>算</b><b class='flag-5'>力</b>在車聯(lián)網(wǎng)中的創(chuàng)新應(yīng)用

    【「芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】--了解芯片CPU

    。 █在芯片設(shè)計中,芯片拓?fù)?Topology)結(jié)構(gòu)非常重要。 ●環(huán)形(Ring)拓?fù)浞绞绞且环N將多個處理單元連接成環(huán)形結(jié)構(gòu)的
    發(fā)表于 10-20 12:03

    芯片 高性能 CPU/GPU/NPU 微架構(gòu)分析》第1-4章閱讀心得——之巔:從基準(zhǔn)測試到CPU微架構(gòu)的深度探索

    的支持?,F(xiàn)代CPU的設(shè)計不僅注重性能的提升,還特別關(guān)注能效比和靈活性,以適應(yīng)不斷變化的計算需求。芯片的發(fā)展史,某種程度上就是人類智慧的結(jié)晶。從單一的算術(shù)邏輯單元到復(fù)雜的超標(biāo)量處理器
    發(fā)表于 10-19 01:21

    【「芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】--全書概覽

    經(jīng)典 GPU 芯片解讀 10.1 NVIDIAGPU芯片 10.2 AMDGPU芯片 10.3 IntelXeGPU架構(gòu) 10.3.4
    發(fā)表于 10-15 22:08

    名單公布!【書籍評測活動NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析

    ,在全球范圍內(nèi),對于推動科技進(jìn)步、經(jīng)濟(jì)發(fā)展及社會整體的運作具有至關(guān)重要的作用。隨著信息技術(shù)的高速發(fā)展,高性能計算(HPC)和人工智能(AI)等技術(shù)在多個領(lǐng)域的應(yīng)用變得日益廣泛,芯片
    發(fā)表于 09-02 10:09

    大模型時代的需求

    現(xiàn)在AI已進(jìn)入大模型時代,各企業(yè)都爭相部署大模型,但如何保證大模型的,以及相關(guān)的穩(wěn)定性和性能,是一個極為重要的問題,帶著這個極為重要的問題,我需要在此書中找到答案。
    發(fā)表于 08-20 09:04

    中國中心市場持續(xù)增長,智能規(guī)??焖籴绕?/a>

    7月24日,中國信息通信研究院(簡稱“中國信通院”)權(quán)威發(fā)布了《中國中心服務(wù)商分析報告(2024年)》,該報告深入剖析了中國中心市場的現(xiàn)狀與
    的頭像 發(fā)表于 07-24 15:25 ?847次閱讀

    芯耀輝科技解讀高速互連對于AI和大芯片而言意味著什么?

    近年來,隨著人工智能技術(shù)的迅猛發(fā)展,大芯片已成為推動AI技術(shù)創(chuàng)新的關(guān)鍵力量。然而,隨著芯片內(nèi)部計算單元數(shù)量的增加和任務(wù)復(fù)雜度的提升,
    的頭像 發(fā)表于 07-08 11:39 ?1193次閱讀

    光子計算芯片最新突破,峰值超1000tops,比電芯片更適合大模型

    電子發(fā)燒友網(wǎng)報道(文/李彎彎)近日,國內(nèi)光計算芯片公司光本位科技宣布,公司已完成算密度和精度均達(dá)到商用標(biāo)準(zhǔn)的光計算芯片
    的頭像 發(fā)表于 07-08 07:18 ?5819次閱讀
    光子計算<b class='flag-5'>芯片</b>最新突破,峰值<b class='flag-5'>算</b><b class='flag-5'>力</b>超1000tops,比電<b class='flag-5'>芯片</b>更適合大模型

    揭秘芯片:為何它如此關(guān)鍵?

    在數(shù)字化時代,芯片作為電子設(shè)備的核心組件,其性能直接關(guān)系到設(shè)備的運行速度和處理能力。而芯片,即其計算能力,更是衡量芯片性能的
    的頭像 發(fā)表于 05-09 08:27 ?1684次閱讀
    揭秘<b class='flag-5'>芯片</b><b class='flag-5'>算</b><b class='flag-5'>力</b>:為何它如此關(guān)鍵?