一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

奇異摩爾專用DSA加速解決方案重塑人工智能與高性能計(jì)算

奇異摩爾 ? 來源:奇異摩爾 ? 2024-09-19 11:45 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

寫在開頭,奇異摩爾的 NDSA 互聯(lián)系列產(chǎn)品基于高性能RoCEv2 RDMA引擎,是面向智算網(wǎng)絡(luò)通信加速及無損數(shù)據(jù)傳輸?shù)膶S肈SA加速解決方案。

本文部分內(nèi)容來源于麥肯錫白皮書

隨著摩爾定律下的晶體管縮放速度放緩,單純依靠增加晶體管密度的通用計(jì)算的邊際效益不斷遞減,促使專用計(jì)算日益多樣化,于是,針對(duì)特定計(jì)算任務(wù)的專用架構(gòu)成為計(jì)算創(chuàng)新的焦點(diǎn)。

在過去的幾十年的時(shí)間里,半導(dǎo)體晶圓上的晶體管密度幾乎每?jī)赡攴环?,這一趨勢(shì)令人矚目。但在過去幾年中,晶體管縮放的速度顯著放緩,比摩爾定律預(yù)測(cè)的速度落后了大約十倍。

2018年,著名計(jì)算機(jī)架構(gòu)師約翰·亨尼斯西(John Hennessy)和大衛(wèi)·帕特森(David Patterson)在圖靈講座中指出,半導(dǎo)體工藝創(chuàng)新的放緩將逐漸增加對(duì)架構(gòu)創(chuàng)新的激勵(lì)——即集成電路的設(shè)計(jì)方式,以執(zhí)行計(jì)算任務(wù)。

“他們認(rèn)為,通用計(jì)算架構(gòu)(如CPU)固有的低效性將開始被專門針對(duì)特定計(jì)算任務(wù)的架構(gòu)(也稱為領(lǐng)域?qū)S眉軜?gòu),DSAs)的計(jì)算能力和成本效益所取代 ?!?/p>

與此同時(shí),隨著計(jì)算和數(shù)字化在云計(jì)算(人工智能和高性能計(jì)算)、網(wǎng)絡(luò)、邊緣、物聯(lián)網(wǎng)(IoT)和自動(dòng)駕駛等眾多應(yīng)用領(lǐng)域中普及,高度領(lǐng)域?qū)S玫挠?jì)算工作負(fù)載正在為DSAs提供有意義的性能優(yōu)勢(shì)。大型語言模型(生成式AI的核心引擎),例如ChatGPT,在高容量的AI工作負(fù)載中提供了進(jìn)一步的專業(yè)化,這促進(jìn)了進(jìn)一步的硬件專業(yè)化。 DSA(domain-specific architecture)為特定應(yīng)用領(lǐng)域開發(fā)的硬件和軟件的商業(yè)潛力是巨大的。專用的圖形處理單元 (GPU) 和張量處理單元 (TPU) 已經(jīng)在數(shù)據(jù)中心獲得了重要的市場(chǎng)份額,它們?cè)?AI 工作負(fù)載學(xué)習(xí)和推理方面的表現(xiàn)優(yōu)于 CPU。使用GPU和TPU對(duì)某些應(yīng)用的性能提升是非常顯著的,特定工作負(fù)載的可以實(shí)現(xiàn)15 到 50 倍的加速。此外,在汽車領(lǐng)域,來自領(lǐng)先供應(yīng)商的定制的專用于某些計(jì)算場(chǎng)景的DSA硬件也提供了安全支持日益提高的自動(dòng)駕駛水平所需的低延遲、高性能推理。

wKgaombrnnKAGY13AAKCgBR1DvE660.png

隨著 DSA 擴(kuò)展到其他應(yīng)用領(lǐng)域,麥肯錫咨詢估計(jì)到 2026 年,DSA 將占約 900 億美元的收入(約占全球半導(dǎo)體市場(chǎng)的 10% 至 15%),高于 2022 年的約 400 億美元。因此,我們看到在這個(gè)方向的硬件類的風(fēng)險(xiǎn)投資顯著增加也就不足為奇了。

01 算力革命下的高性能網(wǎng)絡(luò)DSA

隨著人工智能及高性能計(jì)算的高速發(fā)展,服務(wù)器集群的瓶頸逐漸從單CPU、GPU、APU的算力轉(zhuǎn)換到硬件間的互聯(lián)能力。傳統(tǒng)的數(shù)據(jù)中心架構(gòu)中包含CPU、內(nèi)存、存儲(chǔ)和網(wǎng)絡(luò)等組件,但CPU目前已經(jīng)公認(rèn)不再是運(yùn)行基礎(chǔ)設(shè)施功能的最佳位置了。對(duì)于下一代數(shù)據(jù)中心而言,面向網(wǎng)絡(luò)加速的DSA將扮演重要的角色,根據(jù)不同應(yīng)用場(chǎng)景的需求,加速數(shù)據(jù)傳輸。同時(shí),以太網(wǎng)速度從25G增加到100G、200G、400G,再到800G,甚至還有持續(xù)增長的趨勢(shì),超大規(guī)模數(shù)據(jù)中心的硬件架構(gòu)在逐漸轉(zhuǎn)變。

據(jù)估計(jì),對(duì)于超大規(guī)模數(shù)據(jù)中心來說,大約有一半的CPU被用在了非創(chuàng)收型任務(wù)上。網(wǎng)絡(luò)DSA可以承擔(dān)大部分繁重的工作,將CPU解放出來,專注于創(chuàng)收的應(yīng)用處理上。同時(shí),由于功能和作用不同,北向網(wǎng)絡(luò)和高帶寬域在設(shè)計(jì)時(shí)側(cè)重點(diǎn)不同。北向網(wǎng)絡(luò)側(cè)重于網(wǎng)絡(luò)控制與管理,主要是網(wǎng)絡(luò)控制器與上層應(yīng)用之間的接口通信。高帶寬域網(wǎng)絡(luò)側(cè)重于數(shù)據(jù)傳輸性能,旨在提供高速度、低延遲的網(wǎng)絡(luò)連接?;赗oCE的RDMA技術(shù),兼容現(xiàn)有的以太網(wǎng)基礎(chǔ)設(shè)施,擁抱開放生態(tài),是業(yè)界解決高帶寬域網(wǎng)絡(luò)與北向網(wǎng)絡(luò)數(shù)據(jù)傳輸?shù)闹匾鉀Q方案。

02 Chiplet設(shè)計(jì)方法與DSA的完美結(jié)合

結(jié)合Chiplet設(shè)計(jì)方法學(xué)與DSA的設(shè)計(jì),可以構(gòu)建出高效、靈活且高度定制化的計(jì)算平臺(tái)。Chiplet設(shè)計(jì)方法學(xué)通過將處理器設(shè)計(jì)拆分為多個(gè)獨(dú)立的Chiplet,每個(gè)Chiplet可以針對(duì)特定功能進(jìn)行優(yōu)化。這樣可以在設(shè)計(jì)、制造和測(cè)試中提高靈活性。同時(shí),不同的Chiplet分工明確,可以專門處理不同的任務(wù),例如CPU核心、內(nèi)存控制器、I/O接口等。而DSA針對(duì)特定計(jì)算任務(wù)進(jìn)行優(yōu)化,例如生成式人工智能、圖形處理、網(wǎng)絡(luò)處理等,相比于通用處理器,DSA在其特定領(lǐng)域內(nèi)具有更高的性能和能效比。

通過Chiplet方法學(xué),可以將多個(gè)DSA集成到一個(gè)系統(tǒng)中,創(chuàng)建一個(gè)高度定制化的平臺(tái)。比如,一個(gè)系統(tǒng)可以包含CPU、GPU、TPU、DPU等Chiplet,根據(jù)應(yīng)用需求靈活組合。在這一背景下,組件之間的高速可連接對(duì)于確保順利快速的數(shù)據(jù)傳輸至關(guān)重要?;ヂ?lián)標(biāo)準(zhǔn)、帶寬、延遲和低延遲是關(guān)鍵指標(biāo)。

03奇異摩爾NDSA網(wǎng)絡(luò)加速與無損數(shù)據(jù)傳輸解決方案

在智算中心領(lǐng)域,奇異摩爾 的NDSA互聯(lián)系列產(chǎn)品復(fù)用以太網(wǎng)基礎(chǔ)設(shè)施,基于高性能RoCEv2 RDMA引擎,面向智算網(wǎng)絡(luò)通信加速及無損數(shù)據(jù)傳輸?shù)膶S肈SA加速解決方案。

AI原生智能網(wǎng)卡

奇異摩爾的Kiwi NDSA-SNIC AI原生智能網(wǎng)卡針對(duì)網(wǎng)絡(luò)數(shù)據(jù)傳輸,基于RoCE V2 RDMA技術(shù),自適應(yīng)網(wǎng)絡(luò)調(diào)度算法,搭載可編程加速核心SDPU,高達(dá)800G傳輸帶寬,實(shí)現(xiàn)Tb級(jí)萬卡集群無損數(shù)據(jù)傳輸。

高性能網(wǎng)絡(luò)加速芯粒

奇異摩爾的高性能網(wǎng)絡(luò)加速芯粒 – Kiwi NDSA互聯(lián)芯粒針對(duì)高帶寬域數(shù)據(jù)傳輸,基于RoCEv2 RDMA技術(shù),單芯粒傳輸帶寬高達(dá)800G,攜帶UCIe-D2D芯粒可擴(kuò)展互聯(lián)接口,實(shí)現(xiàn)集群內(nèi)TB級(jí)的高速通信。

寫在最后,無論是在高性能計(jì)算領(lǐng)域還是在人工智能領(lǐng)域,我們會(huì)預(yù)見更多加速數(shù)據(jù)傳輸?shù)腄SA問世。它們通過提供高吞吐量效率,計(jì)算節(jié)點(diǎn)之間的超快速互連,或提升人工智能訓(xùn)練的效率,為半導(dǎo)體價(jià)值鏈的參與者及其客戶帶來更多的革新和挑戰(zhàn)。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 芯片
    +關(guān)注

    關(guān)注

    460

    文章

    52520

    瀏覽量

    441034
  • 人工智能
    +關(guān)注

    關(guān)注

    1807

    文章

    49029

    瀏覽量

    249578
  • 奇異摩爾
    +關(guān)注

    關(guān)注

    0

    文章

    61

    瀏覽量

    3739

原文標(biāo)題:Kiwi Talks | DSA專用領(lǐng)域芯片正在重塑人工智能與高性能計(jì)算

文章出處:【微信號(hào):奇異摩爾,微信公眾號(hào):奇異摩爾】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    Axelera AI:邊緣計(jì)算加速智能創(chuàng)新解決方案

    。AxeleraAI憑借其卓越的AI加速解決方案,致力于協(xié)助企業(yè)快速部署高性能、低功耗的邊緣計(jì)算平臺(tái),廣泛應(yīng)用于智慧城市、智慧交通及工業(yè)檢測(cè)等領(lǐng)域。接下來說明AxeleraAI產(chǎn)品特色
    的頭像 發(fā)表于 07-17 11:00 ?329次閱讀
    Axelera AI:邊緣<b class='flag-5'>計(jì)算</b><b class='flag-5'>加速</b><b class='flag-5'>智能</b>創(chuàng)新<b class='flag-5'>解決方案</b>

    AI芯片:加速人工智能計(jì)算專用硬件引擎

    人工智能(AI)的快速發(fā)展離不開高性能計(jì)算硬件的支持,而傳統(tǒng)CPU由于架構(gòu)限制,難以高效處理AI任務(wù)中的大規(guī)模并行計(jì)算需求。因此,專為AI優(yōu)化的芯片應(yīng)運(yùn)而生,成為推動(dòng)深度學(xué)習(xí)、
    的頭像 發(fā)表于 07-09 15:59 ?151次閱讀

    開售RK3576 高性能人工智能主板

    ,HDMI-4K 輸出,支 持千兆以太網(wǎng),WiFi,USB 擴(kuò)展/重力感應(yīng)/RS232/RS485/IO 擴(kuò)展/I2C 擴(kuò)展/MIPI 攝像頭/紅外遙控 器等功能,豐富的接口,一個(gè)全新八核擁有超強(qiáng)性能人工智能
    發(fā)表于 04-23 10:55

    Cognizant將與NVIDIA合作部署神經(jīng)人工智能平臺(tái),加速企業(yè)人工智能應(yīng)用

    -Cognizant將與NVIDIA合作部署神經(jīng)人工智能平臺(tái),加速企業(yè)人工智能應(yīng)用 Cognizant將在關(guān)鍵增長領(lǐng)域提供解決方案,包括企業(yè)級(jí)AI
    的頭像 發(fā)表于 03-26 14:42 ?318次閱讀
    Cognizant將與NVIDIA合作部署神經(jīng)<b class='flag-5'>人工智能</b>平臺(tái),<b class='flag-5'>加速</b>企業(yè)<b class='flag-5'>人工智能</b>應(yīng)用

    FPGA+AI王炸組合如何重塑未來世界:看看DeepSeek東方神秘力量如何預(yù)測(cè)......

    ,涵蓋了通信、人工智能、工業(yè)自動(dòng)化、視頻處理等多個(gè)領(lǐng)域: ? 通信行業(yè):用于基站、網(wǎng)絡(luò)邊緣計(jì)算等場(chǎng)景,處理復(fù)雜的物理協(xié)議和邏輯控制。 ? 人工智能:FPGA的并行處理能力使其在高性能
    發(fā)表于 03-03 11:21

    高性能計(jì)算,名副其實(shí)的“算力皇冠”

    近年來,從金融到汽車、從教育到醫(yī)療,人工智能技術(shù),特別是以ChatGPT為代表的生成式人工智能,正在給整個(gè)世界帶來顛覆性體驗(yàn)。在如今這個(gè)“人工智能時(shí)代”,人工智能技術(shù)的發(fā)展離不開服務(wù)于
    的頭像 發(fā)表于 02-08 14:27 ?865次閱讀
    <b class='flag-5'>高性能</b><b class='flag-5'>計(jì)算</b>,名副其實(shí)的“算力皇冠”

    GIGABYTE CES 2025全方位展示人工智能計(jì)算解決方案

    GIGABYTE Technology,作為全球服務(wù)器和數(shù)據(jù)中心解決方案的領(lǐng)先創(chuàng)新企業(yè),再次展現(xiàn)了其在人工智能計(jì)算發(fā)展領(lǐng)域的卓越實(shí)力。在即將到來的CES 2025上,GIGABYTE將全方位展示
    的頭像 發(fā)表于 01-10 14:16 ?794次閱讀

    鴻蒙原生頁面高性能解決方案上線OpenHarmony社區(qū) 助力打造高性能原生應(yīng)用

    隨著HarmonyOS NEXT的正式推出,鴻蒙原生應(yīng)用開發(fā)熱度高漲,數(shù)量激增。但在三方應(yīng)用鴻蒙化進(jìn)程中,性能問題頻出。為此,HarmonyOS NEXT推出了一整套原生頁面高性能解決方案,包括
    發(fā)表于 01-02 18:00

    Banana Pi 攜手 ArmSoM 推出人工智能加速 RK3576 CM5 計(jì)算模塊

    的直接替代品。 ArmSoM 在其創(chuàng)建過程中寫道:“ArmSoM-CM5 是一款由 Rockchip RK3576 第二代 8nm 高性能 AIOT(人工智能物聯(lián)網(wǎng))平臺(tái)驅(qū)動(dòng)的計(jì)算模塊。它集成了四核
    發(fā)表于 12-11 18:38

    德晟達(dá)推出高性能醫(yī)療專用AI一體機(jī)

    隨著AI人工智能技術(shù)的飛速發(fā)展,醫(yī)療行業(yè)正迎來一場(chǎng)前所未有的變革,德晟達(dá)提供的硬件解決方案,服務(wù)客戶圍繞“AI人工智能+醫(yī)療”的行業(yè)創(chuàng)新發(fā)展方向,深度研發(fā),將AI人工智能診斷技術(shù)與
    的頭像 發(fā)表于 11-26 16:25 ?734次閱讀

    機(jī)智云入選廣州市“人工智能+”優(yōu)秀解決方案冊(cè)

    人工智能+”優(yōu)秀解決方案冊(cè)。該方案融合了人工智能與物聯(lián)網(wǎng)技術(shù),旨在顯著提升工業(yè)生產(chǎn)中的質(zhì)量檢測(cè)效率和準(zhǔn)確性,助力企業(yè)實(shí)現(xiàn)智能化轉(zhuǎn)型。
    的頭像 發(fā)表于 11-19 09:45 ?541次閱讀

    嵌入式和人工智能究竟是什么關(guān)系?

    學(xué)習(xí)和更新提供了可能,從而使人工智能應(yīng)用能夠不斷適應(yīng)和優(yōu)化。 總的來說,嵌入式系統(tǒng)在人工智能中的作用不容忽視。它不僅為人工智能硬件加速提供了強(qiáng)大的支持,還在邊緣
    發(fā)表于 11-14 16:39

    《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第一章人工智能驅(qū)動(dòng)的科學(xué)創(chuàng)新學(xué)習(xí)心得

    人工智能:科學(xué)研究的加速器 第一章清晰地闡述了人工智能作為科學(xué)研究工具的強(qiáng)大功能。通過機(jī)器學(xué)習(xí)、深度學(xué)習(xí)等先進(jìn)技術(shù),AI能夠處理和分析海量數(shù)據(jù),發(fā)現(xiàn)傳統(tǒng)方法難以捕捉的模式和規(guī)律。這不僅極大地提高了數(shù)據(jù)處理
    發(fā)表于 10-14 09:12

    risc-v在人工智能圖像處理應(yīng)用前景分析

    滿足人工智能圖像處理中對(duì)于高性能、低功耗和特定功能的需求。 低功耗 : 在人工智能圖像處理中,低功耗是一個(gè)重要的考量因素。RISC-V架構(gòu)的設(shè)計(jì)使其在處理任務(wù)時(shí)能夠保持較低的功耗水平,這對(duì)于需要
    發(fā)表于 09-28 11:00

    FPGA在人工智能中的應(yīng)用有哪些?

    定制化的硬件設(shè)計(jì),提高了硬件的靈活性和適應(yīng)性。 綜上所述,F(xiàn)PGA在人工智能領(lǐng)域的應(yīng)用前景廣闊,不僅可以用于深度學(xué)習(xí)的加速和云計(jì)算加速,還可以針對(duì)特定應(yīng)用場(chǎng)景進(jìn)行定制化
    發(fā)表于 07-29 17:05