一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

千卡算力破局:科通技術(shù)以"AI大模型+AI芯片"重構(gòu)智算底座

科技見聞網(wǎng) ? 來源:科技見聞網(wǎng) ? 作者:科技見聞網(wǎng) ? 2025-03-17 11:14 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

2025年,隨著DeepSeek大模型的開源迭代,AI技術(shù)云計(jì)算領(lǐng)域的應(yīng)用加速滲透,市場對高性能AI芯片的需求迎來爆發(fā)式增長。作為AI算力供應(yīng)鏈的核心供應(yīng)商,深圳市科通技術(shù)股份有限公司(以下簡稱“科通技術(shù)”)推出的“DeepSeek+AI芯片”全場景方案,在云AI領(lǐng)域取得重大突破。除了GPU的算力總量,云AI的一大挑戰(zhàn)來源于GPU集群的數(shù)據(jù)互聯(lián)效率。某大型互聯(lián)網(wǎng)集團(tuán)為解決云AI系統(tǒng)中千卡級GPU集群的高性能需求,面臨服務(wù)器與加速卡間數(shù)據(jù)交換帶寬和延遲的嚴(yán)苛挑戰(zhàn)??仆夹g(shù)聯(lián)合全球頂尖設(shè)備原廠,基于Infiniband技術(shù)打造了葉-脊(Leaf-Spine)架構(gòu)的服務(wù)器網(wǎng)絡(luò)集群方案,成為云場景算力升級的標(biāo)桿案例。

Infiniband技術(shù)是一種高性能的計(jì)算機(jī)網(wǎng)絡(luò)技術(shù),它在數(shù)據(jù)傳輸方面具備高帶寬、低延遲的顯著優(yōu)勢,能夠快速處理大量數(shù)據(jù),滿足AI計(jì)算對數(shù)據(jù)傳輸速度的嚴(yán)苛要求。而葉-脊架構(gòu)是一種常用于數(shù)據(jù)中心網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu),相較于傳統(tǒng)網(wǎng)絡(luò)架構(gòu),它有著更高的擴(kuò)展性和更低的網(wǎng)絡(luò)延遲,非常適合大規(guī)模集群的應(yīng)用場景。

在技術(shù)細(xì)節(jié)上,科通技術(shù)采用高性能服務(wù)器CPU與高端GPU卡的組合,通過芯片級優(yōu)化實(shí)現(xiàn)千塊GPU卡池的高帶寬、低延時(shí)數(shù)據(jù)交換。方案設(shè)計(jì)中,葉-脊架構(gòu)的網(wǎng)絡(luò)拓?fù)洳粌H滿足了當(dāng)前千卡級集群的數(shù)據(jù)吞吐需求,還通過預(yù)留充足的接口容量支持未來業(yè)務(wù)擴(kuò)展,確保系統(tǒng)具備長期適應(yīng)性。此外,科通技術(shù)為集群配置了100G/200G/400G高速網(wǎng)卡及智能網(wǎng)關(guān)設(shè)備。經(jīng)測試,與傳統(tǒng)方案相比,該方案可提供3.2倍以上數(shù)據(jù)交換吞吐量,不僅使AI推理效率提升了15%以上,還降低36%的功耗。這一方案的成功實(shí)施,科通在高速網(wǎng)絡(luò)設(shè)備業(yè)務(wù)的顯著提升直接帶動了科通技術(shù)代理的各原廠專業(yè)GPU、服務(wù)器CPU及相關(guān)存儲產(chǎn)品的銷量增長。

在市場成效方面,該案例不僅幫助客戶實(shí)現(xiàn)了大參數(shù)模型(如千億級參數(shù))的高并發(fā)訓(xùn)練與推理應(yīng)用指標(biāo),還推動了科通技術(shù)在云AI基礎(chǔ)設(shè)施領(lǐng)域的深度布局。通過代理全球80余家芯片原廠的核心產(chǎn)品,科通技術(shù)構(gòu)建了覆蓋云端訓(xùn)練、推理、存儲、網(wǎng)絡(luò)的全棧芯片矩陣,能夠?yàn)椴煌?guī)模客戶提供定制化解決方案。隨著DeepSeek大模型對算力需求的持續(xù)攀升,云場景的AI芯片采購量呈現(xiàn)指數(shù)級增長??仆夹g(shù)已與多家頭部互聯(lián)網(wǎng)企業(yè)達(dá)成長期合作,預(yù)計(jì)未來云場景相關(guān)業(yè)務(wù)將持續(xù)帶動公司營收增長。

可以預(yù)見,DeepSeek大模型的技術(shù)迭代將持續(xù)催化AI芯片在云端的應(yīng)用需求??仆夹g(shù)憑借全場景方案的技術(shù)整合能力和全球供應(yīng)鏈優(yōu)勢,在AI算力供應(yīng)鏈中占據(jù)重要地位。隨著AI模型復(fù)雜度的提升和云服務(wù)規(guī)模的擴(kuò)大,科通技術(shù)有望憑借其技術(shù)優(yōu)勢和市場布局,在行業(yè)中持續(xù)發(fā)展,為AI芯片應(yīng)用產(chǎn)業(yè)的發(fā)展貢獻(xiàn)重要力量。

審核編輯 黃宇

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報(bào)投訴
  • 芯片
    +關(guān)注

    關(guān)注

    460

    文章

    52520

    瀏覽量

    441093
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35164

    瀏覽量

    280067
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    3146

    瀏覽量

    4076
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點(diǎn)推薦

    騰視科技TS-NV-P100系列AI邊緣盒子綜合算高達(dá)157TOPS:重新定義AI邊緣,賦能行百業(yè)智能化升級

    技術(shù)架構(gòu)到場景落地,騰視科技TS-NV-P100系列AI邊緣盒子 "
    的頭像 發(fā)表于 07-02 10:24 ?727次閱讀
    騰視科技TS-NV-P100系列<b class='flag-5'>AI</b>邊緣<b class='flag-5'>算</b><b class='flag-5'>力</b>盒子綜合算<b class='flag-5'>力</b>高達(dá)157TOPS:重新定義<b class='flag-5'>AI</b>邊緣<b class='flag-5'>算</b><b class='flag-5'>力</b>,賦能<b class='flag-5'>千</b>行百業(yè)智能化升級

    騰視科技TS-NV-P100系列AI邊緣盒子綜合算高達(dá)157TOPS:重新定義AI邊緣,賦能行百業(yè)智能化升級

    技術(shù)架構(gòu)到場景落地,騰視科技TS-NV-P100系列AI邊緣盒子 &quot;
    的頭像 發(fā)表于 07-02 10:16 ?247次閱讀

    網(wǎng)絡(luò)的“神經(jīng)突觸”:AI互聯(lián)技術(shù)如何重構(gòu)分布式訓(xùn)練范式

    ? 電子發(fā)燒友網(wǎng)綜合報(bào)道 隨著AI技術(shù)迅猛發(fā)展,尤其是大型語言模型的興起,對于的需求呈現(xiàn)出爆炸性增長。這不僅推動了智
    的頭像 發(fā)表于 06-08 08:11 ?6435次閱讀
    <b class='flag-5'>算</b><b class='flag-5'>力</b>網(wǎng)絡(luò)的“神經(jīng)突觸”:<b class='flag-5'>AI</b>互聯(lián)<b class='flag-5'>技術(shù)</b>如何<b class='flag-5'>重構(gòu)</b>分布式訓(xùn)練范式

    加速是什么東西?它真能在AI戰(zhàn)場上干掉GPU和TPU!

    隨著AI技術(shù)火得一塌糊涂,大家都在談&quot;大模型&quot;、&quot;
    的頭像 發(fā)表于 06-05 13:39 ?571次閱讀
    智<b class='flag-5'>算</b>加速<b class='flag-5'>卡</b>是什么東西?它真能在<b class='flag-5'>AI</b>戰(zhàn)場上干掉GPU和TPU!

    邊緣計(jì)算時(shí)代,技術(shù)AI方案重構(gòu)分配格局

    隨著AI模型技術(shù)的快速發(fā)展,其在終端設(shè)備中的應(yīng)用正成為行業(yè)突破的關(guān)鍵方向。深圳市技術(shù)股份有限公司(以下簡稱“
    的頭像 發(fā)表于 05-28 14:23 ?207次閱讀

    用一套Linux系統(tǒng),撐起整個(gè)芯片設(shè)計(jì)平臺?CFA團(tuán)隊(duì)教你如何搭好EDA智平臺的技術(shù)底座

    在半導(dǎo)體行業(yè),Linux 是我們再熟悉不過的操作系統(tǒng)。作為芯片研發(fā)者日常工作的主戰(zhàn)場,它承載著EDA工具、AI訓(xùn)練環(huán)境、腳本自動化流程的運(yùn)轉(zhuǎn)。而隨著AI和EDA
    發(fā)表于 05-07 14:44

    點(diǎn)動科技戰(zhàn)略聚焦AI,領(lǐng)航服務(wù)新征程

    Al智業(yè)務(wù)收入占比已突破40%,標(biāo)志著點(diǎn)動從傳統(tǒng)業(yè)務(wù)向智能化轉(zhuǎn)型的戰(zhàn)略跨越取得階段性勝利! 技術(shù)賦能構(gòu)建核心壁壘,全棧能力驅(qū)動行業(yè)智能化升級 在技術(shù)布局上,點(diǎn)動科技聚焦行業(yè)模型和Al
    的頭像 發(fā)表于 05-07 09:29 ?239次閱讀

    DeepSeek推動AI需求:800G光模塊的關(guān)鍵作用

    隨著人工智能技術(shù)的飛速發(fā)展,AI需求正以前所未有的速度增長。DeepSeek等大模型的訓(xùn)練與推理任務(wù)對
    發(fā)表于 03-25 12:00

    國產(chǎn)化新標(biāo)桿!卓怡恒通EPC-S4450邊緣AI工控機(jī)開啟工業(yè)智能新紀(jì)元

    在工業(yè)4.0與數(shù)字化轉(zhuǎn)型浪潮的推動下,邊緣計(jì)算正加速重構(gòu)工業(yè)智能化版圖。國內(nèi)信創(chuàng)工業(yè)計(jì)算領(lǐng)域領(lǐng)軍企業(yè)卓怡恒通今日正式發(fā)布EPC-S4450邊緣AI工控機(jī),&quot;全棧國產(chǎn)化+
    的頭像 發(fā)表于 03-06 17:30 ?605次閱讀
    國產(chǎn)化<b class='flag-5'>算</b><b class='flag-5'>力</b>新標(biāo)桿!卓怡恒通EPC-S4450邊緣<b class='flag-5'>AI</b>工控機(jī)開啟工業(yè)智能新紀(jì)元

    企業(yè)AI租賃是什么

    企業(yè)AI租賃是指企業(yè)通過互聯(lián)網(wǎng)向?qū)I(yè)的提供商租用所需的計(jì)算資源,滿足其
    的頭像 發(fā)表于 11-14 09:30 ?2411次閱讀

    性能提升近一倍!壁仞科技攜手無問芯穹,在千卡訓(xùn)練集群等領(lǐng)域取得技術(shù)新突破

    隨著智能需求的倍增,到2024年,千卡集群已成為國內(nèi)大模型訓(xùn)練的必備場景。壁仞科技,作為
    發(fā)表于 11-05 18:45 ?1650次閱讀
    性能提升近一倍!壁仞科技攜手無問芯穹,在<b class='flag-5'>千卡</b>訓(xùn)練集群等領(lǐng)域取得<b class='flag-5'>技術(shù)</b>新突破

    OCTC發(fā)布&amp;quot;工廠&amp;quot;!力促智中心高效規(guī)劃建設(shè)投運(yùn)

    創(chuàng)新提出面向未來數(shù)據(jù)中心的&quot;工廠&quot;模式,核心是以規(guī)(劃)、建(設(shè))、運(yùn)(營)一體化的交鑰匙工程,實(shí)現(xiàn)智中心快速投運(yùn)
    的頭像 發(fā)表于 10-11 09:10 ?870次閱讀
    OCTC發(fā)布&<b class='flag-5'>amp</b>;<b class='flag-5'>quot</b>;<b class='flag-5'>算</b><b class='flag-5'>力</b>工廠&<b class='flag-5'>amp</b>;<b class='flag-5'>quot</b>;!力促智<b class='flag-5'>算</b>中心高效規(guī)劃建設(shè)投運(yùn)

    AI網(wǎng)絡(luò)物理層底座: 大芯片先進(jìn)封裝技術(shù)

    隨著人工智能(AI技術(shù)的迅猛發(fā)展,我們正站在第四次工業(yè)革命的風(fēng)暴中, 這場風(fēng)暴也將席卷我們整個(gè)芯片行業(yè),特別是先進(jìn)封裝領(lǐng)域。Chiplet是實(shí)現(xiàn)單個(gè)芯片
    發(fā)表于 09-11 09:47 ?1323次閱讀
    <b class='flag-5'>AI</b>網(wǎng)絡(luò)物理層<b class='flag-5'>底座</b>: 大<b class='flag-5'>算</b><b class='flag-5'>力</b><b class='flag-5'>芯片</b>先進(jìn)封裝<b class='flag-5'>技術(shù)</b>

    模型時(shí)代的需求

    現(xiàn)在AI已進(jìn)入大模型時(shí)代,各企業(yè)都爭相部署大模型,但如何保證大模型,以及相關(guān)的穩(wěn)定性和性能
    發(fā)表于 08-20 09:04

    安謀科技異構(gòu)組合,生成式AI挑戰(zhàn)

    近日,此芯科技集團(tuán)有限公司(以下簡稱“此芯科技”)AI PC戰(zhàn)略暨首款芯片發(fā)布會在上海舉行,正式推出了其首款專為AI PC打造的異構(gòu)高能效芯片產(chǎn)品——“此芯P1”。作為國產(chǎn)新一代
    的頭像 發(fā)表于 08-13 09:12 ?931次閱讀