加速AI應(yīng)用“遍地開(kāi)花”，中科馭數(shù)基于DPU的算力底座方案亮相2023全球AI芯片峰會(huì)
9月15日，2023全球AI芯片峰會(huì)（GACS 2023）在深圳舉行，聚集了全球AI芯片產(chǎn)業(yè)的領(lǐng)軍者和中堅(jiān)力量，共探AI芯片的求新、求變、求索之徑。中科馭數(shù)高級(jí)副總裁張宇應(yīng)邀在智算中心算力與網(wǎng)絡(luò)高峰論壇發(fā)表題為《基于DPU的高效AI大模型算力底座》的重要演講。
▲中科馭數(shù)高級(jí)副總裁張宇受邀發(fā)表重要演講
隨著人工智能從高端科研領(lǐng)域向人們?nèi)粘９ぷ魃钔七M(jìn)，傳統(tǒng)數(shù)據(jù)中心都在向智算中心演進(jìn)。DPU提供智算中心所必須的大帶寬和低時(shí)延能力，使更多的CPU/GPU算力真正服務(wù)于業(yè)務(wù)，從而為新型的智算中心提供了更高效的算力底座，成為智算中心必備的核心組件。張宇在演講中介紹，在處理大規(guī)模數(shù)據(jù)和復(fù)雜任務(wù)時(shí)，傳統(tǒng)算力集群往往面臨性能限制，受到單節(jié)點(diǎn)算力瓶頸和集群效率瓶頸的雙重挑戰(zhàn)。中科馭數(shù)基于DPU的AI算力底座，充分利用了DPU異構(gòu)計(jì)算加速能力，并結(jié)合自研DOE的算子卸載技術(shù)，以及基于RDMA實(shí)現(xiàn)數(shù)據(jù)處理集群的算網(wǎng)融合加速，有效破解了分布式環(huán)境下數(shù)據(jù)處理集群難題，DPU算子性能提升15倍，數(shù)據(jù)集群整體性能提升2-5倍，計(jì)算性能顯著提升，實(shí)現(xiàn)降本增效。
聲明：本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
中科馭數(shù)
+關(guān)注
關(guān)注
0文章
133瀏覽量
4316
原文標(biāo)題：加速AI應(yīng)用“遍地開(kāi)花”，中科馭數(shù)基于DPU的算力底座方案亮相2023全球AI芯片峰會(huì)
文章出處：【微信號(hào)：yusurtech，微信公眾號(hào)：馭數(shù)科技】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
熱點(diǎn)推薦
中科馭數(shù)攜DPU全棧產(chǎn)品亮相福州數(shù)博會(huì)，賦能智算時(shí)代算力基建
會(huì)”）也拉開(kāi)帷幕。共有150多家企業(yè)參展，展會(huì)吸引了八萬(wàn)多名觀眾參觀。作為國(guó)內(nèi)DPU領(lǐng)域領(lǐng)軍企業(yè)，中科馭數(shù)攜三大產(chǎn)品線亮相展會(huì)，其創(chuàng)新的
中科馭數(shù)受邀參與華泰證券春季投資峰會(huì) 分享DPU在AI領(lǐng)域的應(yīng)用
華泰證券2025年春季投資峰會(huì)以“破局、重構(gòu)、裂變”為主題，探討全球變局下的新趨勢(shì)。中科馭數(shù)高級(jí)副總裁張宇受邀參與，分享
中科馭數(shù)K2-Pro芯片助力智算中心創(chuàng)新
中科馭數(shù)，作為國(guó)內(nèi)DPU芯片與產(chǎn)品供應(yīng)的領(lǐng)軍者，憑借在DPU領(lǐng)域的深厚積累，不斷推出創(chuàng)新產(chǎn)品。近
中科馭數(shù)憑借在DPU芯片領(lǐng)域的積累被認(rèn)定為北京市知識(shí)產(chǎn)權(quán)優(yōu)勢(shì)單位
。 作為DPU新型算力基礎(chǔ)設(shè)施領(lǐng)軍企業(yè)，中科馭數(shù)一直致力于推動(dòng)
中科馭數(shù)受邀出席華泰證券金融科技峰會(huì)
近日中科馭數(shù)作為創(chuàng)新生態(tài)伙伴，受邀參與華泰證券在香港舉辦的2024年度金融科技峰會(huì)。中科馭
算力大模型持續(xù)火熱誰(shuí)來(lái)為智算中心降降溫
瓦時(shí)，相當(dāng)于同期三峽電站累計(jì)發(fā)電量的兩倍以上。“雙碳”目標(biāo)下，數(shù)據(jù)中心的“高算效、低能耗”發(fā)展已是大勢(shì)所趨。 遍地開(kāi)花 AI計(jì)算正“熱辣滾燙” 生成式AI的爆發(fā)推動(dòng)了基于
中科奇馭獲AI落地嘉年華峰會(huì)認(rèn)證
近日，在工業(yè)和信息化部工業(yè)文化發(fā)展中心舉辦的AI落地嘉年華峰會(huì)上，中科奇馭榮獲了主辦方頒發(fā)的權(quán)威證書(shū)。這一榮譽(yù)標(biāo)志著中科奇
中科馭數(shù)受邀出席中國(guó)科學(xué)院大學(xué)校友論壇
分享《DPU——連接算力基礎(chǔ)設(shè)施的“樞紐”》主題演講，以其深厚的學(xué)術(shù)背景與豐富的行業(yè)經(jīng)驗(yàn)，向與會(huì)嘉賓分享中科馭
中科馭數(shù)華中總部項(xiàng)目落戶光谷
近日，國(guó)內(nèi)DPU芯片領(lǐng)域的領(lǐng)軍企業(yè)——中科馭數(shù)（北京）科技有限公司與東湖高新區(qū)正式簽署合作協(xié)議，標(biāo)志著中
中科馭數(shù)分析DPU在云原生網(wǎng)絡(luò)與智算網(wǎng)絡(luò)中的實(shí)際應(yīng)用
CCF Chip 2024，精彩不能停！7月21日下午，中科馭數(shù)在第二屆中國(guó)計(jì)算機(jī)學(xué)會(huì)（CCF）芯片大會(huì)的“馭
IaaS+on+DPU(IoD)+下一代高性能算力底座技術(shù)白皮書(shū)
、VMware、Palo Alto 等公司紛紛推出相關(guān)解決方案。這些方案背后共同的本質(zhì)思想是：將云計(jì)算的 IaaS 層組件從服務(wù)器側(cè)卸載后圍繞 DPU 構(gòu)筑高性能算
發(fā)表于 07-24 15:32
中科馭數(shù)HADOS 3.0：以四大架構(gòu)革新，全面擁抱敏捷開(kāi)發(fā)理念，引領(lǐng)DPU應(yīng)用生態(tài)
一家成功的大算力芯片公司，其核心壁壘必須是軟硬兼?zhèn)涞?，既要?b class='flag-5'>芯片架構(gòu)的強(qiáng)大技術(shù)壁壘，更要有持久投入的、生態(tài)兼容完備的軟件護(hù)城河。HADOS，就是中科
中科馭數(shù)：DPU是構(gòu)建高效智算中心基礎(chǔ)設(shè)施的必選項(xiàng)
日前，在江蘇省未來(lái)網(wǎng)絡(luò)創(chuàng)新研究院、網(wǎng)絡(luò)通信與安全紫金山實(shí)驗(yàn)室舉辦的“2024智算網(wǎng)絡(luò)技術(shù)與應(yīng)用創(chuàng)新峰會(huì)”上，中科馭數(shù)作為
中科馭數(shù)發(fā)布第三代DPU芯片K2 Pro，較上一代能耗降低30%
中科馭數(shù)CEO鄢貴海：從計(jì)算系統(tǒng)的三個(gè)視角重新審視DPU的核心價(jià)值
如何找準(zhǔn)價(jià)值定位？而中科馭數(shù)作為國(guó)內(nèi)DPU先行者，又將如何解題，引領(lǐng)DPU行業(yè)進(jìn)入到一個(gè)全新的高度？ 6月19日，在
工商網(wǎng)監(jiān)
評(píng)論