摩爾線程和滴普科技完成大模型訓(xùn)練與推理適配
近日，摩爾線程與滴普科技宣布了一項(xiàng)重要合作成果。摩爾線程的夸娥（KUAE）千卡智算集群與滴普科技的企業(yè)大模型Deepexi已完成訓(xùn)練及推理適配，共同實(shí)現(xiàn)了700億參數(shù)LLaMA2大語(yǔ)言模型的預(yù)訓(xùn)練測(cè)試。
在測(cè)試過(guò)程中，摩爾線程的夸娥千卡智算集群展現(xiàn)了其卓越的性能。全程77小時(shí)的無(wú)故障連續(xù)運(yùn)行，集群訓(xùn)練穩(wěn)定性高達(dá)100%，訓(xùn)練效率和兼容性均達(dá)到預(yù)期。這一成果得益于摩爾線程夸娥千卡智算集群的全棧方案，其模型覆蓋、推理加速、CUDA兼容、斷點(diǎn)續(xù)訓(xùn)、分布式訓(xùn)練、集群可靠性等8大核心能力，為訓(xùn)練提供了強(qiáng)大支持。
此次合作不僅彰顯了摩爾線程在智能計(jì)算領(lǐng)域的領(lǐng)先地位，也標(biāo)志著雙方在推動(dòng)國(guó)產(chǎn)化數(shù)智賦能底座構(gòu)建上取得了實(shí)質(zhì)性進(jìn)展。展望未來(lái)，摩爾線程與滴普科技將繼續(xù)深化合作，共同推動(dòng)人工智能技術(shù)的創(chuàng)新與發(fā)展。
聲明：本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人，不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用，如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題，請(qǐng)聯(lián)系本站處理。
舉報(bào)投訴
-
摩爾線程
+關(guān)注
關(guān)注
2文章
235瀏覽量
5376 -
大模型
+關(guān)注
關(guān)注
2文章
3147瀏覽量
4080
發(fā)布評(píng)論請(qǐng)先 登錄
相關(guān)推薦
熱點(diǎn)推薦
壁仞科技完成Qwen3旗艦模型適配
近日，在高效適配Qwen3系列模型推理后，壁仞科技宣布完成旗艦版Qwen3-235B-A22B模型的訓(xùn)練
摩爾線程GPU率先支持Qwen3全系列模型
近日，阿里云正式發(fā)布Qwen3系列的8款開(kāi)源混合推理模型。摩爾線程團(tuán)隊(duì)在模型發(fā)布當(dāng)天，率先完成了Qwen3全系列
摩爾線程GPU成功適配Deepseek-V3-0324大模型
架構(gòu)和全功能GPU的強(qiáng)大技術(shù)實(shí)力，摩爾線程迅速響應(yīng)并完成了對(duì)DeepSeek-V3的無(wú)縫升級(jí)，實(shí)現(xiàn)了零報(bào)錯(cuò)、零兼容性問(wèn)題的光速部署，充分展現(xiàn)了摩爾
摩爾線程GPU原生FP8計(jì)算助力AI訓(xùn)練
并行訓(xùn)練和推理，顯著提升了訓(xùn)練效率與穩(wěn)定性。摩爾線程是國(guó)內(nèi)率先原生支持FP8計(jì)算精度的國(guó)產(chǎn)GPU企業(yè)，此次開(kāi)源不僅為AI
摩爾線程支持阿里云通義千問(wèn)QwQ-32B開(kāi)源模型
近日，阿里云團(tuán)隊(duì)正式開(kāi)源全新推理模型——通義千問(wèn)QwQ-32B。摩爾線程在該模型發(fā)布后2小時(shí)內(nèi)，迅速且高效完成了對(duì)千問(wèn)QwQ-32B的支持。
摩爾線程完成DeepSeek開(kāi)源庫(kù)FlashMLA和DeepGEMM適配
MUTLASS，快速支持了FlashMLA。不僅如此，摩爾線程還基于MUTLASS在全新GPU架構(gòu)上優(yōu)化實(shí)現(xiàn)了FP8矩陣乘法，支持DeepGEMM的相應(yīng)功能，充分展示了摩爾線程MUSA
昆侖芯率先完成Deepseek訓(xùn)練推理全版本適配
本文是昆侖芯適配DeepSeek系列推文第一篇，將于近期分別推出在昆侖芯P800上進(jìn)行DeepSeek-V3/R1推理、訓(xùn)練的深度文章，干貨滿滿、持續(xù)關(guān)注!
摩爾線程宣布成功部署DeepSeek蒸餾模型推理服務(wù)
近日，摩爾線程智能科技(北京)有限責(zé)任公司在其官方渠道發(fā)布了一則重要消息，宣布公司已經(jīng)成功實(shí)現(xiàn)了對(duì)DeepSeek蒸餾模型推理服務(wù)的部署。這一技術(shù)突破，標(biāo)志著
摩爾線程完成股改，籌備上市
近日，摩爾線程智能科技（北京）股份有限公司（簡(jiǎn)稱(chēng)“摩爾線程”）宣布已完成股改，并正積極籌備上市。據(jù)國(guó)家企業(yè)信用信息公示系統(tǒng)最新查詢結(jié)果顯示，
摩爾線程GPU與超圖軟件大模型適配:共筑國(guó)產(chǎn)地理空間AI新生態(tài)
10月24日，摩爾線程公司宣布與超圖軟件達(dá)成重要合作里程碑。經(jīng)過(guò)雙方的嚴(yán)格測(cè)試，摩爾線程的MTT S/X系列全功能GPU已成功與超圖軟件最新發(fā)布的大
摩爾線程與超圖軟件完成產(chǎn)品兼容認(rèn)證
10月24日，摩爾線程官方正式對(duì)外宣布，其MTT S/X系列全功能GPU已成功與超圖軟件最新發(fā)布的大模型系列產(chǎn)品完成產(chǎn)品兼容認(rèn)證。這一消息的發(fā)布標(biāo)志著雙方在GPU與軟件
摩爾線程與羽人科技完成大語(yǔ)言模型訓(xùn)練測(cè)試
近日，摩爾線程與羽人科技攜手宣布，雙方已成功實(shí)現(xiàn)夸娥（KUAE）千卡智算集群與羽人系列模型解決方案的訓(xùn)練兼容適配。在本次測(cè)試中，羽人科技通過(guò)
摩爾線程正式開(kāi)源音頻理解大模型MooER
近日，國(guó)內(nèi)領(lǐng)先的GPU創(chuàng)新企業(yè)摩爾線程宣布了一項(xiàng)重大技術(shù)突破——正式開(kāi)源其自主研發(fā)的音頻理解大模型MooER（摩耳）。這一舉動(dòng)標(biāo)志著我國(guó)在音頻處理與理解領(lǐng)域邁出了堅(jiān)實(shí)的一步，特別是在基于國(guó)產(chǎn)硬件的AI
摩爾線程攜手智源研究院完成基于Triton的大模型算子庫(kù)適配
近日，摩爾線程與北京智源人工智能研究院（簡(jiǎn)稱(chēng)：智源研究院）已順利完成基于Triton語(yǔ)言的高性能算子庫(kù)FlagGems的適配工作。得益于摩爾
摩爾線程攜手東華軟件完成AI大模型推理測(cè)試與適配
近日，摩爾線程與東華軟件云筑AI創(chuàng)新中心宣布，雙方已完成大模型推理測(cè)試與適配。依托
工商網(wǎng)監(jiān)
評(píng)論