圍繞“創(chuàng)新:構建更美好世界”主題,由科技部、發(fā)改委、工信部、國資委、中科院、工程院、科協(xié)及北京市政府聯(lián)合舉辦的2024年中關村論壇于近日在京舉行。本次論壇匯聚了來自100多個國家和地區(qū)的嘉賓,以及150多家外國政府部門和國際組織機構。同時,一系列人工智能新技術、新應用、新模式在此次論壇上得到展示和發(fā)布。
在論壇期間,中關村國際技術交易大會開幕式暨全球技術交易生態(tài)伙伴大會成功舉辦,并發(fā)布了《百項新技術新產品榜單》。值得關注的是,摩爾線程夸娥(KUAE)智算中心全棧解決方案榮獲該榜單重點推薦。得益于其高兼容性、穩(wěn)定性、擴展性及算力利用率等優(yōu)勢,摩爾線程夸娥智算集群能夠為千億參數級別的大模型訓練提供強大的算力支持。
此外,在中關村國際技術交易大會高精尖技術產品首發(fā)會上,摩爾線程與無問芯穹聯(lián)合宣布,雙方正致力于開發(fā)基于夸娥千卡智算集群的“MT-infini-3B”合作大模型。摩爾線程成為首家接入無問芯穹并進行千卡級別大模型訓練的國產GPU廠商。無問芯穹聯(lián)合創(chuàng)始人兼CEO夏立雪表示,經過無問芯穹Infini-AI平臺實訓與聯(lián)合優(yōu)化,摩爾線程夸娥千卡智算集群在精度、性能、易用性和算力利用率方面表現出色,且在實訓過程中實現了長時間穩(wěn)定訓練,為千億參數級別大模型訓練提供了持續(xù)高效的高性能算力支持。未來,他們計劃將此合作模型在Infini-AI平臺上向公眾開放。
論壇首日,在北京銀行新質生產力與組合金融發(fā)展大會上,摩爾線程創(chuàng)始人兼CEO張建中發(fā)表了以《構建AGI時代的金融科技新質生產力》為題的主旨演講,強調人工智能作為新質生產力的創(chuàng)新引擎,將在金融行業(yè)中發(fā)揮重要作用。他指出,人工智能將通過個性化服務產品、智能化投資決策、自動化風險管理、安全化合規(guī)監(jiān)管、便捷化降本增效等方式,有效應對金融科技領域所面臨的諸多挑戰(zhàn)。在大模型時代背景下,每個金融企業(yè)都應具備自身的大模型和訓練基礎設施,而安全普惠的國產化算力則是金融行業(yè)不可或缺的要素。摩爾線程依托全功能GPU,打造了涵蓋芯片至智算中心的先進算力基礎設施,以及覆蓋軟件加速庫至大模型分布式訓練系統(tǒng)的全棧軟件服務,為我國金融行業(yè)的數智化轉型提供了算力加速。
在中關村國際技術交易大會高精尖技術產品首發(fā)會上,摩爾線程聯(lián)合創(chuàng)始人兼執(zhí)行總裁王東重點解析了夸娥(KUAE)智算中心全棧解決方案的優(yōu)點及價值,展示了解決大規(guī)模GPU算力建設和運營管理問題的能力。該方案由夸娥(KUAE)計算集群、KUAE Platform集群管理平臺及KUAE ModelStudio模型服務組成,實現了開箱即用。目前,摩爾線程已支持包括LLaMA、GLM、Aquila、Baichuan、GPT、Bloom、玉言在內的數十種主流大模型的訓練與微調。實踐證明,使用摩爾線程夸娥(KUAE)千卡集群進行70B至130B參數規(guī)模的大模型訓練,其線性加速比高達91%且算力利用率穩(wěn)定。
中關村論壇作為中國面向全球科技創(chuàng)新交流合作的國家級平臺,已成功舉辦14屆。摩爾線程作為中關村獨角獸芯片企業(yè)與北京市“專精特新”企業(yè),受邀在中關村展示中心常設展出人工智能集群展區(qū)和集成電路集群展區(qū)。憑借全功能GPU的多元計算優(yōu)勢,摩爾線程已形成以夸娥智算集群為核心的全棧AI產品線,致力于成為大模型和通用人工智能的先進算力基礎設施。展望未來,摩爾線程將持續(xù)以AI為核心,以技術創(chuàng)新驅動發(fā)展,不斷拓寬加速計算領域,為構建更美好的數智世界貢獻力量。
-
gpu
+關注
關注
28文章
4948瀏覽量
131251 -
摩爾線程
+關注
關注
2文章
235瀏覽量
5370 -
大模型
+關注
關注
2文章
3146瀏覽量
4073
發(fā)布評論請先 登錄
RAKsmart智能算力架構:異構計算+低時延網絡驅動企業(yè)AI訓練范式升級
摩爾線程GPU成功適配Deepseek-V3-0324大模型

評論