浪潮信息近日推出了革命性的“源2.0-M32”開源大模型。該模型在源2.0系列基礎上,引入了“基于注意力機制的門控網絡”技術,構建了一個包含32個專家的混合專家模型(MoE),有效提升了模型算力效率。
M32模型憑借其獨特且優(yōu)化的架構,在僅激活37億參數的情況下,便展現(xiàn)出了與700億參數LLaMA3模型相媲美的性能。更令人矚目的是,它實現(xiàn)的這一性能所消耗的算力僅為LLaMA3的1/19,極大降低了運行成本。
此次浪潮信息的創(chuàng)新,不僅展示了其在人工智能領域的深厚實力,也為整個行業(yè)樹立了新的標桿。隨著“源2.0-M32”的發(fā)布,我們有理由期待人工智能領域將迎來更多突破與發(fā)展。
聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。
舉報投訴
-
浪潮
+關注
關注
1文章
475瀏覽量
24696 -
開源
+關注
關注
3文章
3689瀏覽量
43832 -
大模型
+關注
關注
2文章
3146瀏覽量
4071
發(fā)布評論請先 登錄
相關推薦
熱點推薦
飛利信與浪潮信息達成戰(zhàn)略合作
近日,2025年浪潮信息北京ISP戰(zhàn)略伙伴簽約授牌儀式成功舉辦。浪潮信息與北京飛利信電子技術有限公司等22家戰(zhàn)略合作伙伴達成簽約,其中將面向北京人工智能應用大市場,在產品技術共創(chuàng)、行業(yè)場景深化及區(qū)域
浪潮信息發(fā)布元腦R1推理服務器
近日,浪潮信息正式推出了其創(chuàng)新的元腦R1推理服務器。這款服務器通過系統(tǒng)的創(chuàng)新與軟硬件的協(xié)同優(yōu)化,實現(xiàn)了對DeepSeek R1 671B模型的單機部署與運行,為客戶在智能應用部署方面帶來了顯著的突破
浪潮信息與智源研究院攜手共建大模型多元算力生態(tài)
近日,浪潮信息與北京智源人工智能研究院正式簽署戰(zhàn)略合作協(xié)議,雙方將緊密合作,共同構建大模型多元算力開源創(chuàng)新生態(tài)。 此次合作旨在提升大模型創(chuàng)新
浪潮信息與智源研究院達成戰(zhàn)略合作協(xié)議
近日,浪潮信息與智源研究院達成戰(zhàn)略合作協(xié)議,雙方將緊密協(xié)作共建大模型多元算力開源創(chuàng)新生態(tài),提升大模型創(chuàng)新研發(fā)的算力效率,降低大
浪潮信息發(fā)布"源"Yuan-EB,刷新RAG檢索最高成績
近日,浪潮信息在AI領域取得了重大突破,成功發(fā)布了其嵌入模型"源"Yuan-EB(Yuan-embedding-1.0)。在備受矚目的C-MTEB榜單中,"
借助浪潮信息元腦企智EPAI高效創(chuàng)建大模型RAG
生成能力,提高生成質量和可靠性。但企業(yè)構建知識檢索系統(tǒng)并非易事,通常面臨開發(fā)門檻高、生成內容差等難題。而借助浪潮信息元腦企智EPAI企業(yè)大模型開發(fā)平臺,企業(yè)僅需三步即可高效創(chuàng)建大模型RAG,讓企業(yè)內部積累的大量數據得到有效利用,

浪潮信息發(fā)布“源”Yuan-EB助力RAG檢索精度新高
近日,浪潮信息發(fā)布 “源”Yuan-EB(Yuan-embedding-1.0,嵌入模型),在C-MTEB榜單中斬獲檢索任務第一名,以78.41的平均精度刷新大

浪潮信息發(fā)布KOS AI定制版,大幅提升大模型訓練效率
浪潮信息近期推出了“元腦服務器操作系統(tǒng)KOS AI定制版”,為人工智能領域帶來了革命性的變化。這款定制版操作系統(tǒng)通過簡單的兩步操作,即可實現(xiàn)大模型訓練環(huán)境的快速部署。
浪潮信息AI存儲性能測試的領先之道
MLCommons,一個致力于推動全球 AI系統(tǒng)發(fā)展的頂級工程聯(lián)盟,匯聚了包括谷歌、斯坦福大學在內的眾多頂尖企業(yè)和研究機構。作為該聯(lián)盟的創(chuàng)始成員之一,浪潮信息自2020年起便積極參與其中,共同探索

浪潮信息源2.0大模型與百度PaddleNLP全面適配
近日,浪潮信息宣布其開源大模型源2.0已全面適配百度PaddleNLP。這一舉措標志著大模型開發(fā)
浪潮信息發(fā)布元腦企智一體機
在2024中國算力大會上,浪潮信息正式發(fā)布了其創(chuàng)新的元腦企智一體機。這款一體機融合了元腦企智EPAI企業(yè)大模型開放平臺和元腦服務器,通過軟硬件協(xié)同的一體化設計,實現(xiàn)了快速交付、開箱即用、極致性能和安全高效的大
浪潮信息:元腦企智EPAI助力金融大模型快速落地
近日,2024金融科技應用創(chuàng)新發(fā)展大會暨農村金融機構信息化發(fā)展創(chuàng)新座談會在上海舉辦。浪潮信息推出元腦企智EPAI企業(yè)大模型開發(fā)平臺,面向金融業(yè)務場景,實現(xiàn)7天完成POC驗證、2個月上線AI應用,通過

源2.0-M32大模型發(fā)布量化版 運行顯存僅需23GB 性能可媲美LLaMA3
北京2024年8月23日?/美通社/ -- 近日,浪潮信息發(fā)布源2.0-M32大模型4bit和8bit量化版,性能比肩700億參數的LLaM

浪潮信息趙帥:開放計算創(chuàng)新 應對Scaling Law挑戰(zhàn)
北京2024年8月15日?/美通社/ -- 日前在2024開放計算中國峰會上,浪潮信息服務器產品線總經理趙帥表示,智能時代,開源模型和開放計算激發(fā)了人工智能產業(yè)生態(tài)的創(chuàng)新活力,面對大模型

33家元腦區(qū)域伙伴與浪潮信息簽署戰(zhàn)略合作協(xié)議
近日,2024年浪潮信息區(qū)域ISP伙伴戰(zhàn)略簽約儀式圓滿落幕,標志著浪潮信息在人工智能領域的合作版圖再度擴大。此次盛會匯聚了全國范圍內33家實力雄厚的億級及千萬級元腦區(qū)域伙伴,共同簽署戰(zhàn)略合作協(xié)議,攜手開啟AI應用新篇章。
評論