一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內(nèi)不再提示

摩爾線程GPU算力底座助力大模型產(chǎn)業(yè)發(fā)展

摩爾線程 ? 來源:摩爾線程 ? 2024-08-27 16:15 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

以大模型為代表的新一代人工智能技術是引領新一輪科技革命和產(chǎn)業(yè)變革的戰(zhàn)略性技術和重要驅(qū)動力量,隨著對算力需求的日益高漲,人工智能算力底座公司日益成為新一波人工智能技術浪潮重要組成部分。

2024年5月,摩爾線程與智譜AI開展了新一輪GPU 大模型適配及性能測試,包括大模型推理以及基于夸娥(KUAE)千卡智算集群的大模型預訓練。測試用相關大模型來自智譜AI基座大模型及其開源版本。

測試結(jié)果表明,在推理方面,摩爾線程自研全功能GPU顯著優(yōu)于基準對比產(chǎn)品RTX 3090和RTX 4090,在全部測試用例中優(yōu)于RTX 3090,在多batch下優(yōu)于RTX 4090;在訓練方面,摩爾線程夸娥千卡智算集群訓練精度與A100集群誤差在1%以內(nèi),夸娥千卡智算集群性能擴展系數(shù)超過90%,模型算力利用率(MFU)與A100集群相當。

智譜AI致力于打造新一代認知智能大模型,專注于做大模型的中國創(chuàng)新。早在2022年8月,智譜AI開源了GLM-130B模型,2023 年,智譜 AI 推出千億基座對話模型ChatGLM,開源版本的 ChatGLM-6B 讓大模型開發(fā)者的本地微調(diào)和部署成為可能,在開源社區(qū)受到廣泛歡迎。從自主開發(fā)的原創(chuàng)GLM預訓練框架搭建之初,智譜AI就十分注意算力利用率問題。通過國產(chǎn)算力適配,智譜AI已支持10余種國產(chǎn)硬件生態(tài),努力推動建設大模型軟硬件生態(tài)和與國產(chǎn)芯片企業(yè)的聯(lián)合創(chuàng)新與升級。

摩爾線程出色的測試結(jié)果對于更好建設中國大模型產(chǎn)品技術生態(tài)具有重要意義。

技術自主新突破:摩爾線程千卡智算集群成功應用ChatGLM預訓練,標志著摩爾線程全功能GPU算力底座有能力支撐行業(yè)領先的大模型全鏈條研發(fā),有助于增強技術自主性,保障信息安全。大模型訓練與推理將能夠在全國產(chǎn)可控的算力底座上運行,在滿足信息安全的前提下服務于千行百業(yè),成為發(fā)展AI+新質(zhì)生產(chǎn)力的核心力量。

助力打破算力瓶頸:Scaling laws(尺度定律)已經(jīng)預示了AGI技術發(fā)展對算力日益增長的需求規(guī)律,同時也表明有限的算力供應可能成為制約大模型發(fā)展的關鍵瓶頸。本次測試結(jié)果顯示,國產(chǎn)GPU算力底座有能力助力中國人工智能技術發(fā)展。摩爾線程作為國產(chǎn)GPU的代表,將助力提高大模型迭代速度和自研水平,助推中國大模型更好發(fā)展。

開拓創(chuàng)新空間:算法、算力、數(shù)據(jù)是AGI技術的核心要素,摩爾線程與智譜AI卓有成效的適配與測試合作,有利于推動實現(xiàn)軟硬件的深度融合與協(xié)同創(chuàng)新,有利于助力中國大模型實現(xiàn)更好發(fā)展。

降低運營成本:摩爾線程憑借自研國產(chǎn)全功能GPU,致力于構(gòu)建先進的AGI算力底座,不僅能夠兼容適配全球主流AI軟件生態(tài),節(jié)約軟件遷移成本,而且在單位算力總體擁有成本上擁有較為明顯優(yōu)勢,能夠有效降低大模型產(chǎn)品研發(fā)成本。

智譜AI硬件適配與測試負責人表示:“摩爾線程夸娥千卡智算集群在計算精度和穩(wěn)定性等方面的表現(xiàn)令人印象深刻,智譜AI將與包括摩爾線程在內(nèi)的大模型產(chǎn)業(yè)生態(tài)合作伙伴攜手,共同推動大模型產(chǎn)業(yè)生態(tài)繁榮發(fā)展?!?/p>

關于智譜AI

北京智譜華章科技有限公司(簡稱:智譜AI)致力于打造新一代認知智能大模型,專注于做大模型的中國創(chuàng)新。公司踐行Model as a Service(MaaS)的市場理念,推出大模型MaaS開放平臺,打造高效率、通用化的“模型即服務”AI開發(fā)新范式。通過認知大模型鏈接物理世界的億級用戶,智譜AI基于完整的模型生態(tài)和全流程技術支持,為千行百業(yè)帶來持續(xù)創(chuàng)新與變革,加速邁向通用人工智能的時代。

關于摩爾線程

摩爾線程是一家以全功能GPU芯片設計為主的集成電路高科技公司,能夠為廣泛的科技生態(tài)合作伙伴提供強大的計算加速能力,致力于打造為下一代互聯(lián)網(wǎng)提供多元算力的元計算平臺。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 人工智能
    +關注

    關注

    1807

    文章

    49028

    瀏覽量

    249551
  • 摩爾線程
    +關注

    關注

    2

    文章

    235

    瀏覽量

    5370
  • 大模型
    +關注

    關注

    2

    文章

    3146

    瀏覽量

    4073

原文標題:性能新突破!媲美國際水準!國產(chǎn)千卡智算集群助力國產(chǎn)大模型訓推

文章出處:【微信號:moorethreads,微信公眾號:摩爾線程】歡迎添加關注!文章轉(zhuǎn)載請注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    摩爾線程與AI平臺AutoDL達成深度合作

    近日,摩爾線程與國內(nèi)領先的AI平臺AutoDL宣布達成深度合作,雙方聯(lián)合推出面向個人開發(fā)者的“摩爾
    的頭像 發(fā)表于 05-23 16:10 ?784次閱讀

    摩爾線程GPU成功適配Deepseek-V3-0324大模型

    架構(gòu)和全功能GPU的強大技術實力,摩爾線程迅速響應并完成了對DeepSeek-V3的無縫升級,實現(xiàn)了零報錯、零兼容性問題的光速部署,充分展現(xiàn)了摩爾
    的頭像 發(fā)表于 03-31 11:34 ?607次閱讀
    <b class='flag-5'>摩爾</b><b class='flag-5'>線程</b><b class='flag-5'>GPU</b>成功適配Deepseek-V3-0324大<b class='flag-5'>模型</b>

    摩爾線程與當虹科技達成深度合作

    近日,摩爾線程與當虹科技達成深度合作,基于國產(chǎn)GPU成功完成了與BlackEye多模態(tài)視聽大模型的深度融合。雙方聯(lián)手打造專業(yè)級視聽“引擎”,并在超高清
    的頭像 發(fā)表于 03-20 15:22 ?601次閱讀

    摩爾線程發(fā)布云電腦驅(qū)動MT vGPU 2.7.0

    3月18日,摩爾線程正式發(fā)布云電腦驅(qū)動MT vGPU 2.7.0。新版本在國內(nèi)首次實現(xiàn)了國產(chǎn)GPU云電腦對DirectX 12的支持,同時顯著提升圖形渲染性能與兼容性。通過全功能GPU
    的頭像 發(fā)表于 03-19 15:56 ?425次閱讀

    科技云報到:要更要“利”,“精裝”觸發(fā)大模型產(chǎn)業(yè)新變局?

    科技云報到:要更要“利”,“精裝”觸發(fā)大模型產(chǎn)業(yè)
    的頭像 發(fā)表于 01-16 10:24 ?467次閱讀

    【「芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】--了解芯片GPU

    本篇閱讀學習第七、八章,了解GPU架構(gòu)演進及CPGPU存儲體系與線程管理 █從圖形到計算的GPU架構(gòu)演進 GPU圖像計算發(fā)展 ●從三角形開始
    發(fā)表于 11-03 12:55

    摩爾線程成立摩爾學院,賦能GPU開發(fā)者

    近日,摩爾線程宣布正式成立摩爾學院,為GPU開發(fā)者生態(tài)建設揭開新篇章。摩爾學院作為一個專業(yè)的GPU
    的頭像 發(fā)表于 10-28 17:03 ?1043次閱讀

    摩爾線程GPU與超圖軟件大模型適配:共筑國產(chǎn)地理空間AI新生態(tài)

    10月24日,摩爾線程公司宣布與超圖軟件達成重要合作里程碑。經(jīng)過雙方的嚴格測試,摩爾線程的MTT S/X系列全功能GPU已成功與超圖軟件最新
    的頭像 發(fā)表于 10-24 11:29 ?1430次閱讀

    【「芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗】--全書概覽

    、GPU、NPU,給我們剖析了芯片的微架構(gòu)。書中有對芯片方案商處理器的講解,理論聯(lián)系實際,使讀者能更好理解芯片。 全書共11章,
    發(fā)表于 10-15 22:08

    名單公布!【書籍評測活動NO.43】 芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析

    的強有力競爭者;蘋果、Cerebras、Ampere、特斯拉等企業(yè)的加入讓這場“芯片戰(zhàn)爭”更加熱鬧。 CPU、GPU、NPU等芯片是推動科技創(chuàng)新的基石,
    發(fā)表于 09-02 10:09

    摩爾線程與羽人科技完成大語言模型訓練測試

    近日,摩爾線程與羽人科技攜手宣布,雙方已成功實現(xiàn)夸娥(KUAE)千卡智集群與羽人系列模型解決方案的訓練兼容適配。在本次測試中,羽人科技通過摩爾
    的頭像 發(fā)表于 08-27 16:19 ?821次閱讀

    摩爾線程夸娥智中心解決方案重磅升級

    摩爾線程重磅宣布其AI旗艦產(chǎn)品夸娥(KUAE)智集群解決方案實現(xiàn)重大升級,從當前的千卡級別大幅擴展至萬卡規(guī)模。摩爾線程夸娥(KUAE)萬卡
    的頭像 發(fā)表于 08-27 16:09 ?1104次閱讀

    摩爾線程攜手東華軟件完成AI大模型推理測試與適配

    近日,摩爾線程與東華軟件云筑AI創(chuàng)新中心宣布,雙方已完成大模型推理測試與適配。依托摩爾線程的全功能GPU
    的頭像 發(fā)表于 07-31 10:51 ?1967次閱讀

    IaaS+on+DPU(IoD)+下一代高性能底座技術白皮書

    DPU 是當下基礎設施的核心創(chuàng)新之一。如果把 CPU 比做大腦,那么 GPU 就好比是肌肉,而 DPU 就是神經(jīng)中樞。CPU 承載了應用生態(tài),提供了通用型
    發(fā)表于 07-24 15:32