一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

國(guó)產(chǎn)GPU在AI大模型領(lǐng)域的應(yīng)用案例一覽

Carol Li ? 來(lái)源:電子發(fā)燒友網(wǎng)原創(chuàng) ? 作者:李彎彎 ? 2024-04-01 09:28 ? 次閱讀
電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)近一年多時(shí)間,隨著大模型的發(fā)展,GPUAI領(lǐng)域的重要性再次凸顯。雖然相比英偉達(dá)等國(guó)際大廠,國(guó)產(chǎn)GPU起步較晚、聲勢(shì)較小。不過(guò)近幾年,國(guó)內(nèi)不少GPU廠商成長(zhǎng)非???,并且不斷推出新品,產(chǎn)品也逐漸在各個(gè)領(lǐng)域取得應(yīng)用,而且在大模型的訓(xùn)練和推理方面,也有所建樹(shù)。

國(guó)產(chǎn)GPU在大模型上的應(yīng)用進(jìn)展

電子發(fā)燒友此前就統(tǒng)計(jì)過(guò)目前國(guó)內(nèi)主要的GPU廠商,也介紹了這些廠商主要的產(chǎn)品及產(chǎn)品發(fā)布、量產(chǎn)進(jìn)展情況??梢钥吹?,其實(shí)近幾年已經(jīng)有不少產(chǎn)品面世并應(yīng)用。

如沐曦集成,其N系列用于AI推理的GPU芯片早已量產(chǎn)。去年9月,該公司宣布,其與眸瑞科技聯(lián)合發(fā)布了首個(gè)AI模型“貼圖超分”技術(shù)。該技術(shù)依托曦思N系列AI推理GPU首款產(chǎn)品曦思N100的強(qiáng)大算力,結(jié)合眸瑞科技豐富的算法庫(kù)資源和先進(jìn)的AI超分算法,首次將AI超分成功應(yīng)用到了3D模型領(lǐng)域。

曦思N100是沐曦面向人工智能推理場(chǎng)景推出的高效能GPU產(chǎn)品,針對(duì)AI推理及AI應(yīng)用場(chǎng)景中大量的視頻圖像處理任務(wù),提供強(qiáng)大的AI算力和視頻/圖像編解碼功能。據(jù)稱,目前沐曦已聯(lián)合合作伙伴打造了多種基于曦思N100 的解決方案,如高密度視頻結(jié)構(gòu)化分析解決方案、高并發(fā)智能轉(zhuǎn)碼解決方案、光電混合異構(gòu)計(jì)算解決方案等,這些方案可廣泛應(yīng)用于城市安防、智慧交通、工業(yè)視覺(jué)、短視頻、云計(jì)算和智算中心等多個(gè)領(lǐng)域。

再如天數(shù)智芯,其提供的算力集群具有支持百億級(jí)參數(shù)大模型訓(xùn)練的能力。早前有消息,天數(shù)智芯與智源研究院、愛(ài)特云翔合作,開(kāi)展基于自主通用GPU的大模型CodeGen(高效編碼)項(xiàng)目,通過(guò)中文描述來(lái)生成可用的C、Java、Python代碼以實(shí)現(xiàn)高效編碼。

智源研究院負(fù)責(zé)算法設(shè)計(jì)、訓(xùn)練框架開(kāi)發(fā)、大模型的訓(xùn)練與調(diào)優(yōu),天數(shù)智芯負(fù)責(zé)提供天垓100加速卡、構(gòu)建算力集群及全程技術(shù)支持,愛(ài)特云翔負(fù)責(zé)提供算存網(wǎng)基礎(chǔ)硬件及智能化運(yùn)維服務(wù)。在天垓100加速卡的算力集群,基于智源研究院70億參數(shù)的Aquila語(yǔ)言基礎(chǔ)模型,使用代碼數(shù)據(jù)進(jìn)行繼續(xù)訓(xùn)練,穩(wěn)定運(yùn)行19天,模型收斂效果符合預(yù)期。

近一年多來(lái),隨著大模型的發(fā)展,國(guó)產(chǎn)GPU公司都在朝著大模型領(lǐng)域布局。摩爾線程此前也透露,公司已經(jīng)可以支持3億參數(shù)量模型的訓(xùn)練,2022年底就提前布局了自然語(yǔ)言模型預(yù)訓(xùn)練,自研了MusaBert模型。

還有登臨科技,該公司此前也表示,公司首款產(chǎn)品Goldwasser已規(guī)?;\(yùn)用在多家行業(yè)知名企業(yè)的主營(yíng)業(yè)務(wù)中,新一代Goldwasser產(chǎn)品針對(duì)基于Transformer的網(wǎng)絡(luò)和生成式AI類大模型的應(yīng)用在性能有大幅提升。

國(guó)產(chǎn)GPU應(yīng)用于AI領(lǐng)域的多個(gè)方面

除了上述談到應(yīng)用案例,國(guó)產(chǎn)GPU在AI領(lǐng)域的應(yīng)用案例還有很多,主要涉及到深度學(xué)習(xí)、自然語(yǔ)言處理以及計(jì)算機(jī)視覺(jué)等多個(gè)方面。

如,在計(jì)算機(jī)視覺(jué)領(lǐng)域,國(guó)產(chǎn)GPU被廣泛應(yīng)用于圖像識(shí)別和目標(biāo)檢測(cè)等任務(wù)。例如,利用GPU加速的深度學(xué)習(xí)模型可以大幅提升算法的準(zhǔn)確性和實(shí)時(shí)性,這在安防監(jiān)控、自動(dòng)駕駛等實(shí)際應(yīng)用中具有重要的價(jià)值。

在自然語(yǔ)言處理方面,國(guó)產(chǎn)GPU也在發(fā)揮重要作用。通過(guò)GPU加速的循環(huán)神經(jīng)網(wǎng)絡(luò)、Transformer等模型,可以實(shí)現(xiàn)高效的機(jī)器翻譯、文本生成等任務(wù)。這對(duì)于提升智能客服、智能寫(xiě)作等應(yīng)用的性能具有關(guān)鍵作用。

國(guó)產(chǎn)GPU還在強(qiáng)化學(xué)習(xí)領(lǐng)域得到了應(yīng)用。強(qiáng)化學(xué)習(xí)是AI領(lǐng)域的一個(gè)重要分支,其目標(biāo)是通過(guò)與環(huán)境的交互來(lái)學(xué)習(xí)策略。GPU加速的價(jià)值網(wǎng)絡(luò)、策略網(wǎng)絡(luò)等模型可以應(yīng)用于游戲AI、機(jī)器人控制等領(lǐng)域,從而提高智能體的學(xué)習(xí)效率和性能。

另外值得關(guān)注的還有,國(guó)產(chǎn)GPU在自動(dòng)駕駛領(lǐng)域的應(yīng)用也比較多。自動(dòng)駕駛系統(tǒng)需要處理大量的傳感器數(shù)據(jù),包括來(lái)自攝像頭、雷達(dá)、激光雷達(dá)等的信息。GPU通過(guò)其強(qiáng)大的并行計(jì)算能力和高效的內(nèi)存管理,可以實(shí)時(shí)處理這些數(shù)據(jù),并為自動(dòng)駕駛系統(tǒng)提供準(zhǔn)確的決策依據(jù)。

例如,一些國(guó)產(chǎn)汽車廠商已經(jīng)開(kāi)始在其自動(dòng)駕駛系統(tǒng)中采用國(guó)產(chǎn)GPU。這些GPU不僅用于圖像處理和計(jì)算機(jī)視覺(jué)任務(wù),如目標(biāo)檢測(cè)、車道線識(shí)別等,還用于深度學(xué)習(xí)模型的推理和決策。通過(guò)GPU的加速,自動(dòng)駕駛系統(tǒng)可以更快地識(shí)別交通信號(hào)、障礙物以及其他重要信息,從而提高行車安全性。

此外,國(guó)產(chǎn)GPU還在自動(dòng)駕駛的地圖構(gòu)建和定位方面發(fā)揮了重要作用。通過(guò)利用GPU進(jìn)行高效的地圖數(shù)據(jù)處理和實(shí)時(shí)定位計(jì)算,自動(dòng)駕駛系統(tǒng)可以更加準(zhǔn)確地感知周圍環(huán)境,并實(shí)現(xiàn)精確的導(dǎo)航和路徑規(guī)劃。

具體來(lái)說(shuō),百度Apollo、小馬智行等自動(dòng)駕駛技術(shù)公司,都在其自動(dòng)駕駛解決方案中采用了國(guó)產(chǎn)GPU。這些解決方案不僅應(yīng)用于乘用車,還擴(kuò)展到商用車、物流車等多個(gè)領(lǐng)域。

寫(xiě)在最后

從目前的情況來(lái)看,國(guó)內(nèi)外GPU廠商都在追逐大模型應(yīng)用帶來(lái)的機(jī)會(huì)。當(dāng)前無(wú)論是大模型訓(xùn)練還是推理,英偉達(dá)GPU都占據(jù)了絕大部分市場(chǎng)。對(duì)于國(guó)產(chǎn)廠商來(lái)說(shuō),為了在大模型方面擁有更多自主權(quán),仍然需要持續(xù)在大模型訓(xùn)練方面發(fā)力,同時(shí)相對(duì)大模型訓(xùn)練來(lái)說(shuō),大模型接下來(lái)大面積的部署,對(duì)于推理芯片的需要將會(huì)很大,這將是一個(gè)更容易把握的機(jī)會(huì)。
聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4882

    瀏覽量

    130393
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    33554

    瀏覽量

    274198
  • 大模型
    +關(guān)注

    關(guān)注

    2

    文章

    2941

    瀏覽量

    3683
  • AI大模型
    +關(guān)注

    關(guān)注

    0

    文章

    358

    瀏覽量

    465
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    CPU\GPU引領(lǐng),國(guó)產(chǎn)AI PC進(jìn)階

    電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)當(dāng)前AI PC已經(jīng)成為PC產(chǎn)業(yè)的下個(gè)浪潮,國(guó)產(chǎn)CPU、GPU廠商PC市場(chǎng)
    的頭像 發(fā)表于 09-01 02:15 ?5480次閱讀
    CPU\<b class='flag-5'>GPU</b>引領(lǐng),<b class='flag-5'>國(guó)產(chǎn)</b><b class='flag-5'>AI</b> PC進(jìn)階

    AI模型不再依賴英偉達(dá)GPU?蘋(píng)果揭秘自研大模型

    ,獲得足夠的算力構(gòu)建自己的計(jì)算中心,用于訓(xùn)練不同應(yīng)用的AI模型。 AI領(lǐng)域眾星捧月也造就了英偉達(dá)市值曾突破三萬(wàn)億美元,并短暫登頂全球第的位
    的頭像 發(fā)表于 08-05 06:07 ?4332次閱讀
    <b class='flag-5'>AI</b>大<b class='flag-5'>模型</b>不再依賴英偉達(dá)<b class='flag-5'>GPU</b>?蘋(píng)果揭秘自研大<b class='flag-5'>模型</b>

    摩爾線程GPU成功適配Deepseek-V3-0324大模型

    架構(gòu)和全功能GPU的強(qiáng)大技術(shù)實(shí)力,摩爾線程迅速響應(yīng)并完成了對(duì)DeepSeek-V3的無(wú)縫升級(jí),實(shí)現(xiàn)了零報(bào)錯(cuò)、零兼容性問(wèn)題的光速部署,充分展現(xiàn)了摩爾線程AI模型領(lǐng)域的領(lǐng)先優(yōu)勢(shì)。
    的頭像 發(fā)表于 03-31 11:34 ?403次閱讀
    摩爾線程<b class='flag-5'>GPU</b>成功適配Deepseek-V3-0324大<b class='flag-5'>模型</b>

    摩爾線程GPU原生FP8計(jì)算助力AI訓(xùn)練

    并行訓(xùn)練和推理,顯著提升了訓(xùn)練效率與穩(wěn)定性。摩爾線程是國(guó)內(nèi)率先原生支持FP8計(jì)算精度的國(guó)產(chǎn)GPU企業(yè),此次開(kāi)源不僅為AI訓(xùn)練和推理提供了全新的國(guó)產(chǎn)化解決方案,更對(duì)推動(dòng)
    的頭像 發(fā)表于 03-17 17:05 ?372次閱讀
    摩爾線程<b class='flag-5'>GPU</b>原生FP8計(jì)算助力<b class='flag-5'>AI</b>訓(xùn)練

    無(wú)法GPU上運(yùn)行ONNX模型的Benchmark_app怎么解決?

    CPU 和 GPU 上運(yùn)行OpenVINO? 2023.0 Benchmark_app推斷的 ONNX 模型 CPU 上推理成功,但在
    發(fā)表于 03-06 08:02

    模型領(lǐng)域常用名詞解釋(近100個(gè))

    本文總結(jié)了大模型領(lǐng)域常用的近100個(gè)名詞解釋,并按照模型架構(gòu)與基礎(chǔ)概念,訓(xùn)練方法與技術(shù),模型優(yōu)化與壓縮,推理與應(yīng)用,計(jì)算與性能優(yōu)化,數(shù)據(jù)與標(biāo)簽,模型評(píng)估與調(diào)試,特征與數(shù)據(jù)處理,倫理與公
    的頭像 發(fā)表于 02-19 11:49 ?580次閱讀
    大<b class='flag-5'>模型領(lǐng)域</b>常用名詞解釋(近100個(gè))

    小米加速布局AI模型,搭建GPU萬(wàn)卡集群

    近日,有消息稱小米正在緊鑼密鼓地搭建自己的GPU萬(wàn)卡集群,旨在加大對(duì)AI模型的投入力度。據(jù)悉,小米的大模型團(tuán)隊(duì)成立之初就已經(jīng)擁有了650
    的頭像 發(fā)表于 12-28 14:25 ?430次閱讀

    GPU是如何訓(xùn)練AI模型

    AI模型的訓(xùn)練過(guò)程中,大量的計(jì)算工作集中矩陣乘法、向量加法和激活函數(shù)等運(yùn)算上。這些運(yùn)算正是GPU所擅長(zhǎng)的。接下來(lái),
    的頭像 發(fā)表于 12-19 17:54 ?546次閱讀

    云知聲榮登甲子光年“2024中國(guó)AI模型領(lǐng)域最具商業(yè)潛力榜”

    科技產(chǎn)業(yè)投資榜】三大行業(yè)榜單。云知聲憑借卓越的技術(shù)實(shí)力、創(chuàng)新的場(chǎng)景應(yīng)用以及廣闊的市場(chǎng)前景,榮登“2024中國(guó)AI模型領(lǐng)域最具商業(yè)潛力榜”。
    的頭像 發(fā)表于 12-13 14:30 ?485次閱讀

    為什么ai模型訓(xùn)練要用gpu

    GPU憑借其強(qiáng)大的并行處理能力和高效的內(nèi)存系統(tǒng),已成為AI模型訓(xùn)練不可或缺的重要工具。
    的頭像 發(fā)表于 10-24 09:39 ?752次閱讀

    不同領(lǐng)域AI模型的應(yīng)用實(shí)例

    AI模型不同領(lǐng)域有著廣泛的應(yīng)用實(shí)例,以下是些具體領(lǐng)域的應(yīng)用案例:
    的頭像 發(fā)表于 10-23 15:13 ?3453次閱讀

    【「大模型時(shí)代的基礎(chǔ)架構(gòu)」閱讀體驗(yàn)】+ 未知領(lǐng)域的感受

    ”,好奇于這種大模型算力中心到底是如何建設(shè)的,用什么設(shè)備、什么架構(gòu)建設(shè)的?對(duì)這些問(wèn)題真是無(wú)所知,甚至都沒(méi)有想過(guò),帶著這份好奇開(kāi)始閱讀。 先瀏覽目錄,共分十三章,目錄中出現(xiàn)最多的就是GPU,比如機(jī)器學(xué)習(xí)
    發(fā)表于 10-08 10:40

    人工智能ai4s試讀申請(qǐng)

    目前人工智能在繪畫(huà)對(duì)話等大模型領(lǐng)域應(yīng)用廣闊,ai4s也是方興未艾。但是如何有效利用ai4s工具助力科研是個(gè)需要研究的課題,本書(shū)對(duì)ai4s基本原理和原則,方法進(jìn)行描訴,有利于總結(jié)經(jīng)驗(yàn),擬
    發(fā)表于 09-09 15:36

    模型發(fā)展下,國(guó)產(chǎn)GPU的機(jī)會(huì)和挑戰(zhàn)

    電子發(fā)燒友網(wǎng)站提供《大模型發(fā)展下,國(guó)產(chǎn)GPU的機(jī)會(huì)和挑戰(zhàn).pdf》資料免費(fèi)下載
    發(fā)表于 07-18 15:44 ?11次下載
    大<b class='flag-5'>模型</b>發(fā)展下,<b class='flag-5'>國(guó)產(chǎn)</b><b class='flag-5'>GPU</b>的機(jī)會(huì)和挑戰(zhàn)

    智譜AI正研發(fā)對(duì)標(biāo)Sora的國(guó)產(chǎn)文生視頻模型

    智譜AI,這家國(guó)內(nèi)估值超過(guò)200億的AI模型獨(dú)角獸企業(yè),正全力投入研發(fā)款與OpenAI的Sora相媲美的國(guó)產(chǎn)文生視頻
    的頭像 發(fā)表于 05-07 09:22 ?659次閱讀