一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

AI芯片全面發(fā)展!從訓(xùn)練到推理、從云端到邊緣、從GPU到ASIC

Carol Li ? 來源:電子發(fā)燒友原創(chuàng) ? 作者:李彎彎 ? 2021-11-13 09:24 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)在過去接近10年時(shí)間里,AI產(chǎn)業(yè)經(jīng)歷了幾個(gè)重要節(jié)點(diǎn),2012年深度學(xué)習(xí)的研究突破,給AI產(chǎn)業(yè)帶來新的起點(diǎn),2016年Alphago打敗李世石,正式引爆市場(chǎng),一時(shí)間涌現(xiàn)出大量AI創(chuàng)業(yè)企業(yè),資本也大量投進(jìn)這個(gè)賽道。

在短時(shí)間火熱之后,湊熱鬧的人逐漸退出,AI產(chǎn)業(yè)繼續(xù)穩(wěn)步向前發(fā)展,最近幾年AI技術(shù)快速發(fā)展,應(yīng)用場(chǎng)景不斷浮現(xiàn),AI產(chǎn)業(yè)也進(jìn)入到爆發(fā)式增長(zhǎng)階段,巨大的市場(chǎng)潛力逐漸顯現(xiàn)出來。據(jù)艾媒咨詢數(shù)據(jù)顯示,2020年中國(guó)AI芯片市場(chǎng)規(guī)模達(dá)183.8億元,預(yù)計(jì)2023年將突破千億級(jí)別。

同時(shí)AI芯片也逐漸呈現(xiàn)出多元化趨勢(shì),主要體現(xiàn)在幾個(gè)方面:一是早期AI芯片更多集中在訓(xùn)練上,如今除了AI訓(xùn)練芯片持續(xù)增長(zhǎng),AI推理芯片的市場(chǎng)規(guī)模也在快速擴(kuò)大,預(yù)計(jì)將超過訓(xùn)練芯片;二是AI芯片過去主要部署在云端,如今已經(jīng)向邊緣端/終端方向發(fā)展;第三,AI芯片有各種類型,其中多數(shù)是GPU,不過很明顯,ASIC、FPGA等非GPU芯片市場(chǎng)規(guī)模也在逐步提升。

AI推理芯片市場(chǎng)規(guī)模逐步擴(kuò)大

AI芯片可分為訓(xùn)練和推理兩個(gè)環(huán)節(jié),訓(xùn)練環(huán)節(jié)通常需要通過大量的數(shù)據(jù)輸入,或采取增強(qiáng)學(xué)習(xí)等非監(jiān)督學(xué)習(xí)方法,訓(xùn)練出一個(gè)復(fù)雜的深度神經(jīng)網(wǎng)絡(luò)模型。推理環(huán)節(jié)指利用訓(xùn)練好的模型,使用新的數(shù)據(jù)去推理出各種結(jié)論,比如,視頻監(jiān)控設(shè)備通過后臺(tái)的深度神經(jīng)網(wǎng)絡(luò)模型,判斷一張抓拍到的人臉是否屬于黑名單。

也因此通常也會(huì)有AI訓(xùn)練芯片和AI推理芯片,另外還會(huì)根據(jù)是部署在云端數(shù)據(jù)中心、邊緣端、還是終端,更細(xì)化的分為云端AI訓(xùn)練、云端AI推理、邊緣/終端AI推理芯片。

因?yàn)锳I訓(xùn)練需要大量的數(shù)據(jù),基本被部署在云端,過去幾年地方政府加快建設(shè)公有云、私有云、數(shù)據(jù)中心,也因此AI訓(xùn)練芯片市場(chǎng)大增,在2018年的時(shí)候中國(guó)云端AI訓(xùn)練芯片市場(chǎng)份額達(dá)到51.3%,中國(guó)AI芯片市場(chǎng)規(guī)模也以云端訓(xùn)練芯片為主。

不過隨著大規(guī)模地方性數(shù)據(jù)中心建設(shè)陸續(xù)完成,云端訓(xùn)練芯片增長(zhǎng)速度逐步放緩,而隨著各領(lǐng)域市場(chǎng)需求的釋放,云端推理芯片、終端推理芯片市場(chǎng)增長(zhǎng)速度呈現(xiàn)上升趨勢(shì),根據(jù)IDC研究發(fā)現(xiàn),2020年中國(guó)數(shù)據(jù)中心用于推理的芯片的市場(chǎng)份額已經(jīng)超過50%,預(yù)計(jì)到2025年,用于推理的工作負(fù)載的芯片將達(dá)到60.8%。

邊緣AI芯片市場(chǎng)規(guī)模將超過云端芯片

同時(shí)AI芯片正在從云端向邊緣端發(fā)展,IDC&浪潮日前發(fā)布的《2021-2022中國(guó)人工智能計(jì)算力發(fā)展評(píng)估報(bào)告》顯示,在新技術(shù)的驅(qū)動(dòng)下,5G 等連接技術(shù)降低了數(shù)據(jù)的傳輸和處理速度,為了分擔(dān)數(shù)據(jù)中心的計(jì)算壓力并且也能提高實(shí)時(shí)響應(yīng)速度,人工智能在邊緣側(cè)的處理將成為企業(yè)的一個(gè)關(guān)鍵增長(zhǎng)領(lǐng)域。

人工智能在邊緣以及端側(cè)將有廣泛的應(yīng)用場(chǎng)景,從自動(dòng)駕駛到工業(yè)制造,再到消費(fèi)者智能家居和可穿戴設(shè)備。據(jù)市場(chǎng)咨詢公司ABI Research的數(shù)據(jù)顯示,預(yù)計(jì)到2025年,邊緣AI芯片市場(chǎng)的收入將達(dá)到122億美元,云AI芯片市場(chǎng)的收入將達(dá)到119億美元,邊緣AI芯片市場(chǎng)將超過云AI芯片組市場(chǎng)。


GPU芯片占比增加,將超過20%

目前AI芯片有3種主流技術(shù)路線,分別是GPU、ASIC以及FPGA。其中GPU芯片被認(rèn)為更適合用于承擔(dān)訓(xùn)練負(fù)載,有分析人士指出,目前GPU已經(jīng)發(fā)展到較為成熟的階段。根據(jù)IDC數(shù)據(jù),2021年上半年AI芯片中,GPU依然是實(shí)現(xiàn)數(shù)據(jù)中心加速的首選,占有90%以上市場(chǎng)份額。

英偉達(dá)是GPU領(lǐng)域的絕對(duì)龍頭,占據(jù)了絕大部分市場(chǎng)份額,近幾年國(guó)內(nèi)也有多家GPU廠商逐漸成長(zhǎng)起來,將其用于AI訓(xùn)練和推理,包括天數(shù)智芯、摩爾線程、沐曦集成、壁仞科技、登臨科技等。

雖然目前GPU仍然占據(jù)主要的市場(chǎng)份額,不過ASIC、FPGA等其他非GPU芯片在各個(gè)領(lǐng)域越來越多的被使用,整體市場(chǎng)份額接近10%,預(yù)計(jì)到2025年其占比將超過20%,主要原因:一是越來越多的AI初創(chuàng)企業(yè)成長(zhǎng)起來,它們很多采用ASIC芯片進(jìn)行訓(xùn)練和推理;二是GPU較多的被用于云端訓(xùn)練,而隨著云端、邊緣推理芯片市場(chǎng)規(guī)模逐漸擴(kuò)大,F(xiàn)PGA和ASIC芯片的價(jià)值更容易得到體現(xiàn)。

小結(jié)

整體而言,經(jīng)過多年的發(fā)展,AI芯片市場(chǎng)規(guī)模正在快速增長(zhǎng),同時(shí)AI芯片也逐漸走向更加多元化,從功能上來看,逐漸從云端AI訓(xùn)練拓展到云端和邊緣端推理,從芯片類型來看,GPU芯片仍然占據(jù)重要位置,而FPGA和ASIC等芯片的價(jià)值也得到更多體現(xiàn)。

我們也明顯看到,不少AI芯片企業(yè)開始全面推出產(chǎn)品,或者包括云端訓(xùn)練和推理,或者同時(shí)進(jìn)行云端和邊緣端芯片產(chǎn)品布局,比如寒武紀(jì)推出同時(shí)支持訓(xùn)練和推理的芯片,燧原在推出云端訓(xùn)練芯片之后,也推出了云端推理芯片,鯤云科技基于CAISA芯片的產(chǎn)品可應(yīng)用于云端和邊緣端推理。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • asic
    +關(guān)注

    關(guān)注

    34

    文章

    1246

    瀏覽量

    122362
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4943

    瀏覽量

    131203
  • AI
    AI
    +關(guān)注

    關(guān)注

    88

    文章

    35093

    瀏覽量

    279476
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    邊緣AI盒子技術(shù)解析:ASIC/FPGA/GPU芯片邊緣-云端協(xié)同與自適應(yīng)推理

    ? 電子發(fā)燒友網(wǎng)綜合報(bào)道 邊緣AI盒子是一種集成了高性能芯片AI算法和數(shù)據(jù)處理能力的硬件設(shè)備,部署在數(shù)據(jù)源的邊緣側(cè),如工廠、商場(chǎng)、交通路口
    的頭像 發(fā)表于 07-13 08:25 ?1819次閱讀

    DeepSeek:入門精通

    電子發(fā)燒友網(wǎng)站提供《DeepSeek:入門精通.pdf》資料免費(fèi)下載
    發(fā)表于 05-28 14:12 ?0次下載

    云端終端:RAKsmart服務(wù)器構(gòu)筑AI云平臺(tái)智慧城市全棧解決方案

    傳統(tǒng)服務(wù)器方案常面臨算力分散、運(yùn)維復(fù)雜、能效比低等問題,導(dǎo)致AI算法難以高效落地。而RAKsmart服務(wù)器憑借其技術(shù)創(chuàng)新與全棧服務(wù)能力,正在為AI云平臺(tái)智慧城市提供云端算力
    的頭像 發(fā)表于 05-09 09:47 ?206次閱讀

    陣列云訓(xùn)練到推理

    在云場(chǎng)景下,陣列云(分布式計(jì)算集群)模型訓(xùn)練到推理的完整技術(shù)流程可結(jié)構(gòu)化分解如下: 一、訓(xùn)練階段技術(shù)實(shí)現(xiàn) 1,資源動(dòng)態(tài)編排? 基于Kubernetes集群或云廠商彈性計(jì)算服務(wù)(如AW
    的頭像 發(fā)表于 03-28 08:32 ?325次閱讀

    邊緣計(jì)算 云端計(jì)算

    處理數(shù)據(jù),需通過互聯(lián)網(wǎng)傳輸原始數(shù)據(jù)?。 延遲與實(shí)時(shí)性? 邊緣計(jì)算?:毫秒級(jí)響應(yīng),適用于自動(dòng)駕駛、工業(yè)控制等實(shí)時(shí)場(chǎng)景?。 云端計(jì)算?:因網(wǎng)絡(luò)傳輸和集中處理,延遲較高(通常秒級(jí)),適合非實(shí)時(shí)任務(wù)(如數(shù)據(jù)分析、模型訓(xùn)練)?。
    的頭像 發(fā)表于 03-27 08:30 ?383次閱讀
    <b class='flag-5'>從</b><b class='flag-5'>邊緣</b>計(jì)算 <b class='flag-5'>到</b><b class='flag-5'>云端</b>計(jì)算

    DeepSeek入門精通

    電子發(fā)燒友網(wǎng)站提供《DeepSeek入門精通.pdf》資料免費(fèi)下載
    發(fā)表于 03-04 15:43 ?60次下載

    AI推理帶火的ASIC,開發(fā)成敗在此一舉!

    的應(yīng)用性價(jià)比遠(yuǎn)超GPU,加上博通財(cái)報(bào)AI業(yè)務(wù)同比大增220%,掀起了AI推理端的ASIC熱潮。 ? 那么
    的頭像 發(fā)表于 03-03 00:13 ?3293次閱讀
    <b class='flag-5'>AI</b><b class='flag-5'>推理</b>帶火的<b class='flag-5'>ASIC</b>,開發(fā)成敗在此一舉!

    圖形處理到AI加速,一文看懂Imagination D系列GPU

    Imagination的D系列于2022年首次發(fā)布,見證了生成式AI云端智能手機(jī)等消費(fèi)設(shè)備中普及。在云端,由于
    的頭像 發(fā)表于 02-27 08:33 ?482次閱讀
    <b class='flag-5'>從</b>圖形處理到<b class='flag-5'>AI</b>加速,一文看懂Imagination D系列<b class='flag-5'>GPU</b>

    CPUGPU:渲染技術(shù)的演進(jìn)和趨勢(shì)

    渲染技術(shù)是計(jì)算機(jī)圖形學(xué)的核心內(nèi)容之一,它是將三維場(chǎng)景轉(zhuǎn)換為二維圖像的過程。渲染技術(shù)一直在不斷演進(jìn),最初的CPU渲染后來的GPU渲染,性能和質(zhì)量都有了顯著提升。一、CPU
    的頭像 發(fā)表于 02-21 11:11 ?739次閱讀
    <b class='flag-5'>從</b>CPU<b class='flag-5'>到</b><b class='flag-5'>GPU</b>:渲染技術(shù)的演進(jìn)和趨勢(shì)

    DeepSeek:入門精通

    DeepSeek:入門精通
    發(fā)表于 02-08 18:00 ?125次下載

    數(shù)據(jù)智能:邊緣AI發(fā)展進(jìn)入新階段,方案部署面臨怎樣的挑戰(zhàn)?

    回顧2024年AI產(chǎn)業(yè)的發(fā)展AI大模型依然在高歌猛進(jìn),不過將AI工作負(fù)載云端卸載到終端的趨勢(shì)
    的頭像 發(fā)表于 01-15 00:13 ?2671次閱讀
    <b class='flag-5'>從</b>數(shù)據(jù)<b class='flag-5'>到</b>智能:<b class='flag-5'>邊緣</b><b class='flag-5'>AI</b><b class='flag-5'>發(fā)展</b>進(jìn)入新階段,方案部署面臨怎樣的挑戰(zhàn)?

    科技云報(bào)到:大模型云端,“AI+云計(jì)算”還能講出什么新故事

    科技云報(bào)到:大模型云端,“AI+云計(jì)算”還能講出什么新故事
    的頭像 發(fā)表于 01-07 13:27 ?388次閱讀

    《算力芯片 高性能 CPUGPUNPU 微架構(gòu)分析》第3篇閱讀心得:GPU革命:圖形引擎AI加速器的蛻變

    在數(shù)據(jù)挖掘工作中,我經(jīng)常需要處理海量數(shù)據(jù)的深度學(xué)習(xí)任務(wù),這讓我對(duì)GPU架構(gòu)和張量運(yùn)算充滿好奇。閱讀《算力芯片》第7-9章,讓我對(duì)這些關(guān)鍵技術(shù)有了全新認(rèn)識(shí)。 GPU架構(gòu)從早期的固定功能流水線,
    發(fā)表于 11-24 17:12

    AI云端計(jì)算資源有哪些類型

    AI云端計(jì)算資源涵蓋了基礎(chǔ)設(shè)施軟件服務(wù)的多個(gè)層面,為AI模型的訓(xùn)練、
    的頭像 發(fā)表于 11-15 09:39 ?567次閱讀

    FPGA和ASIC在大模型推理加速中的應(yīng)用

    隨著現(xiàn)在AI的快速發(fā)展,使用FPGA和ASIC進(jìn)行推理加速的研究也越來越多,目前的市場(chǎng)來說,有些公司已經(jīng)有了專門做
    的頭像 發(fā)表于 10-29 14:12 ?2013次閱讀
    FPGA和<b class='flag-5'>ASIC</b>在大模型<b class='flag-5'>推理</b>加速中的應(yīng)用