一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

超越CPU/GPU:NPU如何讓AI“輕裝上陣”?

Carol Li ? 來源:電子發(fā)燒友 ? 作者:李彎彎 ? 2025-04-18 00:05 ? 次閱讀

電子發(fā)燒友網(wǎng)報(bào)道(文/李彎彎)NPU是一種專門為人工智能AI)計(jì)算設(shè)計(jì)的處理器,主要用于高效執(zhí)行神經(jīng)網(wǎng)絡(luò)相關(guān)的運(yùn)算(如矩陣乘法、卷積、激活函數(shù)等)。相較于傳統(tǒng)CPU/GPU,NPU在能效比和計(jì)算速度上更具優(yōu)勢(shì),尤其適合移動(dòng)設(shè)備、邊緣計(jì)算和嵌入式AI場(chǎng)景。

NPU有幾大核心特點(diǎn):其一是專用架構(gòu),針對(duì)神經(jīng)網(wǎng)絡(luò)計(jì)算優(yōu)化,支持并行處理大量矩陣運(yùn)算(如INT8/FP16低精度計(jì)算),典型操作包括卷積、池化、注意力機(jī)制(Transformer)等;其二是高能效比,相比GPU,NPU的功耗更低,適合手機(jī)、IoT設(shè)備等對(duì)續(xù)航要求高的場(chǎng)景;其三是低延遲,專為AI推理(Inference)和訓(xùn)練(Training)優(yōu)化,減少數(shù)據(jù)搬運(yùn)開銷;其四是異構(gòu)計(jì)算,常與CPU、GPU、DSP等協(xié)同工作(如手機(jī)SoC中的“AI引擎”)。

NPU廣泛應(yīng)用于各類AI驅(qū)動(dòng)的設(shè)備與系統(tǒng),典型場(chǎng)景包括:智能手機(jī),實(shí)現(xiàn)實(shí)時(shí)圖像增強(qiáng)(如華為麒麟芯片的AI拍照)、語音助手、AR/VR交互等;可穿戴設(shè)備,支持低功耗的本地化AI計(jì)算(如智能手表的健康監(jiān)測(cè))。

自動(dòng)駕駛,處理傳感器數(shù)據(jù),實(shí)現(xiàn)實(shí)時(shí)物體檢測(cè)、路徑規(guī)劃和決策(如特斯拉FSD芯片)。典算力需求方面,L4級(jí)自動(dòng)駕駛車輛NPU算力超1000 TOPS。

邊緣計(jì)算,如智能攝像頭,人臉識(shí)別、異常行為檢測(cè)。物聯(lián)網(wǎng)設(shè)備,本地化語音助手(如智能音箱的喚醒詞識(shí)別)。

數(shù)據(jù)中心,加速AI模型訓(xùn)練和推理,典型應(yīng)用如谷歌TPU(張量處理單元)。工業(yè)質(zhì)檢,推理時(shí)延壓縮至20ms內(nèi),部署量年增120%。

典型NPU芯片有,如在移動(dòng)端有華為麒麟芯片(達(dá)芬奇NPU),用于手機(jī)AI拍照、語音識(shí)別等;高通Hexagon DSP+NPU(驍龍平臺(tái)),支持AI降噪、影像增強(qiáng);蘋果神經(jīng)網(wǎng)絡(luò)引擎(A/M系列芯片),F(xiàn)ace ID、Siri等功能的底層支持。

在邊緣計(jì)算和自動(dòng)駕駛側(cè)有特斯拉FSD芯片,內(nèi)置NPU處理自動(dòng)駕駛視覺模型;地平線征程芯片(BPU架構(gòu)),用于智能駕駛感知計(jì)算。

在云端,有寒武紀(jì)MLU系列,云端AI訓(xùn)練/推理加速;英偉達(dá)Grace Hopper(集成NPU模塊),大模型推理。

NPU的關(guān)鍵技術(shù)包括量化壓縮,支持INT4/INT8低精度計(jì)算,提升能效;稀疏計(jì)算,跳過零值計(jì)算,加速稀疏模型(如Pruning后的網(wǎng)絡(luò));編譯器優(yōu)化,專用工具鏈(如華為Ascend CANN、高通AI Engine)將框架(TensorFlow/PyTorch)模型轉(zhuǎn)換為NPU指令。

從趨勢(shì)上來看,NPU有幾個(gè)明顯的發(fā)展方向:光電融合計(jì)算,結(jié)合光子學(xué)技術(shù),進(jìn)一步提升算力和能效;神經(jīng)形態(tài)芯片,模仿生物神經(jīng)元結(jié)構(gòu),實(shí)現(xiàn)更低功耗的AI計(jì)算;Chiplet技術(shù),通過多NPU互聯(lián)提升算力(如Cerebras的Wafer級(jí)芯片)。

總的來看,NPU作為AI計(jì)算的核心硬件,正深刻改變著人工智能技術(shù)的落地方式。其高并行性、低功耗和硬件加速能力,使其成為移動(dòng)設(shè)備、自動(dòng)駕駛、邊緣計(jì)算等領(lǐng)域的首選解決方案。隨著技術(shù)演進(jìn)和市場(chǎng)需求的爆發(fā),NPU將在未來AI生態(tài)中扮演更加重要的角色。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • gpu
    gpu
    +關(guān)注

    關(guān)注

    28

    文章

    4882

    瀏覽量

    130382
  • AI
    AI
    +關(guān)注

    關(guān)注

    87

    文章

    33553

    瀏覽量

    274181
  • NPU
    NPU
    +關(guān)注

    關(guān)注

    2

    文章

    312

    瀏覽量

    19359
收藏 人收藏

    評(píng)論

    相關(guān)推薦

    CPU\GPU引領(lǐng),國產(chǎn)AI PC進(jìn)階

    電子發(fā)燒友網(wǎng)報(bào)道(文/黃晶晶)當(dāng)前AI PC已經(jīng)成為PC產(chǎn)業(yè)的下一個(gè)浪潮,國產(chǎn)CPUGPU廠商在PC市場(chǎng)一直處于追趕態(tài)勢(shì),AI PC給了大家新的機(jī)遇,在這個(gè)賽道國產(chǎn)廠商加速了布局與滲
    的頭像 發(fā)表于 09-01 02:15 ?5477次閱讀
    <b class='flag-5'>CPU</b>\<b class='flag-5'>GPU</b>引領(lǐng),國產(chǎn)<b class='flag-5'>AI</b> PC進(jìn)階

    RK3588性能設(shè)置 CPU GPU DDR NPU 頻率設(shè)置

    RK3588 CPU GPU DDR定頻策略
    的頭像 發(fā)表于 02-15 16:09 ?1412次閱讀

    【新品發(fā)布】國產(chǎn)實(shí)力破局!算力 “卷王” HZHY-AI210G,體積小巧,智能無人設(shè)備輕裝上陣

    ★在AI大模型重塑生活的當(dāng)下,科技浪潮正以破竹之勢(shì)席卷而來。其中,無人機(jī)與機(jī)器人技術(shù)作為耀眼的“弄潮兒”,已然從科幻作品的想象走進(jìn)現(xiàn)實(shí)生活,廣泛應(yīng)用于安防、農(nóng)業(yè)、環(huán)境監(jiān)測(cè)、物流配送等領(lǐng)域。然而,傳統(tǒng)
    的頭像 發(fā)表于 02-14 18:29 ?383次閱讀
    【新品發(fā)布】國產(chǎn)實(shí)力破局!算力 “卷王” HZHY-<b class='flag-5'>AI</b>210G,體積小巧,<b class='flag-5'>讓</b>智能無人設(shè)備<b class='flag-5'>輕裝上陣</b>

    2024年GPU出貨量增長顯著,超越CPU

    6%的同比增長,總量超過2.51億顆,這一數(shù)據(jù)不僅彰顯了GPU市場(chǎng)的繁榮,也反映了當(dāng)前市場(chǎng)對(duì)于圖形處理能力的巨大需求。 尤為值得一提的是,與同樣作為計(jì)算機(jī)核心部件的CPU相比,GPU在2024年的出貨量上占據(jù)了明顯優(yōu)勢(shì)。據(jù)JPR
    的頭像 發(fā)表于 01-17 14:12 ?373次閱讀

    聞泰科技新戰(zhàn)略、新發(fā)展:輕裝上陣,聚焦半導(dǎo)體賽道

    2024年12月30日晚間,電子科技領(lǐng)域一則消息引發(fā)市場(chǎng)廣泛關(guān)注:聞泰科技擬將公司及控股子公司擁有的部分與產(chǎn)品集成業(yè)務(wù)相關(guān)的標(biāo)的公司股權(quán)和標(biāo)的經(jīng)營資產(chǎn)轉(zhuǎn)讓給立訊有限或其指定方。 聞泰科技在半導(dǎo)體與產(chǎn)品集成兩大業(yè)務(wù)板塊深耕,憑借為全球客戶提供半導(dǎo)體功率器件、模擬芯片的全流程產(chǎn)品與服務(wù),以及手機(jī)、平板等多品類終端產(chǎn)品研發(fā)制造,成為行業(yè)內(nèi)不可忽視的力量,尤其在半導(dǎo)體領(lǐng)域,更是聲名遠(yuǎn)揚(yáng)。而立訊,以“果鏈一哥”聞名遐邇,
    發(fā)表于 01-03 11:38 ?365次閱讀

    NPU的工作原理解析

    神經(jīng)網(wǎng)絡(luò)的計(jì)算流程,顯著提高了處理速度和能效。NPU通常集成在SoC(System on Chip)中,與CPUGPU協(xié)同工作,共同完成復(fù)雜的計(jì)算任務(wù)。 NPU的架構(gòu)
    的頭像 發(fā)表于 11-15 09:17 ?2099次閱讀

    NPU技術(shù)如何提升AI性能

    設(shè)計(jì)的處理器,與傳統(tǒng)的CPUGPU相比,它在執(zhí)行深度學(xué)習(xí)任務(wù)時(shí)具有更高的效率和更低的能耗。NPU通過專門優(yōu)化的硬件結(jié)構(gòu)和指令集,能夠更快地處理神經(jīng)網(wǎng)絡(luò)中的大量并行計(jì)算任務(wù)。 1. 優(yōu)化硬件架構(gòu)
    的頭像 發(fā)表于 11-15 09:11 ?1170次閱讀

    什么是NPU芯片及其功能

    的設(shè)計(jì)靈感來源于人腦的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。人腦通過神經(jīng)元和突觸的復(fù)雜網(wǎng)絡(luò)處理信息,而NPU芯片則通過模擬這種結(jié)構(gòu)來提高數(shù)據(jù)處理的效率。與傳統(tǒng)的CPUGPU相比,NPU芯片在處理深度學(xué)習(xí)任務(wù)
    的頭像 發(fā)表于 11-14 15:48 ?4278次閱讀

    NPUGPU的性能對(duì)比

    它們?cè)诓煌瑧?yīng)用場(chǎng)景下的表現(xiàn)。 一、設(shè)計(jì)初衷與優(yōu)化方向 NPU : 專為加速AI任務(wù)而設(shè)計(jì),包括深度學(xué)習(xí)和推理。 針對(duì)神經(jīng)網(wǎng)絡(luò)的計(jì)算模式進(jìn)行了優(yōu)化,能夠高效地執(zhí)行矩陣乘法、卷積等操作。 擁有眾多小型處理單元,配備專門的內(nèi)存體系結(jié)構(gòu)和數(shù)據(jù)流優(yōu)化策略,對(duì)深度學(xué)習(xí)任務(wù)的處理特別高
    的頭像 發(fā)表于 11-14 15:19 ?3479次閱讀

    【「算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析」閱讀體驗(yàn)】--全書概覽

    、GPU、NPU,給我們剖析了算力芯片的微架構(gòu)。書中有對(duì)芯片方案商處理器的講解,理論聯(lián)系實(shí)際,使讀者能更好理解算力芯片。 全書共11章,由淺入深,較系統(tǒng)全面進(jìn)行講解。下面目錄對(duì)全書內(nèi)容有一個(gè)整體了解
    發(fā)表于 10-15 22:08

    什么是NPU?什么場(chǎng)景需要配置NPU?

    在人工智能(AI)技術(shù)如火如荼的今天,NPU神經(jīng)處理單元(Neural Processing Unit)作為一種新興的硬件加速器,正在成為ARM主板配置中的新寵。與傳統(tǒng)的CPUGPU
    的頭像 發(fā)表于 10-11 10:13 ?4923次閱讀
    什么是<b class='flag-5'>NPU</b>?什么場(chǎng)景需要配置<b class='flag-5'>NPU</b>?

    名單公布!【書籍評(píng)測(cè)活動(dòng)NO.43】 算力芯片 | 高性能 CPU/GPU/NPU 微架構(gòu)分析

    和像素統(tǒng)一的G80到現(xiàn)在重金難求的H100;AMD的Zen系列CPU和RDNA系列GPU兩線作戰(zhàn);中國的高性能計(jì)算芯片逐步獲得更多TOP500排名;華為Ascend 910 NPU芯片也成為A
    發(fā)表于 09-02 10:09

    輕裝上陣 小而不凡,道通智能發(fā)布EVO Lite行業(yè)系列無人機(jī)

    EVO Lite 640T 行業(yè)版、EVO Lite 6K 行業(yè)版均采用 Autel SkyLink 圖傳技術(shù),圖傳畫面?zhèn)鬏斁嚯x達(dá)12公里,并支持2.4GHz、5.8GHz自適應(yīng)跳頻傳輸,根據(jù)電磁干擾情況自動(dòng)選擇更優(yōu)信道,圖傳抗干擾能力不斷提升。
    的頭像 發(fā)表于 08-06 17:43 ?695次閱讀
    <b class='flag-5'>輕裝上陣</b> 小而不凡,道通智能發(fā)布EVO Lite行業(yè)系列無人機(jī)

    實(shí)測(cè)NPU“空轉(zhuǎn)”,AI PC首個(gè)落地應(yīng)用只調(diào)用GPU?

    AI PC的一大特征是在傳統(tǒng)PC的CPU+GPU基礎(chǔ)上,增加NPU加強(qiáng)AI 算力。不過有意思的是,最近某品牌PC機(jī)型上的AI助手率先落地,支
    的頭像 發(fā)表于 05-22 00:16 ?3745次閱讀