一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領取20積分哦,立即完善>

3天內不再提示

嵌入式芯片中神經(jīng)網(wǎng)絡加速器如何支持本地化AI處理

454398 ? 來源:ST社區(qū) ? 作者:ST社區(qū) ? 2022-12-20 18:25 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

來源:ST社區(qū)

GPU和NNA(神經(jīng)網(wǎng)絡加速器)正在迅速成為AI應用的關鍵要素。隨著不同企業(yè)開始挖掘神經(jīng)網(wǎng)絡在各種任務(比如自然語言處理、圖片分類)中的潛力,集成人工智能元素的產品數(shù)量正在穩(wěn)步的增長。與此同時,對于這些任務的處理也正在從傳統(tǒng)的云端架構轉移到設備本身上來,嵌入式芯片中集成了專用的神經(jīng)網(wǎng)絡加速器,可支持本地化AI處理。例如先進的駕駛輔助系統(tǒng)(ADAS)能夠實時監(jiān)控前方道路,還有集成語音識別類功能的消費電子產品,比如虛擬助理?;谏窠?jīng)網(wǎng)絡的AI應用正在多個細分市場不斷擴大。

Imagination公司的業(yè)務是為芯片設計提供必要的內核組件,我們在嵌入式圖形處理器(GPU)和神經(jīng)網(wǎng)絡加速器(NNA)技術方面聞名,我們將這些技術授權給世界領先的芯片供應商。他們的產品被廣泛應用在多個產品和服務中,因此Imagination在市場上占有著獨特的位置,我們使得整個生態(tài)系統(tǒng)都能夠參與到AI的發(fā)展中來。

不可否認,AI在很多應用中都是至關重要的,但是也有很多的挑戰(zhàn)。其中之一就是協(xié)調好終端設備和云服務器之間的處理負載,將AI處理操作放在最佳的位置來完成。例如在消費者終端設備上進行本地化AI語音識別;對于“喚醒”指令或其他簡單指令,因為本地設備無法存儲龐大的知識數(shù)據(jù)庫,要利用這些數(shù)據(jù)就必須在云服務器中實現(xiàn)很大一部分AI處理操作。目前的情況是很多市場上銷售的產品都帶有AI功能,但實際上它們只是在本地進行簡單的模式匹配和識別,然后依賴云服務器完成進一步的AI處理。

這種情況將會逐漸改變,隨著芯片工藝技術變得更加普遍,嵌入式神經(jīng)網(wǎng)絡加速器(NNA)將會變得幾乎和CPU一樣無處不在,這為在終端設備中提高人工智能處理能力創(chuàng)造了機會。例如我們希望看到智能安防攝像頭能夠熟練的監(jiān)控特定事件,不再局限于簡單的錄像,使用終端設備AI功能來處理識別視野內的一些特征,比如道路上的車輛或人群中的面孔。這也會衍生一些其他功能,比如確定車輛的制造商和型號、或者是某些人獲得授權。輸入結果可能不是可識別的視頻內容,可能只是描述這些結果的原始數(shù)據(jù)。將人工智能嵌入到安防攝像頭中甚至可以減少不靠譜情況的發(fā)生從而降低成本,因為攝像頭內的AI功能可以識別正常行為與可疑行為之間的區(qū)別。

雖然人工智能的應用數(shù)量在不斷增加,但這并不意味著集成神經(jīng)網(wǎng)特性的單個SoC是所有應用場景的發(fā)展方向。如果我們考慮讓人工智能涉及大部分細分市場,由于使用該技術的產品在加工要求上有很大的不同,自然會出現(xiàn)多樣化。分散的市場很難與通用的應用處理器一起結合使用,例如那些集成了NNA器件和GPU的處理器,事實上,“一刀切”的方式并不總是適用的。

雖然一些市場為SoC供應商提供了大量的機會,比如智能手機、汽車ADAS等,但是許多以使用AI為目標的市場需求量并不是很大。值得注意的是,一些產品可能需要人工智能來進行語音處理或圖像識別,但并非兩者都需要:智能照明系統(tǒng)供應商不太可能使用最初為智能手機而設計的SoC,僅僅是為了將人工智能引入到其應用中,這并不符合成本效益。解決這個問題的方法是創(chuàng)建專門的人工智能芯片,與主應用處理器一起作為配套芯片使用,這些器件可以承擔原來由主應用處理器上的NNA核心來處理的AI任務,這具有明顯的優(yōu)勢:SoC供應商可以提供一系列具有不同性能水平的終端AI器件;此外,OEM廠商還可以根據(jù)他們的期望在特定應用中處理AI任務,提供多個選項來適當?shù)臄U展或縮減產品解決方案。

那么人工智能市場將走向何方?我預計人們對人工智能的興趣和需求都將繼續(xù)增長,事實上,支撐這一目標的技術不斷變得成熟。相反,幾乎可以肯定的是,人們會意識到人工智能并不是解決所有問題的答案,炒作現(xiàn)象可能會有所減弱,許多公司也會轉移注意力。他們將會利用人工智能的潛力來增強系統(tǒng)的能力,但是人工智能未必是這些系統(tǒng)的運行核心。

更進一步說,真正的人工智能——機器擁有意識,能夠基于認知推理作出決策——這還需要10年或更長的時間。這意味著云互連在未來很多年都將至關重要,它不僅能提供必要的大規(guī)模并行計算資源(可能是通過量子機器),還能提供巨大的數(shù)據(jù)存儲,人工智能依靠這些數(shù)據(jù)來理解周圍的世界。更高帶寬的通信技術有望在2019年問世,尤其是5G和802.11ax標準,因此相信云AI架構和互連帶寬都將相應擴大。

PowerVR Series2NX架構

對于真正處于前沿的人工智能,我們需要構想出創(chuàng)新的方法來提高晶體管在硅片上的封裝密度,同時使其既具有通過學習獲得知識的能力又具備所需的推理技能,從而設計全新的SoC器件。

Imagination公司希望為芯片供應商提供關鍵的核心技術,從而構建世界領先的人工智能解決方案。PowerVR GPU提供了高性能的GPU計算能力,用于處理AI中的可視化操作,比如圖像識別和排序、手勢識別驅動接口以及實時視頻分析等。PowerVR NNA(神經(jīng)網(wǎng)絡加速器)是任何前沿人工智能解決方案的核心,為高級推理和邊緣數(shù)據(jù)處理提供必要的硬件加速。我們的GPU和NNA能夠為高性能的AI處理提供一切必要的技術并使硅芯片獲得優(yōu)勢。

人工智能的未來正在變得清晰…但是當它完成某些任務花費的時間比我們預期的時間要長時大家不要感到驚訝。

審核編輯 黃昊宇

聲明:本文內容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權轉載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內容侵權或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 芯片
    +關注

    關注

    460

    文章

    52520

    瀏覽量

    440989
  • 嵌入式
    +關注

    關注

    5152

    文章

    19675

    瀏覽量

    317606
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關推薦
    熱點推薦

    MAX78000采用超低功耗卷積神經(jīng)網(wǎng)絡加速度計的人工智能微控制技術手冊

    的Maxim超低功耗微控制相結合。通過這款基于硬件的卷積神經(jīng)網(wǎng)絡(CNN)加速器,即使是電池供電的應用也可執(zhí)行AI推理,同時功耗僅為微焦耳級。
    的頭像 發(fā)表于 05-08 11:42 ?293次閱讀
    MAX78000采用超低功耗卷積<b class='flag-5'>神經(jīng)網(wǎng)絡</b><b class='flag-5'>加速</b>度計的人工智能微控制<b class='flag-5'>器</b>技術手冊

    MAX78002帶有低功耗卷積神經(jīng)網(wǎng)絡加速器的人工智能微控制技術手冊

    的Maxim超低功耗微控制相結合。通過這款基于硬件的卷積神經(jīng)網(wǎng)絡(CNN)加速器,即使是電池供電的應用也可執(zhí)行AI推理,同時功耗僅為微焦耳級。
    的頭像 發(fā)表于 05-08 10:16 ?217次閱讀
    MAX78002帶有低功耗卷積<b class='flag-5'>神經(jīng)網(wǎng)絡</b><b class='flag-5'>加速器</b>的人工智能微控制<b class='flag-5'>器</b>技術手冊

    ETAS全新的嵌入式AI解決方案

    “將訓練后的AI神經(jīng)網(wǎng)絡模型,自動化生成安全且高效的C代碼,用于嵌入式系統(tǒng)” ,近日ETAS攜全新的智能化工具Embedded AI Coder亮相2025上海國際車展。
    的頭像 發(fā)表于 05-07 11:43 ?681次閱讀
    ETAS全新的<b class='flag-5'>嵌入式</b><b class='flag-5'>AI</b>解決方案

    【「芯片通識課:一本書讀懂芯片技術」閱讀體驗】從deepseek看今天芯片發(fā)展

    的: 神經(jīng)網(wǎng)絡處理器(NPU)是一種模仿人腦神經(jīng)網(wǎng)絡的電路系統(tǒng),是實現(xiàn)人工智能中神經(jīng)網(wǎng)絡計算的專用處理器,主要用于人工智能深度學習模型的
    發(fā)表于 04-02 17:25

    Banana Pi 發(fā)布 BPI-AI2N &amp; BPI-AI2N Carrier,助力 AI 計算與嵌入式開發(fā)

    RZ/V2N——近期在嵌入式世界2025上新發(fā)布,為 AI 計算、嵌入式系統(tǒng)及工自動提供強大支持。這款全新的計算平臺旨在滿足開發(fā)者和企業(yè)用
    發(fā)表于 03-19 17:54

    嵌入式AI加速器DRP-AI 詳細介紹

    深度神經(jīng)網(wǎng)絡中使用的人工智能(AI)已經(jīng)為IT領域提供了新的價值。雖然很多人期望用AI來實現(xiàn)嵌入式應用,但AI
    的頭像 發(fā)表于 03-15 16:13 ?1015次閱讀
    <b class='flag-5'>嵌入式</b><b class='flag-5'>AI</b><b class='flag-5'>加速器</b>DRP-<b class='flag-5'>AI</b> 詳細介紹

    BP神經(jīng)網(wǎng)絡與卷積神經(jīng)網(wǎng)絡的比較

    多層。 每一層都由若干個神經(jīng)元構成,神經(jīng)元之間通過權重連接。信號在神經(jīng)網(wǎng)絡中是前向傳播的,而誤差是反向傳播的。 卷積神經(jīng)網(wǎng)絡(CNN) : CNN主要由卷積層、池
    的頭像 發(fā)表于 02-12 15:53 ?670次閱讀

    BP神經(jīng)網(wǎng)絡與深度學習的關系

    ),是一種多層前饋神經(jīng)網(wǎng)絡,它通過反向傳播算法進行訓練。BP神經(jīng)網(wǎng)絡由輸入層、一個或多個隱藏層和輸出層組成,通過逐層遞減的方式調整網(wǎng)絡權重,目的是最小
    的頭像 發(fā)表于 02-12 15:15 ?863次閱讀

    卷積神經(jīng)網(wǎng)絡與傳統(tǒng)神經(jīng)網(wǎng)絡的比較

    在深度學習領域,神經(jīng)網(wǎng)絡模型被廣泛應用于各種任務,如圖像識別、自然語言處理和游戲智能等。其中,卷積神經(jīng)網(wǎng)絡(CNNs)和傳統(tǒng)神經(jīng)網(wǎng)絡是兩種常見的模型。 1. 結構差異 1.1 傳統(tǒng)
    的頭像 發(fā)表于 11-15 14:53 ?1878次閱讀

    Moku人工神經(jīng)網(wǎng)絡101

    不熟悉神經(jīng)網(wǎng)絡的基礎知識,或者想了解神經(jīng)網(wǎng)絡如何優(yōu)化加速實驗研究,請繼續(xù)閱讀,探索基于深度學習的現(xiàn)代智能實驗的廣闊應用前景。什么是神經(jīng)網(wǎng)絡
    的頭像 發(fā)表于 11-01 08:06 ?666次閱讀
    Moku人工<b class='flag-5'>神經(jīng)網(wǎng)絡</b>101

    關于卷積神經(jīng)網(wǎng)絡,這些概念你厘清了么~

    隨著人工智能(AI)技術的快速發(fā)展,AI可以越來越多地支持以前無法實現(xiàn)或者難以實現(xiàn)的應用。本文基于此解釋了 卷積神經(jīng)網(wǎng)絡 (CNN)及其對人工智能和機器學習的意義。CNN是一種能夠從
    發(fā)表于 10-24 13:56

    【飛凌嵌入式OK3576-C開發(fā)板體驗】RKNN神經(jīng)網(wǎng)絡-車牌識別

    LPRNet基于深層神經(jīng)網(wǎng)絡設計,通過輕量級的卷積神經(jīng)網(wǎng)絡實現(xiàn)車牌識別。它采用端到端的訓練方式,不依賴字符分割,能夠直接處理整張車牌圖像,并輸出最終的字符序列。這種設計提高了識別的實時性和準確性
    發(fā)表于 10-10 16:40

    【飛凌嵌入式OK3576-C開發(fā)板體驗】RKNPU圖像識別測試

    )公司開發(fā)的一種神經(jīng)網(wǎng)絡處理器(Neural Processing Unit),專門用于加速神經(jīng)網(wǎng)絡計算。以下是關于RKNPU的詳細介紹: 2.1、定義與功能 定義 :RKNPU是在電
    發(fā)表于 10-10 09:27

    【飛凌嵌入式OK3576-C開發(fā)板體驗】開箱報告

    工具,如sudo、git、gcc等。所以開發(fā)過程中需要安裝虛擬機,安裝UnbuntuPC端操作系統(tǒng)進行軟件開發(fā)。 但是其芯片和系統(tǒng)支持RKNN神經(jīng)網(wǎng)絡,市容RKNN-Toolkit2工具,可以將常用
    發(fā)表于 10-10 09:22

    聯(lián)想印度布局AI服務生產,加速AI技術本地化進程

    聯(lián)想集團近日宣布了一項重大戰(zhàn)略舉措,正式在印度南部啟動人工智能服務本地化生產,并配套在班加羅爾科技中心設立專注于AI服務的研發(fā)實驗室。此舉標志著聯(lián)想在全球
    的頭像 發(fā)表于 09-19 16:46 ?646次閱讀