邊緣AI與與機(jī)器學(xué)習(xí)

2025貿(mào)澤電子技術(shù)創(chuàng)新論壇

2025年，隨著人工智能技術(shù)的快速發(fā)展，邊緣AI與機(jī)器學(xué)習(xí)市場迎來飛速增長，據(jù)Gartner預(yù)計(jì)，2025年至2030年，邊緣AI市場將保持23%的復(fù)合年增長率。

隨著物聯(lián)網(wǎng)裝置的普及、5G技術(shù)的推動以及技術(shù)融合、行業(yè)應(yīng)用深化、算力提升與成本降低、以及各種因素共同推動了邊緣AI的發(fā)展。

為支持邊緣AI以及機(jī)器學(xué)習(xí)的應(yīng)用與發(fā)展趨勢，貿(mào)澤電子聯(lián)合國際知名制造商，Amphenol、Analog Devices、NXP、Silicon Labs、Vicor等五家供應(yīng)商，從算力、神經(jīng)網(wǎng)絡(luò)、供電架構(gòu)變化、高速信號連接等不同角度，闡述了各自特色方案以及最新的科技成果。

供應(yīng)商方案選擇

1Analog Devices

基于邊緣低功耗的AI MCU

圖1：ADI 微控制器產(chǎn)品概覽
（圖源：ADI）

隨著物聯(lián)網(wǎng)設(shè)備爆發(fā)式增長，海量數(shù)據(jù)在邊緣側(cè)積累， 75%的數(shù)據(jù)將產(chǎn)生在邊緣，邊緣AI進(jìn)入快速發(fā)展期。AI芯片作為實(shí)現(xiàn)邊緣AI的核心，是AI的硬件基礎(chǔ)。

近年來，Analog Devices致力于將人工智能推向邊緣端，實(shí)現(xiàn)ML/DL融入邊緣智能。邊緣AI在靠近用戶本地的終端邊緣執(zhí)行AI運(yùn)算，而不是將數(shù)據(jù)集中在云或數(shù)據(jù)中心進(jìn)行處理，具備實(shí)時(shí)性好、帶寬資源要求低、隱私性高等優(yōu)勢，應(yīng)用于智能家居、人臉識別、語音控制等領(lǐng)域。

MAX7800X是ADI的經(jīng)典產(chǎn)品， 具備獨(dú)特架構(gòu)，采用兩個(gè)控制器內(nèi)核（ARM Cortex-M4F、RISC-V）一個(gè)卷積神經(jīng)網(wǎng)絡(luò)加速器。這一架構(gòu)針對邊緣進(jìn)行了高度優(yōu)化，而AI推理由卷積神經(jīng)網(wǎng)絡(luò)加速器專門負(fù)責(zé)，使AI推理可以無需聯(lián)網(wǎng)的前提下就在邊緣完成，以及微控制器內(nèi)核在完成加載和啟動后就無需操作進(jìn)而大幅降低功耗。

與基于微控制器的純軟件方案相比，ADI MAX7800X方案具備更高的數(shù)據(jù)吞吐量，速度提高了100倍，成本僅是FPGA或GPU解決方案的1/10。以及相比于傳統(tǒng)MCU加DSP的方案，ADI方案的功耗是該方案的百分之一。

因此，ADI可以在功耗、速度、成本三個(gè)方面達(dá)成最優(yōu)的平衡，加上其小尺寸的優(yōu)勢，是邊緣AI應(yīng)用的理想選擇。MAX7800X的應(yīng)用領(lǐng)域主要在視覺識別、聲音識別、監(jiān)測識別等三方面。

除了AI專用MCU，ADI還具有更廣泛的通用MCU產(chǎn)品系列，包括：安全MCU、低功耗MCU以及低功耗藍(lán)牙MCU。MAX32660低功耗MCU可用于收集掃地機(jī)器人的傳感器數(shù)據(jù)。由于其低功耗特性，可以延長掃地機(jī)器人的電池使用時(shí)間，減少充電頻率，提升用戶體驗(yàn)。同時(shí)，其高集成度可以減少掃地機(jī)器人內(nèi)部的組件數(shù)量，從而簡化硬件設(shè)計(jì)，降低應(yīng)用成本?。

2NXP

具有機(jī)器學(xué)習(xí)功能的MCU

圖2：NXP 邊緣計(jì)算平臺（圖源：NXP）

AI與邊緣計(jì)算正深刻改變我們的生活，然而，隨著AI應(yīng)用場景的不斷擴(kuò)展，傳統(tǒng)云計(jì)算在實(shí)時(shí)性、隱私保護(hù)和帶寬方面逐漸暴露出瓶頸，毫秒級的延遲可能導(dǎo)致重要決策失誤。邊緣計(jì)算應(yīng)運(yùn)而生，成為解決這些問題的技術(shù)關(guān)鍵。

通過將數(shù)據(jù)處理移至更靠近數(shù)據(jù)源的設(shè)備端，邊緣計(jì)算實(shí)現(xiàn)了更低延遲、更高安全性和更高效率的AI計(jì)算。這一技術(shù)轉(zhuǎn)型的核驅(qū)動力之一就是具有機(jī)器學(xué)習(xí)功能的微控制器，賦予小型化設(shè)備強(qiáng)大的計(jì)算能力，降低了數(shù)據(jù)傳輸?shù)难舆t與成本，同時(shí)提升了隱私安全性，使AI能夠在更多場景中落地。

i.MX RT系列是NXP推出的全球首款跨界MCU，把應(yīng)用在簡單、實(shí)時(shí)性要求較高場合的MCU，與具備更為全面的拓展性，可以進(jìn)行更為復(fù)雜運(yùn)算的MPU的特點(diǎn)相結(jié)合，使其兼具應(yīng)用處理器的高集成度、擴(kuò)展性和高性能，以及微控制器的易用性、低功耗和實(shí)時(shí)性，從而實(shí)現(xiàn)MCU和MPU的優(yōu)勢互補(bǔ)，打破原先MCU和MPU的界限。

基于i.MX RT系列的強(qiáng)大性能，擴(kuò)寬了傳統(tǒng)MCU應(yīng)用領(lǐng)域的疆界，使得原先只能使用MPU的應(yīng)用領(lǐng)域也能對i.MX RT系列開放，所以從這個(gè)角度來說，i.MX RT系列重新定義了MCU，該系列產(chǎn)品可廣泛應(yīng)用于數(shù)字消費(fèi)、樓宇智能、電機(jī)缺相檢測、物體檢測等領(lǐng)域。

MCXN947微控制器，采用兩個(gè)Arm Cortex-M33內(nèi)核，主頻150MHz，此外還為CM33配備了DSP協(xié)處理器；除了CM33核外，還有兩個(gè)專用的處理單元，分別是NXP自研的NPU N1-16和Coolflux BSP32。內(nèi)部搭載了2MB的Flash，雙Bank設(shè)計(jì)，能支持同時(shí)讀寫以及512K SRAM支持ECC，其FlexSPI控制器能夠連接外部串行NOR/NAND，極大地?cái)U(kuò)展了容量上限。其NPU能夠提供高達(dá)30倍的機(jī)器學(xué)習(xí)吞吐量提升，從而減少系統(tǒng)喚醒的時(shí)間，并且降低整體功耗。

MCXN947的ML性能可以勝任復(fù)雜的深度學(xué)習(xí)模型，例如人臉識別或語音識別功能、配備生物傳感器的智能可穿戴設(shè)備等。在多人臉識別應(yīng)用中，基于MCXN947方案，通過攝像頭采集圖像，顯示在屏幕中，并利用NPU進(jìn)行機(jī)器學(xué)習(xí)運(yùn)算，識別人臉信息，并通過方框展示。在多人體檢測方案中，基于MCXN947方案，可以從攝像頭啊啊獲取圖像并顯示在LCD屏幕上，然后使用集成的NPU處理和識別人員信息。

NXP還提供了eIQ深度學(xué)習(xí)軟件開發(fā)環(huán)境，包括構(gòu)建和優(yōu)化云訓(xùn)練ML模型所需的工具，可在資源受限的邊緣節(jié)點(diǎn)設(shè)備中高效運(yùn)行。具有專門面向語音、視覺和異常檢測應(yīng)用領(lǐng)域，完整的、接近量產(chǎn)的解決方案。eIQ可提供開發(fā)人員在邊緣設(shè)備中實(shí)施ML所需的構(gòu)件塊。

NXP的eIQ的ML不斷發(fā)展，持續(xù)進(jìn)行擴(kuò)展以包括下列功能：數(shù)據(jù)采集和管理工具；適用于神經(jīng)網(wǎng)絡(luò)框架和推理引擎的模型轉(zhuǎn)換功能，例如TensorFlow Lite、Caffe2、CNTK和Arm NN；并支持NN編譯器，以及在NXO異構(gòu)的嵌入式處理器上部署處理模型的工具。

3Silicon Labs

構(gòu)建邊緣AI的嵌入式技術(shù)

圖3：Silicon Labs 無線SoC方案（圖源：Silicon labs）

AI與物聯(lián)網(wǎng)的加速融合是大勢所趨，支持AIoT的嵌入式控制器可以使設(shè)備在邊緣實(shí)時(shí)地收集、分析和處理數(shù)據(jù)，而無需來回與物聯(lián)網(wǎng)網(wǎng)絡(luò)進(jìn)行連接，從而提高效率，節(jié)省資源，并增強(qiáng)安全性。

隨著AI大模型、邊緣計(jì)算等應(yīng)用快速發(fā)展，對邊緣設(shè)備、終端設(shè)備的本地處理能力提出了越來越高的要求，這就使得算力開始從云端向設(shè)備端下沉，在設(shè)備中加入AI功能成為廠商日益迫切的需求。面對這些挑戰(zhàn)，Silicon Labs推出了多款技術(shù)方案，可以滿足當(dāng)前和未來物聯(lián)網(wǎng)邊緣設(shè)備與終端設(shè)備的處理能力要求。

xG24、xG26等多款SoC和MCU中集成了專用的人工智能/機(jī)器學(xué)習(xí)加速器，實(shí)現(xiàn)了處理速度和能效的顯著提升。

在安全性方面， Silicon Labs獲得PSA 3級認(rèn)證的Secure Vault安全技術(shù)和ARM TrustZone技術(shù)相結(jié)合，可以為芯片構(gòu)建最高級別的安全性，能夠有效防止數(shù)據(jù)泄露、非法獲取和模型篡改等安全問題發(fā)生。

BG24低功耗藍(lán)牙SoC 是低功耗電池供電設(shè)備的理想選擇，可提供低功耗、卓越的無線電性能和先進(jìn)的安全功能，并支持使用AoA、AoD和信道探測進(jìn)行藍(lán)牙方向查找，以實(shí)現(xiàn)精確的方向查找和距離測量。

BG24具有強(qiáng)大的處理能力和內(nèi)存容量，可滿足復(fù)雜RTLS應(yīng)用的需求，同時(shí)滿足未來的功能要求。BG24專為需要長時(shí)間運(yùn)行而不頻繁充電的電池供電設(shè)備而設(shè)計(jì)。

通過支持藍(lán)牙測向功能，BG24可以確定來自多個(gè)天線的輸入信號的方向和距離，從而實(shí)現(xiàn)設(shè)備的精確定位。此外，BG24還通過 Secure Vault 充分利用行業(yè)領(lǐng)先的安全功能，確保用戶安全和保護(hù)RTLS 系統(tǒng)內(nèi)的數(shù)據(jù)完整性。

MG26 SoC采用多核ARM Cortex-M33 CPU實(shí)現(xiàn)了更高的計(jì)算性能，可以為射頻與安全子系統(tǒng)提供專用內(nèi)核，有助于為客戶應(yīng)用釋放出主內(nèi)核。

MG26使用其嵌入式加速器實(shí)現(xiàn)了AI/ML功能，進(jìn)一步增強(qiáng)了在預(yù)測性維護(hù)、異常檢測、關(guān)鍵詞檢測、視覺以及越來越多的跨物聯(lián)網(wǎng)應(yīng)用等關(guān)鍵任務(wù)中的性能。

與MG24系列產(chǎn)品相比，閃存、RAM和GPIO容量都增加了一倍，可以支持物聯(lián)網(wǎng)設(shè)備制造商開發(fā)先進(jìn)的邊緣應(yīng)用，利用更大、更精確的機(jī)器學(xué)習(xí)模型來提高性能。MG26還支持處理更大的機(jī)器學(xué)習(xí)工作負(fù)載，如更高分辨率的視覺。其嵌入式AI/ML硬件加速功能使機(jī)器學(xué)習(xí)算法的處理速度提高了8倍，與在CPU上運(yùn)行同樣應(yīng)用相比，功耗僅需1/6。

Silicon Labs還提供完整的SoC開發(fā)工具，xG24 EFR32BG24藍(lán)牙無線SoC開發(fā)套件，緊湊、功能豐富的開發(fā)平臺，設(shè)計(jì)用于支持EFR32無線Gecko片上系統(tǒng)，支持Matter、Zigbee、低功耗藍(lán)牙、藍(lán)牙網(wǎng)狀網(wǎng)絡(luò)、專有和多協(xié)議操作并提供PSA 3級Secure Vault安全保護(hù)，同時(shí)推出AI和機(jī)器學(xué)習(xí)軟件，以幫助開發(fā)人員實(shí)現(xiàn)AI/ML在物聯(lián)網(wǎng)邊緣設(shè)備上的應(yīng)用。

結(jié)語

隨著數(shù)據(jù)的處理需求與復(fù)雜性也隨之上升，傳統(tǒng)的云計(jì)算模式，因延遲性、帶寬限制及隱私保護(hù)等方面等問題，已難以滿足實(shí)時(shí)數(shù)據(jù)處理的要求。

在此背景下，邊緣AI作為一種將AI算法與機(jī)器學(xué)習(xí)模型直接部署于邊緣設(shè)備上的方案，有效彌補(bǔ)了傳統(tǒng)云計(jì)算模式的瓶頸。

相較于傳統(tǒng)云計(jì)算需要將數(shù)據(jù)上傳至云端再進(jìn)行處理的過程，邊緣AI憑借其將計(jì)算與推斷能力部署在更接近數(shù)據(jù)源的優(yōu)勢，能夠更迅速、更安全地提供數(shù)據(jù)處理與決策能力，同時(shí)強(qiáng)化了對數(shù)據(jù)隱私的保護(hù)。這些特性使得人工智能技術(shù)能夠更加流暢、自然地融入各類邊緣設(shè)備及多元化的應(yīng)用場景之中，具有更大的發(fā)展?jié)摿Α?/p>