物聯(lián)網(wǎng)（IoT）不僅改變我們的日常生活，還會(huì)影響我們?nèi)祟惿鐣?huì)的點(diǎn)點(diǎn)滴滴。從智能家居到未來(lái)的工廠，聯(lián)網(wǎng)設(shè)備的數(shù)量持續(xù)快速增長(zhǎng)。據(jù)IDC估計(jì)，到2025年將有超過(guò)557億的入網(wǎng)設(shè)備，其中75%將連接到物聯(lián)網(wǎng)平臺(tái)。這將導(dǎo)致這些設(shè)備生成的數(shù)據(jù)流，預(yù)估從2019年的18.3 ZB增長(zhǎng)到2025年73.1 ZB。屆時(shí)，AI（人工智能）的高效算法將會(huì)在不同方面有效克服物聯(lián)網(wǎng)部署及應(yīng)用中的挑戰(zhàn)。人工智能和物聯(lián)網(wǎng)設(shè)備的優(yōu)勢(shì)能夠確保對(duì)數(shù)據(jù)的系統(tǒng)性計(jì)算分析，但也帶來(lái)延遲和安全漏洞等問(wèn)題?，F(xiàn)在技術(shù)已經(jīng)可以在成功創(chuàng)建分布式智能動(dòng)態(tài)網(wǎng)絡(luò)的同時(shí)實(shí)現(xiàn)數(shù)據(jù)的實(shí)時(shí)處理。

什么是AIoT？

智能物聯(lián)網(wǎng)（AIoT）是一個(gè)相對(duì)較新的術(shù)語(yǔ)，但已風(fēng)靡全球。它是新興技術(shù)中的兩大巨頭——人工智能（AI）和物聯(lián)網(wǎng)（IoT）的結(jié)合，旨在實(shí)現(xiàn)更高效的物聯(lián)網(wǎng)運(yùn)營(yíng)、改善人機(jī)交互并增進(jìn)數(shù)據(jù)管理和分析。物聯(lián)網(wǎng)是由相互連接的設(shè)備組成，由眾多的傳感器，生成并收集大量數(shù)據(jù)。人工智能能夠讓機(jī)器基于之前的經(jīng)驗(yàn)來(lái)執(zhí)行任務(wù)。它也可以將物聯(lián)網(wǎng)數(shù)據(jù)轉(zhuǎn)換為有用的信息，然后適時(shí)有效地使用這些數(shù)據(jù)做適當(dāng)?shù)臎Q策。人工智能和物聯(lián)網(wǎng)具有互惠關(guān)系——人工智能得益于“大數(shù)據(jù)”的可用性，而物聯(lián)網(wǎng)則受益于機(jī)器學(xué)習(xí)的能力。

在AIoT中，AI可以嵌入到IoT基礎(chǔ)設(shè)施組件中，并使用API（應(yīng)用程序接口）來(lái)實(shí)現(xiàn)這些處于不同層級(jí)組件之間的操互性和可靠性。這種運(yùn)行機(jī)制側(cè)重于改進(jìn)系統(tǒng)以及網(wǎng)絡(luò)的功能性和可操作性，通過(guò)數(shù)據(jù)管理抽取背后的價(jià)值。由于人工智能、物聯(lián)網(wǎng)的系統(tǒng)結(jié)合，數(shù)據(jù)分析的價(jià)值隨著“智能”的介入而提升。例如，物聯(lián)網(wǎng)邊緣生成的數(shù)據(jù)，可以讓機(jī)器自主地在邊緣完成任務(wù)。為了更清楚地說(shuō)明AI和IoT的互融，下圖顯示了數(shù)據(jù)的生命周期。物聯(lián)網(wǎng)負(fù)責(zé)使用感知層中的傳感器捕獲數(shù)據(jù)。然后在網(wǎng)絡(luò)層中進(jìn)行數(shù)據(jù)傳輸，接著通過(guò)數(shù)據(jù)聚合把數(shù)據(jù)集成在一起。再通過(guò)物聯(lián)網(wǎng)平臺(tái)對(duì)集成數(shù)據(jù)跟進(jìn)分析。最后，根據(jù)分析結(jié)果，在業(yè)務(wù)/應(yīng)用層做相應(yīng)操作。物聯(lián)網(wǎng)的本質(zhì)價(jià)值是由應(yīng)用層“決策”的價(jià)值決定的，這主要取決于上一步以人工智能為背景介入的“數(shù)據(jù)分析”的結(jié)果。

人工智能：為物聯(lián)網(wǎng)增值

將人工智能從云端集成到物聯(lián)網(wǎng)甚至到物聯(lián)網(wǎng)的節(jié)點(diǎn)端，可以進(jìn)一步改善運(yùn)營(yíng)狀態(tài)和整體系統(tǒng)效率，支持物聯(lián)網(wǎng)可擴(kuò)展性并通過(guò)有效的風(fēng)險(xiǎn)管理降低風(fēng)險(xiǎn)。盡最大可能減少緊急停機(jī)狀況，來(lái)幫助降低總運(yùn)營(yíng)成本，反過(guò)來(lái)意味著提高可用性。

要能在節(jié)點(diǎn)上做高效的AI推斷，需要一種革新性的方式來(lái)管理信息：積累相關(guān)數(shù)據(jù)，并在本地設(shè)備上做出決策。

為了在節(jié)點(diǎn)采用更有效的人工智能（AI）、機(jī)器學(xué)習(xí)（ML）或深度學(xué)習(xí)（DL），你需要好用的硬件來(lái)執(zhí)行核心系統(tǒng)任務(wù)以及相關(guān)算法，同時(shí)還要滿足對(duì)性能和功耗的需求。為物聯(lián)網(wǎng)IoT設(shè)計(jì)而生的微控制器，集成所需CPU性能、智能又省電的外設(shè)和強(qiáng)壯的硬件安全引擎，能有效幫助AIoT的應(yīng)用。然而，除了硬件本身，我們還需要經(jīng)過(guò)優(yōu)化的支持機(jī)器學(xué)習(xí)模型的中間件，才能確保AIoT應(yīng)用在這些資源受限設(shè)備上的順利運(yùn)行。

基于物聯(lián)網(wǎng)微控制器單元組成的智能物聯(lián)網(wǎng)設(shè)備，它在物聯(lián)網(wǎng)邊緣負(fù)責(zé)收集和處理大量數(shù)據(jù)。從邊緣到云端的數(shù)據(jù)傳輸、數(shù)據(jù)處理需要更優(yōu)的性能、安全的通信，以及高能效。將能耗保持在非常低的水平是大規(guī)模部署物聯(lián)網(wǎng)設(shè)備的重要環(huán)節(jié)。微型機(jī)器學(xué)習(xí)TinyML可以在嵌入式節(jié)點(diǎn)設(shè)備上優(yōu)化并且高效運(yùn)行復(fù)雜的AI/ML模型。

?

現(xiàn)在讓我們更深入地了解TinyML的演進(jìn)和在節(jié)點(diǎn)設(shè)備上的應(yīng)用，以及AIoT在不同階段的應(yīng)用情況。

第1階段

人工智能和云端服務(wù)

起初，只在云端做神經(jīng)網(wǎng)絡(luò)訓(xùn)練和托管機(jī)器學(xué)習(xí)模型，這勢(shì)必需要強(qiáng)大的算力以及復(fù)雜的任務(wù)管理能力。微控制器單元在物聯(lián)網(wǎng)中負(fù)責(zé)管理傳感器和執(zhí)行器。如下圖所示，在云端運(yùn)行的AI模型所需的數(shù)據(jù)，是源于物聯(lián)網(wǎng)，而將海量數(shù)據(jù)傳輸?shù)皆贫说倪^(guò)程中，會(huì)給網(wǎng)絡(luò)帶寬帶來(lái)很大壓力。導(dǎo)致的傳輸延遲和資源耗損，恰恰不適合實(shí)時(shí)控制和關(guān)鍵的安全應(yīng)用。

AI and the Cloud

第2階段

人工智能和邊緣計(jì)算

為了提高系統(tǒng)效率和決策能力，我們現(xiàn)在能夠在物聯(lián)網(wǎng)邊緣網(wǎng)關(guān)或終端節(jié)點(diǎn)本地運(yùn)行AI模型。然而，對(duì)于資源受限的邊緣設(shè)備，機(jī)器學(xué)習(xí)模型的訓(xùn)練仍然需要在云端進(jìn)行。經(jīng)過(guò)訓(xùn)練后的模型部署在邊緣設(shè)備中。這種方式得益于云端超強(qiáng)的算力（用于訓(xùn)練）和邊緣計(jì)算的低延遲性（更及時(shí)的執(zhí)行）。

AI and the Edge

第3階段

端點(diǎn)的智能嵌入

在這個(gè)階段，物聯(lián)網(wǎng)產(chǎn)品的設(shè)計(jì)人員將機(jī)器學(xué)習(xí)模塊直接嵌入到微控制器中；不再需要邊緣網(wǎng)關(guān)或者云端去做決策響應(yīng)。

Embedding intelligence at the Endpoint

但是，必須確保在微控制器單元MCU上運(yùn)行的此類機(jī)器學(xué)習(xí)模型足夠的輕量化，以實(shí)現(xiàn)更快的執(zhí)行效果。這就是TinyML發(fā)揮作用的地方，因?yàn)樗恍枰芏噘Y源即可工作，特別適合物聯(lián)網(wǎng)資源受限設(shè)備。簡(jiǎn)而言之，TinyML有助于優(yōu)化資源、降低成本、提高能效和數(shù)據(jù)安全性，并最終降低系統(tǒng)延遲。這催生了分布式智能，并加速AIoT在各種應(yīng)用領(lǐng)域的擴(kuò)展。

?

瑞薩可以幫助實(shí)現(xiàn)高效AIoT解決方案的一些例子：

• 工業(yè)領(lǐng)域中可預(yù)測(cè)維護(hù)：在設(shè)備中嵌入相關(guān)機(jī)器學(xué)習(xí)模型將有助于實(shí)時(shí)檢測(cè)問(wèn)題并采取相應(yīng)措施。

• 模式識(shí)別：這是一種圖像或語(yǔ)音識(shí)別模型，可以在檢測(cè)到某些單詞或指令時(shí)讓系統(tǒng)做出改變。

• 智能醫(yī)療：智能預(yù)診、醫(yī)療狀況監(jiān)測(cè)和實(shí)時(shí)分析、高效圖像識(shí)別進(jìn)行快速治療等等。

• 可穿戴智能設(shè)備：應(yīng)用種類繁多，從智能手表到運(yùn)動(dòng)追蹤器，以及各種監(jiān)控設(shè)備。

智能物聯(lián)網(wǎng)AIoT的出現(xiàn)跨越了許多新技術(shù)和應(yīng)用，為人類生活的各個(gè)領(lǐng)域開(kāi)啟了前所未有的可能性。為更廣泛地采用AIoT，需要在連接性、安全性和先進(jìn)技術(shù)開(kāi)發(fā)方面進(jìn)行協(xié)作和標(biāo)準(zhǔn)化，以此來(lái)解決所面對(duì)的各種困難。

在廣泛開(kāi)發(fā)數(shù)十億智能設(shè)備的過(guò)程中，它創(chuàng)造了前所未有的新業(yè)務(wù)流和新應(yīng)用。讓我們釋放創(chuàng)造力，因?yàn)樗鼤?huì)給我們帶來(lái)超乎想象的未來(lái)。