2月27日消息，電氣和電子工程師協(xié)會（IEEE）在其官網(wǎng)分享了一家名為Cartesiam的法國B2B軟件開發(fā)公司的研發(fā)成果，該公司創(chuàng)立于2016年，主要面向人工智能（AI）研發(fā)嵌入式系統(tǒng)，讓普通的Arm微控制器都能運行無監(jiān)督學習AI。

在幾年前，隨著物聯(lián)網(wǎng)傳感器和產(chǎn)品的泛濫，人們曾認為這些數(shù)據(jù)將通過數(shù)百億個智能傳感器傳遞到云端，接著云端的AI和其他軟件系統(tǒng)將對數(shù)據(jù)進行理解并處理。

但這在Cartesiam聯(lián)合創(chuàng)始人兼總經(jīng)理Marc Dupaquier看來，這個數(shù)據(jù)處理方案并不可行。

“從能源和成本的角度來看，傳輸所有的數(shù)據(jù)將耗費較高的成本，同時還增加了事件和系統(tǒng)反饋之間的等待時間，危及數(shù)據(jù)的隱私和使用，因此它也并不安全?！癕arc Dupaquier說到。

而這，也成為了Cartesiam成立的緣由。2017年，該公司成立研發(fā)團隊，計劃重寫所有機器學習和信號處理算法，以便用戶可以在任何Arm Cortex M微控制器中去執(zhí)行AI算法。

▲Cartesiam公司的四位合作伙伴

一、無需專業(yè)知識就可實現(xiàn)機器學習推理和預測

Marc Dupaquier認為，將AI放在邊緣端進行處理，是Cartesiam等一些創(chuàng)企和大公司長期以來的目標之一。

“但就工具、數(shù)據(jù)和專業(yè)知識而言，實際構(gòu)建嵌入式系統(tǒng)和程序微控制器的研發(fā)人員，卻無法很好地利用它。”Marc Dupaquier談到。

因此，Cartesiam研發(fā)了一個名為NanoEdge AI Studio的軟件系統(tǒng)，該系統(tǒng)能夠安全地生成AI算法，并且生成的算法只需兩分鐘就可在Arm微處理器上運行，容量大小僅為4～16KB RAM。

具體來說，NanoEdge AI Studio軟件解決方案能夠在Windows 10或Linux Ubuntu系統(tǒng)上運行，幫助開發(fā)人員輕松地生成機器學習靜態(tài)庫，以嵌入在任何Arm微控制器上運行的主程序中，并直接在微控制器內(nèi)部進行機器學習、推理和預測。

實際上，整個使用過程，幾乎都無需研發(fā)人員具備數(shù)學、機器學習、數(shù)據(jù)科學等其他神經(jīng)網(wǎng)絡知識。其中，系統(tǒng)生成的機器學習靜態(tài)庫包含一個AI模型，該模型能夠在學習階段逐步收集信息，從而能夠檢測到潛在的異常及其行為，并對其進行預測。

▲NanoEdge AI Studio軟件解決方案操作示例

二、深度學習需求數(shù)據(jù)量大，專業(yè)開發(fā)人員短缺

Marc Dupaquier表示，NanoEdge AI Studio能夠讓任何嵌入式設(shè)計人員，都能快速開發(fā)特定應用程序的機器學習庫，并在微控制器內(nèi)部運行程序。

“其中涉及到的機器學習類型就是無監(jiān)督學習，實際上它是我們公司取得成功的關(guān)鍵?！盡arc Dupaquier說。

無監(jiān)督學習屬于機器學習的子類，通常用于大量無標簽的數(shù)據(jù)挖掘，其訓練數(shù)據(jù)沒有人工提前去進行標注，需要機器自己通過某一特征去尋找海量數(shù)據(jù)中的相關(guān)結(jié)構(gòu)。

而現(xiàn)在大部分人臉識別或路標識別的機器學習，都屬于卷積神經(jīng)網(wǎng)絡，即深度學習。深度學習需要通過數(shù)據(jù)集進行成百上千次訓練，并在訓練完成后被移植到功能較弱的計算機中。

但Marc Dupaquier認為，在微控制器控制的傳感器領(lǐng)域中，深度學習所需要的大量被標注數(shù)據(jù)集很難生成，同時數(shù)據(jù)科學領(lǐng)域的AI專業(yè)人才又十分稀少。

根據(jù)市場研究機構(gòu)IDC數(shù)據(jù)，即使生成的數(shù)據(jù)能夠使用，但只有不到1%的嵌入式開發(fā)人員擁有AI技能。與此同時，Marc Dupaquier透露公司的大多數(shù)客戶也并不了解AI。

因此，Cartesiam研發(fā)的NanoEdge AI Studio軟件系統(tǒng)，則嘗試通過利用無監(jiān)督學習技術(shù)，來解決研究人員在以往深度學習訓練過程中所面臨的標記數(shù)據(jù)集問題。

三、無監(jiān)督學習的數(shù)字孿生樣本應用

基于深度學習的大量數(shù)據(jù)需求，以及具備專業(yè)AI技能的嵌入式開發(fā)人員短缺，Cartesiam的NanoEdge AI Studio軟件系統(tǒng)采用的無監(jiān)督學習方案，則很好地解決了這一困境。

據(jù)了解，NanoEdge AI Studio的無監(jiān)督學習能夠為傳感器提供數(shù)字孿生樣本，分別為兩分鐘的正常操作樣本和異常操作樣本。同時，該系統(tǒng)還能幫助用戶選擇最佳的AI算法來構(gòu)建網(wǎng)絡，并將這些算法移植到嵌入式控制器的內(nèi)存中。

當傳感器在環(huán)境中運行時，它會同時檢測正常情況，并觀察數(shù)據(jù)中是有存在有意義的偏差。最終，它還能夠在問題出現(xiàn)之前進行預測。

值得一提的是，Cartesiam已經(jīng)與許多利用Arm Cortex-M來制造設(shè)備公司建立了合作關(guān)系，其中就包括法國專業(yè)級工業(yè)電子制造商Eolane。

Eolane與Cartesiam合作推出了一款名為Bob Assistant的溫度/振動傳感器，主要用于預測工業(yè)維修。目前，該解決方案已經(jīng)被許多歐洲客戶所采用，成為首個大規(guī)模部署的工業(yè)4.0預測性維護解決方案。

▲Bob Assistant

Marc Dupaquier談到，由于周圍環(huán)境的特殊性，每個傳感器的微處理器上的神經(jīng)網(wǎng)絡可能會有所不同。“因為學習是在設(shè)備上進行的，所以它將學習該機器的運作模式。同時，AI也正在將機器的數(shù)字孿生植入到微控制器中。”他談到。

結(jié)語：助力低功耗芯片的機器學習應用

將機器學習嵌入低功耗、低資源處理器中，是許多創(chuàng)企和半導體公司的一直以來不斷精進研發(fā)和創(chuàng)新的動力之一。

實際上，很多公司也正在使用專門的計算機架構(gòu)、內(nèi)存計算方案和其他硬件技術(shù)，以生產(chǎn)運行深度學習和其他網(wǎng)絡的低功耗芯片。

今年2月初，Arm也推出了一款機器學習加速處理器Cortex-M5，其數(shù)字信號處理器性能提升了5倍，機器學習性能提升至15倍。同時，它與微神經(jīng)網(wǎng)絡處理器Ethos U55配合使用，還能將機器學習性能提高480倍。

值得一提的是，Arm透露Cartesiam已經(jīng)獲得了測試新硬件的機會。屆時，Arm的新款機器學習處理器與Cartesiam的NanoEdge AI Studio軟件系統(tǒng)，又將擦出什么火花？我們拭目以待。