●當(dāng)前機(jī)器學(xué)習(xí)落地挑戰(zhàn)●

近二十年來(lái)，機(jī)器學(xué)習(xí)已廣泛應(yīng)用于數(shù)據(jù)挖掘、計(jì)算機(jī)視覺(jué)、自然語(yǔ)言處理、生物特征識(shí)別、搜索引擎、醫(yī)學(xué)診斷、檢測(cè)信用卡欺詐、證券市場(chǎng)分析、DNA序列測(cè)序、語(yǔ)音和手寫識(shí)別、戰(zhàn)略游戲和機(jī)器人等領(lǐng)域。

在實(shí)際業(yè)務(wù)落地過(guò)程中，大部分大型云平臺(tái)提供商均已提供機(jī)器學(xué)習(xí)算力等資源服務(wù)，同時(shí)支持多種機(jī)器學(xué)習(xí)框架等以提供開(kāi)放靈活的部署環(huán)境。但是，機(jī)器學(xué)習(xí)模型所需的數(shù)據(jù)往往并非從云平臺(tái)中產(chǎn)生，而是從傳感器、手機(jī)、網(wǎng)關(guān)等邊緣設(shè)備中產(chǎn)生。數(shù)據(jù)從邊側(cè)產(chǎn)生，而云端需從邊側(cè)采集數(shù)據(jù)以訓(xùn)練和不斷完善機(jī)器學(xué)習(xí)模型。

在實(shí)際落地時(shí)，當(dāng)前機(jī)器學(xué)習(xí)需面對(duì)以下問(wèn)題：

1、海量設(shè)備數(shù)據(jù)導(dǎo)致延遲和成本問(wèn)題

假設(shè)即使有100 Mbps的專網(wǎng)連接，將10TB的數(shù)據(jù)運(yùn)送到云端也需要10天。面對(duì)大量邊緣連接設(shè)備每天生成數(shù)百兆字節(jié)甚至TB數(shù)據(jù)，帶來(lái)的延遲和成本對(duì)客戶和服務(wù)提供方來(lái)說(shuō)往往是難以承受的；

2、數(shù)據(jù)壓縮導(dǎo)致的延遲和精度問(wèn)題

正因遷移所有數(shù)據(jù)通常不切實(shí)際，往往需要對(duì)數(shù)據(jù)進(jìn)行“壓縮”(如特征工程、難例識(shí)別等)并傳輸?shù)皆贫耍鴶?shù)據(jù)壓縮過(guò)程容易引入新的延遲。壓縮數(shù)據(jù)不一定能完全代表完整數(shù)據(jù)集信息，容易導(dǎo)致精度損失。

3、邊側(cè)數(shù)據(jù)隱私和計(jì)算實(shí)時(shí)性問(wèn)題

邊側(cè)數(shù)據(jù)與資源等具備地理分布性。隱私和網(wǎng)絡(luò)瓶頸導(dǎo)致數(shù)據(jù)集天然分割, 傳統(tǒng)集中式機(jī)器學(xué)習(xí)在邊緣情況下性能將顯著下降；單個(gè)邊側(cè)資源受限且異構(gòu)（算力、供電、場(chǎng)地等均受限），相對(duì)云上資源建設(shè)與維護(hù)成本更高。

上述問(wèn)題的本質(zhì)來(lái)源是數(shù)據(jù)在邊緣產(chǎn)生，而算力卻在云端更為充足。也就是說(shuō)，機(jī)器學(xué)習(xí)服務(wù)將邊緣產(chǎn)生的數(shù)據(jù)轉(zhuǎn)換為知識(shí)的過(guò)程中，一方面需要在邊緣快速響應(yīng)并處理本地產(chǎn)生的數(shù)據(jù)，另一方面需要云上算力與開(kāi)發(fā)環(huán)境的支持。隨著邊緣設(shè)備數(shù)量指數(shù)級(jí)增長(zhǎng)以及設(shè)備性能的提升，邊云協(xié)同機(jī)器學(xué)習(xí)應(yīng)運(yùn)而生，以期打通機(jī)器學(xué)習(xí)的最后一公里。

●邊云協(xié)同機(jī)器學(xué)習(xí)落地有哪些挑戰(zhàn)●

目前邊云協(xié)同機(jī)器學(xué)習(xí)的經(jīng)典模式是：在云上給定一個(gè)數(shù)據(jù)集運(yùn)行機(jī)器學(xué)習(xí)算法構(gòu)建一個(gè)模型，然后將這個(gè)模型不作更改應(yīng)用在多個(gè)邊側(cè)的多次推理任務(wù)上。這種學(xué)習(xí)范式稱為封閉學(xué)習(xí)（也稱孤立學(xué)習(xí) [1]），因?yàn)樗⑽纯紤]其他情景學(xué)習(xí)到的知識(shí)和過(guò)去學(xué)習(xí)到的歷史知識(shí)。雖然邊云協(xié)同機(jī)器學(xué)習(xí)技術(shù)的相關(guān)研究和應(yīng)用都有著顯著的進(jìn)展，然而在成本、性能、安全方面仍有諸多挑戰(zhàn)：數(shù)據(jù)孤島/小樣本/數(shù)據(jù)異構(gòu)/資源受限[2]。

在邊緣云背景下：（1）不同邊側(cè)數(shù)據(jù)分布總是不斷變化，（2）而邊側(cè)標(biāo)注樣本也往往由于成本較高導(dǎo)致數(shù)量稀少。因而封閉學(xué)習(xí)需不停標(biāo)注樣本并重新訓(xùn)練，這顯然給服務(wù)落地帶來(lái)巨大挑戰(zhàn)。這種數(shù)據(jù)分布和數(shù)據(jù)量上的挑戰(zhàn)分配稱為數(shù)據(jù)異構(gòu)和小樣本，屬于邊云協(xié)同機(jī)器學(xué)習(xí)的四大挑戰(zhàn)。

本文以一個(gè)熱舒適預(yù)測(cè)服務(wù)例子介紹相應(yīng)挑戰(zhàn)，如圖1所示。該服務(wù)輸入外界溫度等環(huán)境特征，預(yù)測(cè)不同人員的熱舒適程度（熱、舒適、冷）。由于邊緣節(jié)點(diǎn)部署位置從室外變動(dòng)到室內(nèi)，對(duì)于相同室外溫度特征值x=30，可以看到實(shí)際標(biāo)注的熱舒適標(biāo)注發(fā)生了較大變動(dòng)。這原有室外模型上線預(yù)測(cè)值整體偏低，要匹配到室內(nèi)模型，則需要訓(xùn)練樣本重新調(diào)整。也就是說(shuō)，面對(duì)分布動(dòng)態(tài)變化的邊緣側(cè)數(shù)據(jù)，由于沒(méi)有記憶歷史和不同情景任務(wù)知識(shí)，封閉學(xué)習(xí)需要頻繁重新訓(xùn)練。

●邊云協(xié)同機(jī)器學(xué)習(xí)挑戰(zhàn)如何解決●

從上面的討論可以了解到，當(dāng)前的封閉學(xué)習(xí)范式可被用于提供數(shù)據(jù)同構(gòu)和大數(shù)據(jù)的服務(wù)，但難以處理數(shù)據(jù)異構(gòu)和小樣本的問(wèn)題，所以并不合適用于建立通用的機(jī)器學(xué)習(xí)系統(tǒng)。伊利諾伊大學(xué)芝加哥分校的劉兵教授也在Frontiers of Computer Science中總結(jié)，封閉學(xué)習(xí)范式一系列局限性的根本在于沒(méi)有記憶，這導(dǎo)致它通常需要大量的訓(xùn)練樣本。

對(duì)應(yīng)的范式改進(jìn)可以從人類的學(xué)習(xí)過(guò)程中得到啟發(fā)?？梢钥吹?，人類之所以能夠越學(xué)越聰明，是由于每個(gè)人并非自我封閉地學(xué)習(xí)，而是不斷地積累過(guò)去學(xué)習(xí)的知識(shí)，并利用其他人的知識(shí)，學(xué)習(xí)更多知識(shí) [1]。借鑒人類這種學(xué)習(xí)機(jī)制，終身學(xué)習(xí)結(jié)合邊云協(xié)同可以發(fā)展出邊云協(xié)同終身學(xué)習(xí)。

邊云協(xié)同終身學(xué)習(xí)

在邊側(cè)同時(shí)結(jié)合了多任務(wù)學(xué)習(xí)和增量學(xué)習(xí)特性來(lái)處理新情景下數(shù)據(jù)異構(gòu)和小樣本的問(wèn)題；

借助云側(cè)知識(shí)庫(kù)來(lái)記憶新情景知識(shí)；

從根本上解決上述邊云協(xié)同機(jī)器學(xué)習(xí)的挑戰(zhàn)。

●邊云協(xié)同終身學(xué)習(xí)概念●

基于1995年提出的終身學(xué)習(xí)概念[3]，Sedna進(jìn)一步定義邊云協(xié)同終身學(xué)習(xí)為邊云協(xié)同的多機(jī)器學(xué)習(xí)任務(wù)持續(xù)學(xué)習(xí)。其中機(jī)器學(xué)習(xí)任務(wù)是指在特定情境下運(yùn)用的模型，如中譯英（給定漢語(yǔ)翻譯為英語(yǔ)）、亞洲植物分類等。

正式定義如下：

邊云協(xié)同終身學(xué)習(xí)：

給定云側(cè)知識(shí)庫(kù)中N個(gè)歷史訓(xùn)練任務(wù)，推理持續(xù)到來(lái)的當(dāng)前任務(wù)和未來(lái)M個(gè)邊側(cè)任務(wù)，并持續(xù)更新云側(cè)知識(shí)庫(kù)。其中，M趨向于無(wú)窮大，同時(shí)邊側(cè)M個(gè)推理任務(wù)不一定在云側(cè)知識(shí)庫(kù)N個(gè)歷史訓(xùn)練任務(wù)當(dāng)中。

具體來(lái)說(shuō)，邊云協(xié)同終身學(xué)習(xí)的一般流程如圖2所示：

初始化知識(shí)庫(kù)：在云側(cè)知識(shí)庫(kù)中存儲(chǔ)和維護(hù)過(guò)去N個(gè)任務(wù)（記為第T-N到T-1個(gè)任務(wù)）中訓(xùn)練并累積的知識(shí)。

學(xué)習(xí)當(dāng)前任務(wù)：在邊側(cè)設(shè)備面對(duì)當(dāng)前任務(wù)（記為第T個(gè)任務(wù)）時(shí)，基于云側(cè)知識(shí)庫(kù)先驗(yàn)知識(shí)訓(xùn)練第T個(gè)任務(wù)。注意，第T個(gè)任務(wù)并不一定在歷史的N個(gè)任務(wù)當(dāng)中。

更新知識(shí)庫(kù)：將學(xué)習(xí)到的邊側(cè)第T個(gè)任務(wù)知識(shí)反饋到云側(cè)知識(shí)庫(kù)并更新。

學(xué)習(xí)未來(lái)任務(wù)：持續(xù)學(xué)習(xí)未來(lái)M個(gè)任務(wù)（記為第T+1到T+M個(gè)任務(wù)）。與上面第T個(gè)任務(wù)利用過(guò)去N個(gè)任務(wù)知識(shí)（從T-N到T-1）類似，第T+1個(gè)任務(wù)的邊側(cè)任務(wù)知識(shí)則利用過(guò)去N+1個(gè)云側(cè)任務(wù)知識(shí)（從T-N到T）。以此類推，直到完成第T+M個(gè)任務(wù)，結(jié)束整個(gè)流程。

邊云協(xié)同終身學(xué)習(xí)具備以下三大特點(diǎn)：

邊云協(xié)同持續(xù)學(xué)習(xí)：能夠基于云側(cè)算力和邊側(cè)數(shù)據(jù)合作完成持續(xù)推理與訓(xùn)練，能夠在推理運(yùn)行時(shí)變得越來(lái)越擅長(zhǎng)模型訓(xùn)練。

以云側(cè)知識(shí)庫(kù)為中心的邊側(cè)知識(shí)共享：以云側(cè)知識(shí)庫(kù)作為中心，實(shí)現(xiàn)跨邊的知識(shí)共享并處理邊側(cè)任務(wù)，同時(shí)持久化與維護(hù)云端知識(shí)。

邊側(cè)處理云側(cè)未知任務(wù)：需要邊側(cè)能夠發(fā)現(xiàn)和處理云端知識(shí)庫(kù)未知任務(wù)。其中未知任務(wù)是指運(yùn)行或測(cè)試過(guò)程中發(fā)現(xiàn)的新任務(wù)，比如其應(yīng)用情景或模型在知識(shí)庫(kù)當(dāng)前知識(shí)之外。

●Sedna邊云協(xié)同終身學(xué)習(xí)特性●

KubeEdge 是一個(gè)開(kāi)源的邊緣計(jì)算平臺(tái)，它在Kubernetes原生的容器編排和調(diào)度能力之上，擴(kuò)展實(shí)現(xiàn)了邊云協(xié)同、計(jì)算下沉、海量邊緣設(shè)備管理、邊緣自治等能力。KubeEdge還將通過(guò)插件的形式支持5G MEC、AI云邊協(xié)同等場(chǎng)景，目前在很多領(lǐng)域都已落地應(yīng)用[3]。

KubeEdge AI SIG于20年12月發(fā)布KubeEdge子項(xiàng)目開(kāi)源平臺(tái)Sedna，架構(gòu)如圖3所示。Sedna基于KubeEdge提供的邊云協(xié)同能力，實(shí)現(xiàn)AI的跨邊云協(xié)同訓(xùn)練和協(xié)同推理能力。支持現(xiàn)有AI類應(yīng)用無(wú)縫下沉到邊緣，快速實(shí)現(xiàn)跨邊云的增量學(xué)習(xí)，聯(lián)邦學(xué)習(xí)，協(xié)同推理等能力，最終降低邊云協(xié)同機(jī)器學(xué)習(xí)服務(wù)構(gòu)建與部署成本、提升模型性能、保護(hù)數(shù)據(jù)隱私等[2]。

在本次0.3版本更新中，Sedna提供了邊云協(xié)同終身學(xué)習(xí)的特性支持。Sedna終身學(xué)習(xí)特性將基于邊側(cè)數(shù)據(jù)和云側(cè)算力，逐步實(shí)現(xiàn)適應(yīng)邊側(cè)業(yè)務(wù)與模型異構(gòu)的高可信自動(dòng)化人工智能。

Sedna的邊云協(xié)同終身學(xué)習(xí)作業(yè)分為三個(gè)階段：訓(xùn)練、評(píng)估和部署，維護(hù)一個(gè)全局可用的知識(shí)庫(kù)（KB）服務(wù)于每個(gè)終身學(xué)習(xí)任務(wù)。架構(gòu)如圖4所示：

啟動(dòng)訓(xùn)練worker基于開(kāi)發(fā)者的AI基模型和訓(xùn)練數(shù)據(jù)集進(jìn)行多任務(wù)遷移學(xué)習(xí)，實(shí)現(xiàn)任務(wù)的知識(shí)歸納，包括：樣本屬性、AI模型、模型超參等。

訓(xùn)練完成對(duì)知識(shí)庫(kù)的更新后啟動(dòng)對(duì)評(píng)估數(shù)據(jù)集的評(píng)估worker，基于部署者定義的評(píng)估策略判斷符合下發(fā)部署的任務(wù)模型。

GM捕獲評(píng)估任務(wù)的完成狀態(tài)后通知Edge初始化啟動(dòng)InferenceService進(jìn)行推理服務(wù)。應(yīng)用調(diào)用模型推理接口進(jìn)行推理，并進(jìn)行未知任務(wù)上云判別。

通過(guò)對(duì)接第三方打標(biāo)系統(tǒng)和基于知識(shí)庫(kù)的遷移學(xué)習(xí)，LC基于預(yù)配置規(guī)則監(jiān)聽(tīng)新數(shù)據(jù)變化并按配置的策略觸發(fā)訓(xùn)練worker進(jìn)行增量學(xué)習(xí)，重訓(xùn)練完成后重新下發(fā)邊緣側(cè)。

其中，當(dāng)前Sedna選用的模塊化方案和樣本遷移方案使得開(kāi)源的邊云協(xié)同終身學(xué)習(xí)特性能夠?qū)崿F(xiàn)模型無(wú)關(guān)：

同一個(gè)特性能夠同時(shí)支持結(jié)構(gòu)化和非結(jié)構(gòu)化不同模型，在特性中模型可插拔；

同一個(gè)特性能夠同時(shí)支持分類、回歸、目標(biāo)檢測(cè)、異常檢測(cè)等。

●基于Sedna終身學(xué)習(xí)實(shí)現(xiàn)樓宇熱舒適預(yù)測(cè)控制●

背景

智能樓宇是智慧城市的重要組成部分

樓宇是大量先進(jìn)工業(yè)產(chǎn)品的“使用方”，引領(lǐng)其制造、運(yùn)行和維護(hù)，在這一波能源革命和工業(yè)革命占據(jù)重要地位。

現(xiàn)今樓宇都有自控系統(tǒng)，通常它們都在邊緣，這使得很多關(guān)于樓宇的應(yīng)用更傾向于部署在邊緣側(cè)，其中一類應(yīng)用是熱舒適度預(yù)測(cè)。由于人們80%的工作和生活都在樓宇中度過(guò)，提高工作效率和生活舒適度（如通過(guò)樓宇智能化等方式）就顯得尤為重要[6]。

熱舒適度預(yù)測(cè)服務(wù)于智能樓宇

熱舒適度被定義為樓宇中的人對(duì)環(huán)境冷熱的滿意程度。它提供了一種定量的評(píng)估，把室內(nèi)冷熱環(huán)境參數(shù)的設(shè)定與人的主觀評(píng)估聯(lián)系起來(lái)。而提高樓宇中辦公或者居住人員的熱舒適程度是建筑及其系統(tǒng)設(shè)計(jì)方案中的一個(gè)重要考量。在空調(diào)系統(tǒng)運(yùn)作時(shí)，一旦熱舒適度被預(yù)測(cè)出來(lái)，那么就能將其用于調(diào)整樓宇內(nèi)空調(diào)的控制策略。比方說(shuō)，一種基于熱舒適度的控制策略，是基于假定的空調(diào)參數(shù)設(shè)定以及溫濕度等環(huán)境特征下，給出預(yù)計(jì)的人體熱舒適程度。然后搜索尋優(yōu)出舒適度最高的空調(diào)設(shè)定。所以，這種情況下要實(shí)現(xiàn)舒適度最大的空調(diào)控制就依賴于較高精度的舒適度預(yù)測(cè)。

原有熱舒適度的預(yù)測(cè)要么需要房間中安裝額外設(shè)備，要么需要人工反饋。部署環(huán)境復(fù)雜、人工操作頻繁使得這種情況下熱舒適度的采集準(zhǔn)確度非常低。據(jù)此，基于機(jī)器學(xué)習(xí)的熱舒適度預(yù)測(cè)方法被提出，它能降低部署要求、不需要人工反饋，因而更具備實(shí)用價(jià)值。

熱舒適度預(yù)測(cè)服務(wù)實(shí)際部署時(shí)數(shù)據(jù)異構(gòu)和小樣本問(wèn)題較為突出

由于人員個(gè)體差異、房間與城市差異等，不同個(gè)體、不同地點(diǎn)對(duì)于熱舒適的感受是不一樣的，那么就會(huì)導(dǎo)致相同的環(huán)境溫度和空調(diào)設(shè)定下對(duì)應(yīng)的人員的熱舒適度標(biāo)簽值不一樣，從而導(dǎo)致較為突出的數(shù)據(jù)異構(gòu)問(wèn)題。

熱舒適度預(yù)測(cè)主要針對(duì)樓宇中的房間人員個(gè)體，具有個(gè)性化的特點(diǎn)。在環(huán)境因素變化較多的情況下，邊側(cè)房間人員個(gè)體的熱舒適度樣本通常有限，往往不足以支撐對(duì)單個(gè)人員進(jìn)行個(gè)性化模型的訓(xùn)練，從而導(dǎo)致較為突出的小樣本問(wèn)題。

除了小樣本問(wèn)題之外，增量學(xué)習(xí)也能夠一定程度解決歷史與當(dāng)前情景的數(shù)據(jù)異構(gòu)（時(shí)間上的數(shù)據(jù)異構(gòu)）。但這種邊云協(xié)同增量學(xué)習(xí)范式通常不具備用于記憶的知識(shí)庫(kù)，導(dǎo)致很難處理非時(shí)間上的數(shù)據(jù)異構(gòu)。比方說(shuō)，對(duì)于有多個(gè)人員的房間，在同一時(shí)刻會(huì)存在不同人員上的數(shù)據(jù)異構(gòu)。由于這種情況就不僅僅是同一個(gè)人不同時(shí)間上的數(shù)據(jù)異構(gòu)了，增量學(xué)習(xí)變得不太足夠。此時(shí)就需要使用邊云協(xié)同終身學(xué)習(xí)了。

方案

邊云協(xié)同終身學(xué)習(xí)的熱舒適預(yù)測(cè)方案主要有如下兩個(gè)步驟：

1、創(chuàng)建舒適度預(yù)測(cè)終身學(xué)習(xí)任務(wù)

舒適度預(yù)測(cè)終身學(xué)習(xí)任務(wù)被創(chuàng)建后，Sedna知識(shí)庫(kù)中會(huì)生成舒適度預(yù)測(cè)的知識(shí)庫(kù)實(shí)例，知識(shí)庫(kù)會(huì)利用多地點(diǎn)多人員的歷史數(shù)據(jù)集進(jìn)行初始化，并提供推理和更新接口給邊側(cè)應(yīng)用。

2、部署邊云協(xié)同舒適度預(yù)測(cè)應(yīng)用

舒適度預(yù)測(cè)應(yīng)用被部署后，應(yīng)用會(huì)通過(guò)邊側(cè)的設(shè)備數(shù)據(jù)采集接口獲取到多聯(lián)機(jī)空調(diào)系統(tǒng)的設(shè)定參數(shù)和當(dāng)前溫濕度等環(huán)境特征信息。應(yīng)用通過(guò)調(diào)用Sedna Lib庫(kù)終身學(xué)習(xí)接口，從知識(shí)庫(kù)中尋找對(duì)應(yīng)的任務(wù)信息：

如果被判定為已知任務(wù)，比如說(shuō)是已經(jīng)出現(xiàn)過(guò)的人員在已知的溫濕度條件下，則直接獲取對(duì)應(yīng)模型進(jìn)行推理；

如果被判定為未知任務(wù)，比如說(shuō)是新來(lái)的人員，則通過(guò)知識(shí)庫(kù)來(lái)獲取針對(duì)未知任務(wù)的模型進(jìn)行推理。并且會(huì)將這些模型和模型之間關(guān)系寫入到知識(shí)庫(kù)中，以完成知識(shí)庫(kù)的更新操作，使得知識(shí)庫(kù)得到積累。

效果

本案例中的方案在開(kāi)源AshraeThermal Comfort II數(shù)據(jù)集上可取得非常好的效果。在這個(gè)開(kāi)源數(shù)據(jù)集中，收錄了全球28個(gè)國(guó)家99個(gè)城市1995~2015年之間樓宇內(nèi)人員熱舒適真實(shí)數(shù)據(jù)，目標(biāo)是構(gòu)建一個(gè)機(jī)器學(xué)習(xí)分類模型，給定環(huán)境特征，預(yù)測(cè)人群的熱傾向（Thermal Preference）。熱傾向分為三類，希望更冷（覺(jué)得熱）、不希望變更（覺(jué)得舒適）、希望更熱（覺(jué)得冷）。

整體分類精度與單任務(wù)增量學(xué)習(xí)對(duì)比，相對(duì)提升5.12%（其中多任務(wù)提升1.16%）。其中，在Kota Kinabalu和Athens兩個(gè)任務(wù)，在使用終身學(xué)習(xí)前后預(yù)測(cè)效果在Kota Kinabalu數(shù)據(jù)中預(yù)測(cè)率相對(duì)提升24.04%，在Athens數(shù)據(jù)中預(yù)測(cè)率相對(duì)提升13.73%。

原文標(biāo)題：產(chǎn)品動(dòng)態(tài)| 支持邊云協(xié)同終身學(xué)習(xí)特性，KubeEdge子項(xiàng)目Sedna 0.3.0版本發(fā)布！

文章出處：【微信公眾號(hào)：華為開(kāi)發(fā)者社區(qū)】歡迎添加關(guān)注！文章轉(zhuǎn)載請(qǐng)注明出處。

責(zé)任編輯：haq