在電影《飛屋環(huán)游記》中，男主人公用一大堆氣球?qū)⒆约旱男∧疚輲咸炜眨⑼ㄟ^增減氣球、手動(dòng)施力來改變氣球的飛行方向，去實(shí)現(xiàn)他未曾實(shí)現(xiàn)的夢(mèng)想．．．．．．

當(dāng)然，電影世界具有一定的幻想色彩。但是，如今還真有這樣一種巨型氣球，它雖然不能帶著小木屋飛上天空，卻更加智能、用處更大——讓全自動(dòng)環(huán)境實(shí)時(shí)監(jiān)測(cè)成為可能。

平流層氣球（stratospheric balloon），又稱高空氣球，可以在大氣平流層中自主飛行數(shù)月，具有低成本、高效益的特點(diǎn)，這使其成為通信、地球觀測(cè)、收集氣象數(shù)據(jù)和許多其他應(yīng)用的寵兒。但是，如何實(shí)現(xiàn)高空氣球的自主導(dǎo)航，一直是科學(xué)研究的一個(gè)難題。

近日，來自谷歌研究院（Google Research ）和 Alphabet 旗下公司 Loon 的研究人員組成的科研團(tuán)隊(duì)，成功開發(fā)出的一種基于深度強(qiáng)化學(xué)習(xí)的高性能人工智能控制器，能讓高空氣球一連數(shù)周待在原地，并根據(jù)環(huán)境因素進(jìn)行實(shí)時(shí)決策并實(shí)現(xiàn)自主導(dǎo)航。這一研究結(jié)果提高了全自動(dòng)環(huán)境監(jiān)測(cè)成為現(xiàn)實(shí)的可能性，代表深度強(qiáng)化學(xué)習(xí)向現(xiàn)實(shí)世界應(yīng)用邁進(jìn)了非常重要的一步。

該研究成果以“Autonomous navigation of stratospheric balloons using reinforcement learning”為題，于 12 月 3 日在線發(fā)表在頂級(jí)期刊 Nature 上。

續(xù)航瓶頸，無法滿足需求

高空氣球中應(yīng)用最廣泛的當(dāng)屬“超壓”氣球，氣球內(nèi)填充氦氣，常被用來在高層大氣開展實(shí)驗(yàn)。這些氣球遇到氣流風(fēng)時(shí)，往往會(huì)偏離航道，之后便只能返回地面駐點(diǎn)。而此次研究所采用的深度強(qiáng)化學(xué)習(xí)方法，可以訓(xùn)練人工智能系統(tǒng)進(jìn)行實(shí)時(shí)決策。對(duì)于超壓氣球來說，這些決策包括采取哪些行動(dòng)來保持其在空中的位置不變。

Loon 超壓氣球是谷歌于 2013 年成立的高空氣球項(xiàng)目的成果之一，旨在將其作為通信中繼平臺(tái)，為還未接入互聯(lián)網(wǎng)的偏遠(yuǎn)地區(qū)提供一種相對(duì)廉價(jià)的通信服務(wù)。傳統(tǒng)上，Loon 的上下垂直飛行通過泵出固定體積的氣囊來實(shí)現(xiàn)，而左右水平運(yùn)動(dòng)則由氣球所處位置的風(fēng)向所決定。因此，為了實(shí)現(xiàn)導(dǎo)航目的，飛行控制器必須通過上升和下降的方式，以找到并跟隨對(duì)其有利的氣流。

然而，這種簡(jiǎn)單的導(dǎo)航方式無法滿足氣球長時(shí)間（有時(shí)長達(dá)幾個(gè)月）控制的目標(biāo)。例如，傳統(tǒng)“控位法”（Station-keeping）需要將氣球固定在某個(gè)地面位置的正上方。為了完成這一任務(wù)，氣球就必須不斷地通過風(fēng)場(chǎng)變化采取間接飛行路徑，以保證位置不變。

圖|通過“控位法”保持超壓氣球位置。a） 超壓氣球在風(fēng)場(chǎng)航行的原理圖。氣球通過不斷移動(dòng)來保持在離駐點(diǎn)較近的地方。其高度范圍用上下虛線表示;b） 氣球飛行路徑平面示意圖。藍(lán)色區(qū)域表示駐點(diǎn)方圓 50 公里范圍。陰影箭頭代表風(fēng)場(chǎng)。風(fēng)場(chǎng)不斷變化，要求氣球?qū)崟r(shí)規(guī)劃路線。（來源：Nature）

不僅如此，氣球還需要在晝夜交替中管理自身電力，由于氣球下降時(shí)會(huì)使用存儲(chǔ)在電池中的太陽能，一旦電力不夠，氣球也就無法再自主控制飛行。另外，一個(gè)好的飛行控制器必須能夠權(quán)衡收集目標(biāo)觀測(cè)結(jié)果的性價(jià)比。因此，上述傳統(tǒng)控制技術(shù)本身非智能化的性質(zhì)就限制了其最終表現(xiàn)。

AI 賦能，帶來質(zhì)的飛躍

為提高超壓氣球的續(xù)航能力，論文作者之一、谷歌研究院科學(xué)家 Marc Bellemare 及其合作者訓(xùn)練了一種人工智能控制器，這種控制器能根據(jù)風(fēng)的歷史記錄、預(yù)報(bào)、局部風(fēng)向觀測(cè)以及氦氣損失和電池疲勞等其他因素，來實(shí)時(shí)決定氣球是否需要移動(dòng)。

首先，研究人員將 StationSeeker 算法用于這一人工智能控制器中。該算法為控制器提供了較好的“洞察力”，StationSeeker 會(huì)憑借風(fēng)向與駐點(diǎn)形成的銳角來跟蹤風(fēng)向，只要?dú)馇蛱幱隈v點(diǎn)范圍內(nèi)，它就會(huì)主動(dòng)去尋找移動(dòng)較為緩慢的氣流。

而后，研究人員對(duì)該控制器進(jìn)行了模擬訓(xùn)練，在模擬試驗(yàn)中使用強(qiáng)化學(xué)習(xí)來訓(xùn)練飛行控制器。強(qiáng)化學(xué)習(xí)擅長自動(dòng)產(chǎn)生控制策略，可以處理高維度的異質(zhì)數(shù)據(jù)，并在需要長期觀測(cè)時(shí)優(yōu)化對(duì)應(yīng)的控制策略。

為了獲得最先進(jìn)的控制器，研究人員結(jié)合了深度強(qiáng)化學(xué)習(xí)領(lǐng)域的最新進(jìn)展，即強(qiáng)調(diào)在學(xué)習(xí)過程中使用深度神經(jīng)網(wǎng)絡(luò)。該控制器使用的神經(jīng)網(wǎng)絡(luò)分為 7 層、每層具有 600 個(gè)校正線性單元，而且試驗(yàn)證明，使用較小的網(wǎng)絡(luò)或非分布算法會(huì)使得性能降低。

圖|神經(jīng)網(wǎng)絡(luò)規(guī)模對(duì) TWR50（氣球位于駐點(diǎn) 50 公里以內(nèi)范圍時(shí)節(jié)省的時(shí)間）的影響（來源：Nature）

此次模擬試驗(yàn)包括對(duì)超壓氣球控制器在一個(gè)固定的位置上進(jìn)行兩天模擬，在此期間，控制器以 3 分鐘的間隔接收輸入數(shù)據(jù)和發(fā)出命令。因此，飛行控制器能夠置身于晝夜循環(huán)場(chǎng)景中，這意味著氣球必須從艱難的夜間條件中恢復(fù)工作，且最終產(chǎn)生的飛行路徑則會(huì)接近真實(shí)場(chǎng)景。

最后，作者將該技術(shù)應(yīng)用到分布于全球各地的 Loon 氣球上，包括一項(xiàng)在太平洋上空進(jìn)行的為期 39 天的受控實(shí)驗(yàn)（共 2884 飛行小時(shí)）。分析結(jié)果證明，受到 StationSeeker 控制的氣球能夠成功實(shí)現(xiàn)自主導(dǎo)航，一旦被吹偏航道，它們能以比傳統(tǒng)控制器控制的氣球更快的速度回到駐點(diǎn)。

其中，控制器最佳表現(xiàn)達(dá)到 55．1% TWR50。要知道，1% 的性能提升相當(dāng)于節(jié)省 14．4 分鐘的返回時(shí)間，因此，這一差異相當(dāng)于每 24 小時(shí)內(nèi)的返回時(shí)間平均減少 3．5 小時(shí)。

毫無疑問，此次研究成功將人工智能強(qiáng)化學(xué)習(xí)方法應(yīng)用到了超壓氣球與環(huán)境的實(shí)時(shí)交互之中，拓寬了其在現(xiàn)實(shí)科學(xué)研究中的應(yīng)用。

正如牛津大學(xué)物理系教授 Scott Osprey 所說：“Marc Bellemare 和同事的成果代表了強(qiáng)化學(xué)習(xí)在現(xiàn)實(shí)世界應(yīng)用的一次巨大進(jìn)步。”

責(zé)任編輯：xj