目前,無人機(UAV)或空中機器人正處于快速發(fā)展時期,基于YOLO算法的目標檢測性能在工業(yè)上已達到較高水平,該算法仍需要不斷改進。無人機可以攜帶各種設(shè)備來完成不同的任務(wù)。這些任務(wù)的例子包括噴灑液體藥物,測繪,物流運輸,災(zāi)害管理,航空攝影以及播種肥料或種子?;赮OLO算法的物體檢測技術(shù)已經(jīng)能夠?qū)崿F(xiàn)人類行為分析,面罩識別,醫(yī)療診斷分析,自動駕駛,交通評估,多目標跟蹤和機器人視覺。然而,無人機面臨復(fù)雜的場景或工作需要與地面控制終端保持良好的數(shù)據(jù)通信,因此無人機技術(shù)的創(chuàng)新和發(fā)展可能會受到某些應(yīng)用環(huán)境的限制。然而,無人機面臨復(fù)雜的場景或工作需要與地面控制終端保持良好的數(shù)據(jù)通信,因此無人機技術(shù)的創(chuàng)新和發(fā)展可能會受到某些應(yīng)用環(huán)境的限制。此外,基于YOLO算法的目標檢測技術(shù)需要部署到高性能處理器中,并與圖像或視頻數(shù)據(jù)結(jié)合使用,這對使用場景提出了一定的要求。這兩種技術(shù)可以結(jié)合起來,創(chuàng)造出一種新技術(shù)——基于YOLO的無人機技術(shù)(YBUT)。無人機為YOLO算法提供了更多的應(yīng)用場景,YOLO算法可以幫助無人機完成更多新穎的任務(wù)。通過這種方式,無人機技術(shù)和YOLO算法可以進一步促進人們的日常生活,同時為各自行業(yè)的生產(chǎn)力做出貢獻。
隨著無人機技術(shù)的不斷成熟,世界各國的無人機數(shù)量每年都在增加,根據(jù)全球商用無人機的年銷量和銷量統(tǒng)計,如圖1所示,到2025年,全球?qū)⒂屑s679,000架無人機,市場規(guī)模約為5億美元。全球無人機數(shù)量如此之多,如果無人機可以作為空中平臺部署YOLO算法,就有可能使無人機更有價值。
圖1全球商用無人機年銷量和銷量統(tǒng)計
YOLO是一種廣泛使用的深度學習算法,因為它是一種基于分類/回歸的對象檢測方法,賦予算法核心優(yōu)勢:結(jié)構(gòu)非常簡單,模型體積小,計算速度快。自引入YOLO以來(截至2023年2月)經(jīng)過七年的發(fā)展,研究人員發(fā)布了YOLO算法的七個版本?;赮OLO的目標檢測算法的機制是將輸入圖像調(diào)整為相同的大小,然后將圖像分成大小相等的S×S網(wǎng)絡(luò)單元,每個單獨的網(wǎng)絡(luò)單元都可以檢測其中的對象。如果檢測到的目標的中心落入網(wǎng)絡(luò)像元中,則該網(wǎng)絡(luò)像元將對目標進行預(yù)測。每個網(wǎng)絡(luò)小區(qū)可能有N個檢測框,每個檢測框不僅計算自己的位置,還做出預(yù)測分數(shù)。分數(shù)表示檢測目標存在于預(yù)測網(wǎng)絡(luò)單元中的可能性。由于網(wǎng)絡(luò)單元中可能有多個框,YOLO將自動選擇得分最高的目標類別進行預(yù)測,如圖2所示。
圖2 基于YOLOv7的無人機技術(shù)架構(gòu)圖(BN:批量歸一化層;AF:激活函數(shù)層)
利用中英文搜索引擎(如Web of Science、中國國家知識基礎(chǔ)設(shè)施)對檢索結(jié)果進行分析,得到中英文期刊在相關(guān)領(lǐng)域的主要研究主題。迄今為止,計算機視覺技術(shù)已經(jīng)開發(fā)了各種各樣的算法,其中YOLO算法是在2016年提出的,然后在2017年由Jiang等人首次應(yīng)用,他們將YOLO算法與無人機相結(jié)合。此后,YOLO算法和無人機融合技術(shù)不斷發(fā)展,相關(guān)研究成果或應(yīng)用激增。該技術(shù)也已從探索性實驗轉(zhuǎn)變?yōu)閷W術(shù)研究熱點(見圖3)。
圖3在頂級期刊和會議上發(fā)表的論文數(shù)量(2017-2022)
根據(jù)我們對YBUT應(yīng)用領(lǐng)域的調(diào)查,英文期刊中該領(lǐng)域熱門話題的信息匯總為餅圖,如圖4中的調(diào)查結(jié)果所示。從餅圖可以看出,熱門話題主要集中在技術(shù)研究、工程和運輸?shù)刃袠I(yè),發(fā)表的論文或會議文獻的數(shù)量代表了研究人員的興趣。我們還調(diào)查了該領(lǐng)域熱門話題的中國期刊,發(fā)現(xiàn)它們更關(guān)注技術(shù)研究、工程和自動化領(lǐng)域。隨著無人機技術(shù)和YOLO算法的不斷發(fā)展,這項技術(shù)開始在大多數(shù)領(lǐng)域進行探索,在少數(shù)領(lǐng)域,已經(jīng)取得了一些成功。YBUT的發(fā)展和研究一直是頂級期刊和會議的熱門話題,現(xiàn)在該技術(shù)的實際應(yīng)用正逐漸引起他們的興趣。
圖4 YBUT的應(yīng)用領(lǐng)域調(diào)查:(a)英文期刊的熱門領(lǐng)域,(b)中文期刊的熱門領(lǐng)域
在YBUT應(yīng)用的早期階段,主要工作機制是通過無人機采集圖像或視頻數(shù)據(jù),然后由運行基于YOLO的目標檢測算法的計算機進行目標檢測,識別和分類。為了探索從無人機捕獲的圖像中檢測車輛的方法,以應(yīng)用于交通監(jiān)控和管理,并且由于深度學習算法在目標檢測中顯示出顯著的優(yōu)勢,研究人員嘗試將基于YOLO的目標檢測算法應(yīng)用于無人機圖像中的車輛檢測。Jiang等在無人機上集成了熱紅外成像傳感器和可見光成像傳感器,構(gòu)建了多源數(shù)據(jù)采集系統(tǒng),通過特征點提取和單響應(yīng)矩陣方法對圖像進行校正和對齊,然后對多源數(shù)據(jù)進行圖像融合。最后,他們利用深度學習YOLO算法進行數(shù)據(jù)訓練和車輛檢測(見圖5)。
圖5Jiang等人提出的方法流程圖
此外,Ruan等人試圖使用深度學習和基于視覺的drogue檢測和定位方法來解決復(fù)雜環(huán)境中無人機自主空中加油霧滴的準確檢測和定位問題。他們使用經(jīng)過訓練的YOLO算法進行錐形軌跡檢測,在確定基準位置后使用最小二乘橢圓擬合來確定橢圓的長半軸,最后使用單目視覺相機進行椎體下垂定位(見圖6)。
圖6Drogue檢測方法
隨著YBUT的不斷發(fā)展,新一代無人機配備了豐富的計算資源高性能處理器,其中部署了基于YOLO的目標檢測算法,允許處理器在無人機收集數(shù)據(jù)時實時檢測,識別和分類任務(wù)對象。Zhang等人為了探索新一代技術(shù)的可行性,將YOLOv3算法嵌入到資源有限的NVIDIA Jason TX1平臺環(huán)境中(見圖7),并讓無人機攜帶嵌入式平臺進行實時行人檢測實驗。
圖7四旋翼監(jiān)測無人機
Alam等人為了減輕無人機機載嵌入式處理器的計算壓力,增強YBUT的實用性,提出了一種高性價比的空中監(jiān)視系統(tǒng),該系統(tǒng)保留了機載嵌入式處理器Movidius VPU上有限的Tiny-YOLO計算需求,將大型Tiny-YOLO計算任務(wù)轉(zhuǎn)移到云端,并保持無人機與云之間的最小通信。與其他最先進的方法相比,該系統(tǒng)在每秒幀數(shù)的目標檢測處理速度方面快六倍,同時機載嵌入式處理器技術(shù)的應(yīng)用降低了端到端延遲和網(wǎng)絡(luò)資源消耗(見圖8)。
圖8由Alam等人完成系統(tǒng)設(shè)計
Doukhi等人使用了配備Nvidia Jetson TX2高性能嵌入式處理器和PID控制器的無人機。然后,他們將YOLOv3算法部署在嵌入式處理器中,利用基于YOLO的目標檢測算法直觀地引導(dǎo)無人機跟蹤檢測到的目標,同時使用PID控制器控制無人機飛行。實驗結(jié)果表明,所提方法僅通過魚眼相機成功實現(xiàn)了定位和無人機跟蹤飛行的視覺SLAM,無需外部定位傳感器或引入GPS信號(見圖9)。
圖9 基于深度學習的運動控制軟件架構(gòu)。圖中紅色圓圈表示YOLOv3算法中的輸入RGB圖像,橙色圓圈表示YOLOv3算法的計算過程,藍色圓圈表示YOLOv3算法檢測到的目標和邊界框數(shù)據(jù)
Afifi等人提出了一個用于多場景行人檢測的強大框架,該框架使用YOLO-v3物體檢測作為骨干檢測器(見圖10),并在無人機上的Nvidia Jetson TX2嵌入式處理器上運行。來自多個室外行人檢測場景的實驗結(jié)果表明,與YOLOv3算法相比,隨著嵌入式處理器計算資源的增加,所提出的檢測框架在mAP和FPS方面表現(xiàn)出更好的性能。
圖10 行人檢測框架的工作流程
YBUT已應(yīng)用較為成熟的研究領(lǐng)域是輸電線路檢測、建筑表面檢測、動目標跟蹤、儀表顯示讀數(shù)、光伏組件檢測、建筑識別與分類。根據(jù)目前的調(diào)查,YBUT在工程領(lǐng)域的應(yīng)用研究中,研究人員更喜歡傳輸線檢測的方向。在復(fù)雜環(huán)境中可以準確識別、分類和定位電力線桿、絕緣子、電氣元件、配電線桿、輸電塔、鳥巢和斷路器等物體。例如,Bao等人提出了一種端到端并行混合注意力檢測YOLO網(wǎng)絡(luò)(PMA-YOLO),通過無人機收集傳輸線減振器數(shù)據(jù),然后創(chuàng)建一個數(shù)據(jù)集來訓練和測試模型;結(jié)果表明,該模型能夠檢測異常減振器,準確率為93.8%(見圖11)。
圖11 PMA-YOLO網(wǎng)絡(luò)檢測異常減振器的實驗結(jié)果?!吧P”、“有缺陷”和“正?!弊枘崞鞯牡孛鎸崨r框和預(yù)測框分別以黃色、紅色、藍色和綠色顯示
最近,Alsanad等人提出了一種改進的YOLOv3算法,用于低空空域的小型無人機檢測;實驗表明,所公開的改進算法模型能夠有效檢測復(fù)雜環(huán)境下的低空無人機(見圖12),并可成功應(yīng)用于反無人機研究領(lǐng)域管理低空空域無人機。基于已有研究,該方法進一步提高了YBUT的低空小型無人機探測性能。
圖12 改進的YOLOv3無人機檢測算法結(jié)果
為了進一步管理和約束生活中的各種運輸方式,BUT在運輸領(lǐng)域進行了多次嘗試。例如,F(xiàn)eng等人提出了一種基于YOLOv3的無人機檢測方法(見圖13)。
圖13 基于城市道路視頻的車輛檢測結(jié)果
Omar等人提出了一種基于YOLOv4算法的航拍圖像車輛檢測方法(見圖14)。
圖14 (a)無人機采集圖像,(b)無人機圖像檢測結(jié)果
城市交通管理應(yīng)用和城市道路管理都是YBUT技術(shù)應(yīng)用的重要方向。Silva等人設(shè)計了一個分布式無人機平臺,部署YOLOv4來檢測道路損壞(見圖15)。
圖15 道路損壞檢測結(jié)果
Zhao等人提出了一種基于YOLOv3的無人機高速公路中心標記檢測算法,YOLO-Highway(見圖16)。
圖16 各種環(huán)境條件下道路標志的檢測結(jié)果
在農(nóng)業(yè)領(lǐng)域,許多棘手的工作已經(jīng)有了基于YBUT的新解決方案。隨著YBUT的不斷發(fā)展和擴展,現(xiàn)在可以檢測大型植物物種中的不同目標和特征,例如在枯樹檢測,松枯萎病線蟲病檢測(見圖17),松樹枯萎病檢測,油棕樹果實檢測和其他任務(wù)。
圖17(a,b)是患病樹木檢測區(qū)域的原始圖像,(c,d)是MobileNetv2-YOLOv4算法檢測該區(qū)域病樹的結(jié)果
此外,YBUT還可用于涉及小型植物的分析,例如豌豆和草莓周圍的雜草檢測(見圖18),田間小麥表型監(jiān)測和番茄發(fā)芽器檢測。
圖18 豌豆作物面積和草莓作物面積的雜草鑒定結(jié)果
移動目標,如動物,也可以高精度地檢測、分類和計數(shù)(見圖22)。
圖19 使用YOLOv5s改進模型檢測馴鹿和梅花鹿的計數(shù)
隨著無人駕駛概念的增加,某些應(yīng)用已迅速實現(xiàn)自動化。Kraft等人提出了一種基于YOLOv4的方法,通過使用無人機在公園中定位垃圾。實驗結(jié)果表明,無人機可以檢測垃圾,并且可以在固定區(qū)域內(nèi)收集垃圾位置數(shù)據(jù),同時在地圖上標記垃圾位置,以便清掃人員查看,以便于清潔(見圖20)。
圖20 使用 YOLOv4 檢測無人機數(shù)據(jù)集的結(jié)果
未來,該系統(tǒng)還可以與其他設(shè)備配合定位并自動清掃垃圾,徹底減少清掃車的工作量。Liao等人提出了一種基于無人機的海洋垃圾檢測系統(tǒng),該系統(tǒng)使用具有改進的YOLO算法的無人機進行海洋垃圾檢測;他們的系統(tǒng)通過互聯(lián)網(wǎng)將結(jié)果傳輸?shù)降孛姹O(jiān)測平臺,以協(xié)助政府機構(gòu)實施管理計劃(見圖21)。
圖21八斗子漁港無人機垃圾檢測結(jié)果
除了上面討論的YBUT應(yīng)用的主要領(lǐng)域外,一些研究人員還探索了全新的領(lǐng)域,嘗試了新的方法,并利用這些方法來促進和增強YBUT的適用性和實用性。Jing等人提出了一種基于YOLOv5s-ViT-BiFPN的神經(jīng)網(wǎng)絡(luò),該網(wǎng)絡(luò)可以使用無人機圖像評估自然災(zāi)害后農(nóng)村房屋的損壞情況(見圖22)。
圖22 用于檢測受損房屋的YOLOv5s-ViT-BiFPN算法
到目前為止,YBUT的發(fā)展在工程,運輸,農(nóng)業(yè)和自動化方面的應(yīng)用更多,而在其他領(lǐng)域的實踐較少;該技術(shù)的傳播仍然是一個挑戰(zhàn)。未來的技術(shù)發(fā)展需要考慮這四個問題。
審核編輯 :李倩
-
機器人
+關(guān)注
關(guān)注
213文章
29741瀏覽量
212869 -
算法
+關(guān)注
關(guān)注
23文章
4710瀏覽量
95385 -
無人機
+關(guān)注
關(guān)注
231文章
10844瀏覽量
186775
原文標題:基于YOLO的無人機技術(shù):研究綜述及其應(yīng)用
文章出處:【微信號:vision263com,微信公眾號:新機器視覺】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
評論