一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

教你如何做機(jī)器人與視覺(jué)的融合仿真

3D視覺(jué)工坊 ? 來(lái)源:空中機(jī)器人前沿 ? 2023-03-17 16:31 ? 次閱讀

四旋翼無(wú)人機(jī)自發(fā)明以來(lái)已經(jīng)有了非常長(zhǎng)遠(yuǎn)的發(fā)展,現(xiàn)階段對(duì)四旋翼無(wú)人機(jī)的運(yùn)動(dòng)學(xué)和動(dòng)力學(xué)模型已經(jīng)有了很多較深入的研究,無(wú)人機(jī)仿真方面的軟件和工具也是層出不窮。

例如Gazebo有優(yōu)秀的物理引擎,可以模擬出真實(shí)的物理環(huán)境,同時(shí)也能夠自主搭建環(huán)境;鳳凰模擬器能夠模擬遙控器手動(dòng)飛行,對(duì)于飛手的訓(xùn)練有非常大的幫助。

77be1a80-c494-11ed-bfe3-dac502259ad0.gif

Gazebo 中四旋翼無(wú)人機(jī)飛行效果圖

8602e706-c494-11ed-bfe3-dac502259ad0.gif

鳳凰模擬器中用遙控器控制四旋翼的飛行?? 現(xiàn)如今機(jī)器視覺(jué)人工智能飛速發(fā)展,但是仿真軟件中的環(huán)境不夠逼真,直觀看起來(lái)比較假,同時(shí)背景環(huán)境也不夠豐富,并不能充分驗(yàn)證計(jì)算機(jī)視覺(jué)等相關(guān)算法。

AirSim就是在這種情況下應(yīng)運(yùn)而生的,它將四旋翼的動(dòng)力學(xué)模型與游戲引擎(虛幻引擎Unreal)相結(jié)合,借助游戲引擎強(qiáng)大的視覺(jué)渲染能力和豐富的場(chǎng)景,彌補(bǔ)了這一缺陷。

虛幻引擎 Unreal Engine,簡(jiǎn)稱UE,中文譯名為虛幻引擎,是非常出名的游戲引擎,它是一套完整的游戲開(kāi)發(fā)工具,目前已經(jīng)被廣泛應(yīng)用于游戲開(kāi)發(fā)、建筑設(shè)計(jì)與渲染、汽車展示、廣播與實(shí)況活動(dòng)、影視渲染、訓(xùn)練與模擬等各個(gè)領(lǐng)域中。

虛幻引擎同時(shí)還具備編輯器功能,具有照片級(jí)逼真的視覺(jué)渲染水平、支持動(dòng)態(tài)物理模擬的效果,能夠制作出栩栩如生的動(dòng)畫(huà),甚至可以制作電影大片級(jí)的場(chǎng)面。其豐富而強(qiáng)大的數(shù)據(jù)接口,能夠?yàn)楦餍懈鳂I(yè)的專業(yè)人士帶來(lái)無(wú)限的創(chuàng)作自由。

從UE4版本開(kāi)始,其源代碼就可以從Github開(kāi)源社區(qū)下載,所以實(shí)質(zhì)上你可以修改任何東西,包括:物理引擎、渲染效果和用戶界面等。同時(shí) UE4的跨平臺(tái)特性支持 Windows PC、Linux、Max OSX、iOS、安卓等平臺(tái),甚至可以支持VR等虛擬現(xiàn)實(shí)的設(shè)備。

虛幻商城中有非常豐富的逼真場(chǎng)景可供選擇,甚至有復(fù)原了完整的著名城市和建筑群,下圖展示的有:沙漠景觀、城市建筑、公園、森林。虛幻引擎中的所有場(chǎng)景都可以設(shè)置為AirSim無(wú)人機(jī)仿真的環(huán)境場(chǎng)景。

虛幻商城中部分環(huán)境展示:沙漠、城市、公園、森林 這些豐富的場(chǎng)景中,還包含了風(fēng)沙雨雪霧、落葉等不同天氣或氣候情況下的渲染,甚至包括同一地區(qū)不同季節(jié)時(shí)的景觀。

這些在仿真中都可以任意設(shè)置,能夠充分測(cè)試視覺(jué)算法在不同的場(chǎng)景下的效果。

虛幻商城中Realistic Landscapes 環(huán)境不同季節(jié)和氣候的景色展示

什么是 AiriSim

AirSim 是微軟公司開(kāi)發(fā)的基于游戲引擎的一個(gè)開(kāi)源的跨平臺(tái)仿真器,它可以用于無(wú)人機(jī)、無(wú)人機(jī)車等機(jī)器人的物理和視覺(jué)仿真。

它同時(shí)支持基于PX4 和 ArduPilot等飛行控制器的軟件在環(huán)仿真,目前還支持基于PX4的硬件在環(huán)仿真。 AirSim 是作為虛幻游戲引擎的插件而存在的,適配基于虛幻引擎搭建的環(huán)境,目前AirSim也有一個(gè)實(shí)驗(yàn)版本的插件適用于Unity引擎。

得益于游戲引擎優(yōu)秀的視覺(jué)渲染效果,AirSim 仿真平臺(tái)在具備物理仿真的同時(shí)也具備了逼真的視覺(jué)仿真效果,這是其一大亮點(diǎn),非常適用于進(jìn)行基于深度學(xué)習(xí)等視覺(jué)AI仿真驗(yàn)證。

AirSim提供了很多API接口,用于讀取數(shù)據(jù)、控制車輛、控制天氣等,使用 API接口可以實(shí)現(xiàn)自動(dòng)收集數(shù)據(jù)集的功能,還可以測(cè)試視覺(jué)算法。

AirSim的開(kāi)發(fā)者希望這個(gè)平臺(tái)能夠幫助研究人員用于深度學(xué)習(xí)、計(jì)算機(jī)視覺(jué)、強(qiáng)化學(xué)習(xí)等人工智能相關(guān)的研究,適用于無(wú)人機(jī)、無(wú)人駕駛、機(jī)器人等領(lǐng)域的應(yīng)用。

AirSim支持多平臺(tái)運(yùn)行,在Windows、LinuxMac系統(tǒng)中可以運(yùn)行,但是目前只有在Windows系統(tǒng)下才可以創(chuàng)建工程,而對(duì)于Linux系統(tǒng)下的使用,需要首先在 Windows 系統(tǒng)下創(chuàng)建好工程,再?gòu)?fù)制到Linux系統(tǒng)下。

AirSim 可以做什么

1. 手動(dòng)飛行(駕駛)

使用可以接入電腦的無(wú)人機(jī)遙控器或者 XBox,都可以實(shí)現(xiàn)手動(dòng)飛行仿真中的無(wú)人機(jī),它不只能夠訓(xùn)練飛手的飛行技術(shù),還可以瀏覽美景。得益于虛幻商城中的豐富且逼真的場(chǎng)景,能夠給予玩家震撼的視覺(jué)效果,使用1比1復(fù)原的實(shí)現(xiàn)場(chǎng)景時(shí),甚至有一種駕駛飛機(jī)瀏覽世界各地名勝的感覺(jué)。

2.程序控制無(wú)人機(jī)飛行(控制算法測(cè)試)

AirSim 提供了豐富的程序控制接口,用戶可以使用多種編程語(yǔ)言來(lái)編寫程序,實(shí)現(xiàn)對(duì)無(wú)人機(jī)的狀態(tài)讀取和飛行控制。AirSim 還支持硬件在環(huán)仿真,可以最大程度模擬四旋翼的飛行效果。

控制接口功能豐富,

包括四旋翼的: 位置控制、速度控制、姿態(tài)控制、電機(jī)控制 等,

支持 電機(jī)轉(zhuǎn)速控制 、底層飛控的 PID參數(shù)調(diào)節(jié) ,滿足了從基礎(chǔ)控制到 高機(jī)動(dòng)控制 等不同的任務(wù)需求。

使用AirSim APIs 接口可以讀取無(wú)人機(jī)的狀態(tài)(位置、速度、姿態(tài)等),包括真實(shí)狀態(tài)、傳感器測(cè)量到的有噪聲的狀態(tài)信息。

AirSim 還支持同時(shí)仿真多架無(wú)人機(jī),可以測(cè)試 集群和多無(wú)人機(jī)協(xié)同 算法。

AirSim 支持在視口中直接作圖,由此可以顯示無(wú)人機(jī)的 飛行軌跡

多無(wú)人機(jī)協(xié)同編隊(duì)控制 無(wú)人機(jī)跟蹤8字形軌跡

3. 數(shù)據(jù)集自動(dòng)收集、視覺(jué)算法測(cè)試

仿真場(chǎng)景中可以知道全部的信息,使用程序控制,可以很方便地實(shí)現(xiàn)對(duì)無(wú)人機(jī)位置和姿態(tài)的控制,同時(shí)也能方便地控制相機(jī)的姿態(tài)和內(nèi)參。也可以同時(shí)添加多個(gè)相機(jī),安裝在無(wú)人機(jī)的不同位置。

AirSim 中可以獲得的圖像包括: 單目 RGB圖像、雙目深度圖、分割圖、紅外 等。

由于是仿真模擬,深度圖和分割圖非常完美,并不能完全模擬顯示中的不確定性。

紅外圖是基于分割圖生成的,需要自己定義每個(gè)物體的溫度。

自由設(shè)置相機(jī)的 數(shù)量、位置、內(nèi)參 等。

自由添加噪聲: 相機(jī)畸變、運(yùn)動(dòng)模糊、圖片隨機(jī)噪 等。

自由設(shè)置不同的天氣狀態(tài): 雨、雪、霧、風(fēng)速、落葉、沙塵 等。

自由 改變無(wú)人機(jī)的外觀 ,可以將無(wú)人機(jī)外形設(shè)置成任意型號(hào)的無(wú)人機(jī),如 DJI Mavic。

可以導(dǎo)入現(xiàn)實(shí)中的環(huán)境。

設(shè)置時(shí)間流逝,由此可以 改變一天中太陽(yáng)的位置 ,從而產(chǎn)生光照強(qiáng)度、光源位置變化,產(chǎn)生環(huán)境變化。

4.強(qiáng)化學(xué)習(xí)

AirSim 支持獲取碰撞信息,碰撞信息不止包括是否發(fā)生碰撞,還包括:發(fā)生碰撞的位置、發(fā)生碰撞的表面、碰撞深度等信息。使用程序可以讀取碰撞信息、無(wú)人機(jī)狀態(tài)等,加上強(qiáng)化學(xué)習(xí)算法,可以實(shí)現(xiàn)強(qiáng)化學(xué)習(xí)的訓(xùn)練。

5. 多傳感器融合

AirSim 目前支持的傳感器有:相機(jī)、雙目相機(jī)、紅外相機(jī)、雷達(dá)、距離傳感器、氣壓計(jì)、IMU、GPS、磁力計(jì)。同時(shí)使用多個(gè)傳感器,可以測(cè)試多傳感器融合算法。





審核編輯:劉清

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • 機(jī)器人
    +關(guān)注

    關(guān)注

    212

    文章

    29280

    瀏覽量

    210916
  • 機(jī)器視覺(jué)
    +關(guān)注

    關(guān)注

    163

    文章

    4487

    瀏覽量

    121877
  • 遙控器
    +關(guān)注

    關(guān)注

    18

    文章

    847

    瀏覽量

    67560
  • 距離傳感器
    +關(guān)注

    關(guān)注

    3

    文章

    76

    瀏覽量

    15338
  • 四旋翼無(wú)人機(jī)

    關(guān)注

    2

    文章

    18

    瀏覽量

    5547

原文標(biāo)題:走進(jìn)Airsim,教你如何做機(jī)器人與視覺(jué)的融合仿真

文章出處:【微信號(hào):3D視覺(jué)工坊,微信公眾號(hào):3D視覺(jué)工坊】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏

    評(píng)論

    相關(guān)推薦

    【「# ROS 2智能機(jī)器人開(kāi)發(fā)實(shí)踐」閱讀體驗(yàn)】視覺(jué)實(shí)現(xiàn)的基礎(chǔ)算法的應(yīng)用

    的cv_bridge庫(kù),可以輕松實(shí)現(xiàn)ROS圖像消息與OpenCV格式的轉(zhuǎn)換,這在實(shí)際開(kāi)發(fā)中極為便利。 視覺(jué)巡線與二維碼識(shí)別的應(yīng)用 視覺(jué)巡線是機(jī)器人自主導(dǎo)航的經(jīng)典案例,書(shū)中從仿真到真
    發(fā)表于 05-03 19:41

    大象機(jī)器人攜手進(jìn)迭時(shí)空推出 RISC-V 全棧開(kāi)源六軸機(jī)械臂產(chǎn)品

    識(shí)別聯(lián)調(diào)。 進(jìn)迭時(shí)空致力于為智能機(jī)器人提供完整全棧優(yōu)化的RISC-V AI軟硬件解決方案,第一代RISC-V AI CPU芯片K1已完成AI視覺(jué)感知、AI語(yǔ)音處理、自動(dòng)避障、路徑規(guī)劃、運(yùn)動(dòng)控制等
    發(fā)表于 04-25 17:59

    ???b class='flag-5'>機(jī)器人布局關(guān)節(jié)機(jī)器人業(yè)務(wù)

    關(guān)節(jié)機(jī)器人領(lǐng)域迎來(lái)一位實(shí)力選手。繼布局移動(dòng)機(jī)器人、機(jī)器視覺(jué)業(yè)務(wù)后,???b class='flag-5'>機(jī)器人正在拓展新的產(chǎn)品線。
    的頭像 發(fā)表于 03-20 10:47 ?471次閱讀

    【「具身智能機(jī)器人系統(tǒng)」閱讀體驗(yàn)】2.具身智能機(jī)器人的基礎(chǔ)模塊

    具身智能機(jī)器人的基礎(chǔ)模塊,這個(gè)是本書(shū)的第二部分內(nèi)容,主要分為四個(gè)部分:機(jī)器人計(jì)算系統(tǒng),自主機(jī)器人的感知系統(tǒng),自主機(jī)器人的定位系統(tǒng),自主機(jī)器人
    發(fā)表于 01-04 19:22

    NVIDIA技術(shù)推動(dòng)機(jī)器人仿真

    借助機(jī)器人仿真,開(kāi)發(fā)人員能夠在基于物理學(xué)的現(xiàn)實(shí)世界數(shù)字呈現(xiàn)中對(duì)機(jī)器人進(jìn)行虛擬訓(xùn)練、測(cè)試和驗(yàn)證。
    的頭像 發(fā)表于 01-03 14:10 ?381次閱讀

    【「具身智能機(jī)器人系統(tǒng)」閱讀體驗(yàn)】2.具身智能機(jī)器人大模型

    。 多模態(tài)融合的創(chuàng)新與突破 機(jī)器人控制技術(shù)的另一個(gè)重要突破在于多模態(tài)大模型的應(yīng)用。相比于僅通過(guò)文字進(jìn)行人機(jī)交互的傳統(tǒng)方法,現(xiàn)代機(jī)器人能夠融合視覺(jué)
    發(fā)表于 12-29 23:04

    《具身智能機(jī)器人系統(tǒng)》第7-9章閱讀心得之具身智能機(jī)器人與大模型

    研讀《具身智能機(jī)器人系統(tǒng)》第7-9章,我被書(shū)中對(duì)大模型與機(jī)器人技術(shù)融合的深入分析所吸引。第7章詳細(xì)闡述了ChatGPT for Robotics的核心技術(shù)創(chuàng)新:它摒棄了傳統(tǒng)的分層控制架構(gòu),創(chuàng)造性地
    發(fā)表于 12-24 15:03

    《具身智能機(jī)器人系統(tǒng)》第1-6章閱讀心得之具身智能機(jī)器人系統(tǒng)背景知識(shí)與基礎(chǔ)模塊

    物理交互納入智能系統(tǒng)的核心要素。 第3章是探討機(jī)器人計(jì)算系統(tǒng)。這一章節(jié)詳細(xì)闡述了自主機(jī)器人的軟硬件架構(gòu)。計(jì)算系統(tǒng)需要滿足機(jī)器人任務(wù)對(duì)算法的精度、實(shí)時(shí)性和功耗要求。書(shū)中介紹的多傳感器融合
    發(fā)表于 12-19 22:26

    機(jī)器人仿真的類型和優(yōu)勢(shì)

    機(jī)器人仿真使機(jī)器人工程師和研究人員能夠創(chuàng)建機(jī)器人及其環(huán)境的虛擬模型。這項(xiàng)技術(shù)支持在仿真的無(wú)風(fēng)險(xiǎn)環(huán)境中測(cè)試和驗(yàn)證
    的頭像 發(fā)表于 10-14 10:43 ?1080次閱讀
    <b class='flag-5'>機(jī)器人</b><b class='flag-5'>仿真</b>的類型和優(yōu)勢(shì)

    解鎖機(jī)器人視覺(jué)與人工智能的潛力,從“盲人機(jī)器”改造成有視覺(jué)能力的機(jī)器人(上)

    正如人類依賴眼睛和大腦來(lái)解讀世界,機(jī)器人也需要自己的視覺(jué)系統(tǒng)來(lái)有效運(yùn)作。沒(méi)有視覺(jué),機(jī)器人就如同蒙上雙眼的人類,僅能執(zhí)行預(yù)編程的命令,容易碰撞障礙物,并犯下代價(jià)高昂的錯(cuò)誤。這正是
    的頭像 發(fā)表于 10-12 09:56 ?649次閱讀
    解鎖<b class='flag-5'>機(jī)器人</b><b class='flag-5'>視覺(jué)</b>與人工智能的潛力,從“盲人<b class='flag-5'>機(jī)器</b>”改造成有<b class='flag-5'>視覺(jué)</b>能力的<b class='flag-5'>機(jī)器人</b>(上)

    機(jī)器人視覺(jué)與計(jì)算機(jī)視覺(jué)的區(qū)別與聯(lián)系

    機(jī)器人視覺(jué)與計(jì)算機(jī)視覺(jué)是兩個(gè)密切相關(guān)但又有所區(qū)別的領(lǐng)域。 1. 引言 在當(dāng)今科技迅猛發(fā)展的時(shí)代,機(jī)器人和計(jì)算機(jī)視覺(jué)技術(shù)在各個(gè)領(lǐng)域發(fā)揮著越來(lái)越
    的頭像 發(fā)表于 07-09 09:27 ?1002次閱讀

    機(jī)器人視覺(jué)的應(yīng)用范圍

    機(jī)器人視覺(jué)是一種將計(jì)算機(jī)視覺(jué)技術(shù)應(yīng)用于機(jī)器人領(lǐng)域的技術(shù),它使得機(jī)器人能夠感知和理解周圍環(huán)境,實(shí)現(xiàn)自主決策和執(zhí)行任務(wù)。隨著人工智能、
    的頭像 發(fā)表于 07-04 11:33 ?983次閱讀

    機(jī)器人視覺(jué)的作用是什么

    一、引言 機(jī)器人視覺(jué)機(jī)器人技術(shù)的重要組成部分,它利用計(jì)算機(jī)視覺(jué)技術(shù)對(duì)機(jī)器人周圍環(huán)境進(jìn)行感知、識(shí)別和理解,為
    的頭像 發(fā)表于 07-04 11:24 ?1128次閱讀

    工業(yè)機(jī)器人仿真軟件有哪些

    工業(yè)機(jī)器人仿真軟件是用于模擬工業(yè)機(jī)器人操作過(guò)程的軟件工具,它們可以幫助工程師和技術(shù)人員在實(shí)際應(yīng)用之前對(duì)機(jī)器人進(jìn)行測(cè)試和優(yōu)化。以下是一些常見(jiàn)的工業(yè)機(jī)器
    的頭像 發(fā)表于 06-17 09:34 ?5224次閱讀

    基于FPGA EtherCAT的六自由度機(jī)器人視覺(jué)伺服控制設(shè)計(jì)

    機(jī)器人視覺(jué)伺服中有著廣闊的應(yīng)用,本實(shí)驗(yàn)將集成攝像頭的 伊瑟特主站應(yīng)用在自主研發(fā)的六自由度串聯(lián)機(jī)器人上,將機(jī)器人運(yùn)動(dòng)學(xué)算法編寫入 伊瑟特主站,使得機(jī)器
    發(fā)表于 05-29 16:17