經(jīng)研究發(fā)現(xiàn)，激光雷達感知系統(tǒng)也可以被欺騙。通過欺騙激光雷達傳感器信號，從而欺騙車輛激光雷達感知系統(tǒng)，使其看到根本不存在的障礙。

對自動駕駛汽車而言，最重要的是感知周圍發(fā)生的事情。與人類駕駛員一樣，自動駕駛汽車也需要即時決策的能力。

目前，大多數(shù)自動駕駛汽車依靠多個傳感器感知世界，大多數(shù)系統(tǒng)使用攝像頭、雷達傳感器和激光雷達傳感器組合，車載計算機將這些數(shù)據(jù)融合在一起，形成對汽車周圍情況的全面了解。沒有這些數(shù)據(jù)，自動駕駛汽車就無法安全行駛。由于每個系統(tǒng)都可以檢測其他系統(tǒng)，因此使用多個傳感器系統(tǒng)的汽車性能更好，也更安全。但這些系統(tǒng)并非萬無一失，比如簡單地在交通標(biāo)志上貼上標(biāo)簽，完全改變其含義，就可以欺騙攝像頭感知系統(tǒng)。

密歇根大學(xué)RobustNet 研究小組、加州大學(xué)歐文分校的計算機科學(xué)家Qi Alfred Chen和SPQR實驗室的同事們合作研究發(fā)現(xiàn)，激光雷達感知系統(tǒng)也可以被欺騙。通過欺騙激光雷達傳感器信號，從而欺騙車輛激光雷達感知系統(tǒng)，使其看到根本不存在的障礙。如果發(fā)生這種情況，車輛可能會因阻塞交通或突然剎車而導(dǎo)致撞車。

欺騙激光雷達信號

激光雷達感知系統(tǒng)有兩個組成部分，即傳感器和處理傳感器數(shù)據(jù)的機器學(xué)習(xí)模型。激光雷達傳感器通過發(fā)出光信號，并測量光信號從物體反射回傳感器的時長，計算自身與周圍環(huán)境之間的距離，這種來回的時間也稱為“飛行時間（TOF）”。

激光雷達裝置每秒發(fā)出成千上萬的光信號。然后，其機器學(xué)習(xí)模型利用返回的脈沖繪制汽車周圍的世界，這類似于蝙蝠在夜間利用回聲定位感知障礙物的位置，但是這些脈沖可以被欺騙，攻擊者可以向傳感器發(fā)出光信號，以混淆傳感器。

然而，欺騙激光雷達傳感器，使其看到不存在的車輛更加困難。由于信號以光速傳播，攻擊者需要以納秒級精度計算發(fā)射到目標(biāo)激光雷達上的信號的時間。當(dāng)激光雷達使用飛行時間來計算距離時，細(xì)微的差異會顯現(xiàn)出來。

如果攻擊者成功地欺騙了激光雷達傳感器，還必須欺騙機器學(xué)習(xí)模型。OpenAI研究實驗室的研究表明，機器學(xué)習(xí)模型很容易受到特殊信號或輸入的影響，這稱為對抗樣本。例如，特殊制成的交通標(biāo)志貼紙可以欺騙攝像頭傳感器。

研究人員發(fā)現(xiàn)攻擊者可以使用類似的方法干擾激光雷達。攻擊者利用專門用于欺騙機器學(xué)習(xí)模型的信號，讓其誤以為存在障礙。激光雷達傳感器將黑客的虛假信號輸入機器學(xué)習(xí)模型，機器學(xué)習(xí)模型會識別這些信號，而誤以為存在障礙。對抗樣本經(jīng)過精心設(shè)計，可滿足機器學(xué)習(xí)模型的期望。例如，攻擊者可能會發(fā)出卡車靜止的信號，為了實施攻擊，攻擊者可能將其設(shè)置在十字路口，或者將虛假信號置于自動駕駛汽車前面的車輛。

兩種可能的攻擊

研究人員選擇了一個有較多汽車制造商使用的自動駕駛系統(tǒng)，并使用該團隊收集的真實世界傳感器數(shù)據(jù)，演示了兩種不同的攻擊。在“緊急剎車攻擊”中，展示了攻擊者如何讓車輛誤以為路上出現(xiàn)了障礙物，而突然剎車。在“自動駕駛凍結(jié)攻擊”中，研究人員使用虛假障礙，愚弄一輛在紅燈前停下的車輛，使其在紅燈變綠后仍然停滯不前。

研究人員表示，希望通過利用自動駕駛感知系統(tǒng)的漏洞，為構(gòu)建自動駕駛技術(shù)的團隊敲響警鐘。關(guān)于自動駕駛系統(tǒng)中新型安全性問題的研究才剛剛開始，研究人員希望在系統(tǒng)被攻擊前發(fā)現(xiàn)更多潛在漏洞。

編輯：hfy