英特爾公司與佐治亞理工學(xué)院將為美國國防部啟動一項(xiàng)為期4年的項(xiàng)目，以研發(fā)防御技術(shù)，防止AI和ML系統(tǒng)被攻擊、欺騙。

蓋世汽車訊 據(jù)外媒報(bào)道，當(dāng)?shù)貢r(shí)間4月9日，英特爾公司（Intel Corp.）與佐治亞理工學(xué)院（Georgia Institute of Technology）宣布將為美國國防先進(jìn)研究計(jì)劃署（U.S. Defense Advanced Research Projects Agency）領(lǐng)導(dǎo)一個(gè)項(xiàng)目團(tuán)隊(duì)，研發(fā)防御技術(shù)，防止人工智能系統(tǒng)被攻擊和欺騙。

（圖片來源：英特爾）

該項(xiàng)目名為“確保人工智能足夠強(qiáng)大，以抵御欺騙”（Guaranteeing Artificial Intelligence Robustness against Deception，GARD），將持續(xù)4年，耗資數(shù)百萬美元，英特爾為主承包商，致力于改善網(wǎng)絡(luò)安全防御機(jī)制，防范會影響到機(jī)器學(xué)習(xí)模型的欺騙攻擊。

雖然針對機(jī)器學(xué)習(xí)（ML）系統(tǒng)的對抗性攻擊很少見，但是利用ML和AI進(jìn)行操作的系統(tǒng)的數(shù)量在不斷增加。而此類技術(shù)是自動駕駛汽車等半自動和自動駕駛系統(tǒng)的重要部分，因此有必要繼續(xù)防止AI技術(shù)錯(cuò)誤地對現(xiàn)實(shí)世界中的物體進(jìn)行分類（例如，能夠區(qū)分停車標(biāo)志與人類），因?yàn)樵趯W(xué)習(xí)模型中插入有害信息或微微修改物體本身都會誤導(dǎo)物體識別。

GARD團(tuán)隊(duì)的目標(biāo)是為此類系統(tǒng)配備工具和增強(qiáng)性功能，更好地幫助其抵御此類攻擊。

其實(shí)，此類攻擊已經(jīng)出現(xiàn)多年。例如，2019年3月，騰訊科恩實(shí)驗(yàn)室（Tencent’s Keen Security Lab）發(fā)布了一份報(bào)告，表示研究人員能夠利用貼在道路上的貼紙，誘使特斯拉Model S變道，并進(jìn)入迎面而來的車流中。在2017年，研究人員3D打印了一種烏龜，而且配備了特別設(shè)計(jì)的外殼圖案，以欺騙谷歌的AI圖像識別算法，讓該算法誤認(rèn)為烏龜是來復(fù)槍。

自此之后，研究人員一直在研究利用修改過的路標(biāo)欺騙自動駕駛車輛的方法，例如，利用一塊黑色膠帶欺騙半自動駕駛汽車的攝像頭，讓其誤認(rèn)為速度限制范圍比實(shí)際要更大。

因此，GARD的愿景是利用以前以及現(xiàn)在對影響計(jì)算機(jī)AI和ML視覺系統(tǒng)的缺陷和漏洞的研究，打造一個(gè)理論基礎(chǔ)，幫助識別系統(tǒng)的漏洞，并確定極端情況的特征，以增強(qiáng)此類系統(tǒng)面對錯(cuò)誤和攻擊的應(yīng)對能力。

在GARD項(xiàng)目的第一階段，英特爾和佐治亞理工學(xué)院將在靜態(tài)圖像和視頻中保持空間、時(shí)間和語義一致性，以提升物體識別能力，意味著AI和ML系統(tǒng)能夠在額外情境下得到訓(xùn)練，了解到在任何給定情況下會發(fā)生什么，并經(jīng)過設(shè)計(jì)，以標(biāo)記場景或駁回不太可能的圖像場景。該階段的理念是通過在環(huán)境中引入更多解釋圖像的因素，開發(fā)出具有更好“判斷力”的AI。

例如，一名攻擊者可以通過改變停車標(biāo)志，讓其外觀有點(diǎn)走樣，以欺騙AI，讓AI認(rèn)為該停車標(biāo)志不是一個(gè)停車標(biāo)志。對于人類而言，該停車標(biāo)志還是紅色、還是八角形的形狀，即使“停下”這個(gè)詞被改變了或者消失了，因而，大多數(shù)人類駕駛員還是會停車。不過，AI可能會誤解該標(biāo)志，并繼續(xù)行駛。不過，如果能夠額外感知情境，即讓AI在識別十字路口、標(biāo)志形狀、標(biāo)志顏色等方面接受訓(xùn)練，就可以像人類駕駛員一樣，駁回錯(cuò)誤的分類信息。

總而言之，英特爾和佐治亞理工學(xué)院的研究是為了實(shí)現(xiàn)更好的圖像識別系統(tǒng)，以提高自動駕駛車輛的安全性，并讓各行業(yè)內(nèi)的ML系統(tǒng)能夠更好地分類物體。