在日前于瑞典斯德哥爾摩舉行的國際機(jī)器學(xué)習(xí)會議上，一群研究人員描述了他們的3D打印烏龜。大多數(shù)人會說，它看上去就像一只烏龜，但人工智能（AI）算法有不同的看法。在大多數(shù)時候，AI認(rèn)為這只烏龜看上去像一支步槍。類似地，它將一個3D打印的棒球視為濃縮咖啡。這是“對抗性攻擊”的例子——稍作改變的圖片、物體或者聲音可愚弄AI。

AI領(lǐng)域一些引人注目的進(jìn)步，尤其是在消化了訓(xùn)練數(shù)據(jù)集后能識別聲音或物體的機(jī)器學(xué)習(xí)算法，刺激了語音助手和自動駕駛汽車的發(fā)展。但這些AI應(yīng)用很容易被欺騙。

在此次會議上，對抗性攻擊是一個熱門主題。研究人員報告了欺騙AI以及保衛(wèi)它們的各種新方法。令人擔(dān)憂的是，會議的兩個最佳論文獎之一給了這樣的結(jié)論：其發(fā)現(xiàn)受到保護(hù)的AI并非像其開發(fā)者可能認(rèn)為的那樣安全?！拔覀冞@些機(jī)器學(xué)習(xí)領(lǐng)域的專家并不習(xí)慣于從安全性的角度看待問題。”共同主導(dǎo)上述3D打印研究的麻省理工學(xué)院（MIT）計算機(jī)科學(xué)家Anish Athalye表示。

致力于研究對抗性攻擊的計算機(jī)科學(xué)家表示，他們正在提供一種服務(wù)，就像指出軟件安全缺陷的黑客一樣?！拔覀冃枰匦滤伎妓械臋C(jī)器學(xué)習(xí)途徑，以便使其更強(qiáng)勁?！盡IT計算機(jī)科學(xué)家Aleksander Madry認(rèn)為。

研究人員表示，這些攻擊在科學(xué)上也有用處，為了解被稱為神經(jīng)網(wǎng)絡(luò)的AI應(yīng)用提供了罕見的窗口。神經(jīng)網(wǎng)絡(luò)的內(nèi)在邏輯無法得到清晰明了的解釋。加州大學(xué)伯克利分校計算機(jī)科學(xué)家Dawn Song表示，對抗性攻擊是強(qiáng)大的鏡頭，“透過它，我們能理解獲得的機(jī)器學(xué)習(xí)知識”。

去年，Song和同事將一些貼紙放到停車標(biāo)志上，從而欺騙一種常見的圖像識別AI認(rèn)為其是每小時不超過45英里的限速標(biāo)志。這一結(jié)果令自動駕駛汽車公司不寒而栗。

研究人員正在設(shè)計更復(fù)雜的攻擊。在另一場會議上，Song還將報告一種讓圖像識別AI不只誤判物體，還對其產(chǎn)生幻覺的“花招”。在一項測試中，凱蒂貓隱約出現(xiàn)在機(jī)器的街景視圖中，而路上行駛的汽車卻消失了。