騙過人工智能的“眼睛”已經(jīng)不再是一件難事。

今年美國東北大學(xué)和麻省理工大學(xué)等大學(xué)和研究機(jī)構(gòu)做了一項(xiàng)創(chuàng)新實(shí)驗(yàn)，共同研制出了基于“對抗樣本”的T恤衫，對抗樣本是指一種由攻擊者精心設(shè)計(jì)的特殊樣本，科研人員就對T恤上的原圖案進(jìn)行了修改，通過了一定的技術(shù)手段將圖案生成了有較強(qiáng)干擾性的圖案，以此來改變T恤的視覺效果，導(dǎo)致AI人體檢測攝像頭無法準(zhǔn)確地檢測出穿著該T恤的行人。

類似的技術(shù)戲法如今已被廣泛應(yīng)用，黑客可以通過一副“對抗樣本”眼鏡輕松實(shí)現(xiàn)身份偽裝，破解手機(jī)面部解鎖，或是偽裝成他人完成銀行和政務(wù)系統(tǒng)的身份認(rèn)證，甚至打開人臉識別門鎖，竊取財(cái)產(chǎn)。

提升AI能力需要最大限度的挖掘數(shù)據(jù)價(jià)值，但是在金融、醫(yī)療、公共安全等場景的AI應(yīng)用中，需要用到的數(shù)據(jù)往往涉及個(gè)人隱私信息，這些攻擊行為都給AI落地帶來了巨大的挑戰(zhàn)。

在近日舉辦的2020第三代人工智能產(chǎn)業(yè)論壇上，中國科學(xué)院院士、清華大學(xué)人工智能研究院院長張鈸指出，現(xiàn)在很多人工智能公司估值很高，但是營收很少，問題在于沒有解決算法和數(shù)據(jù)的不安全性，造成深入到更多高價(jià)值的場景速度較慢?！捌髽I(yè)要做大做強(qiáng)，必須解決安全和魯棒（穩(wěn)定強(qiáng)?。┑膯栴}。”

論壇上，依托于清華大學(xué)人工智能研究院孵化設(shè)立的瑞萊智慧RealAI發(fā)布了旗下兩款最新AI產(chǎn)品隱私保護(hù)機(jī)器學(xué)習(xí)平臺RealSecure和人工智能安全平臺RealSafe2.0 版本。其中RealSafe可以理解為是針對AI算法的殺毒軟件和防火墻，2.0 版本新增了對抗樣本檢測方法、對抗訓(xùn)練等解決方案。據(jù)了解，目前，RealSafe已在工信部重大建設(shè)項(xiàng)目以及某電網(wǎng)公司落地應(yīng)用。

瑞萊智慧RealAI CEO田天對AI財(cái)經(jīng)社說，在行業(yè)里，如果無法保障AI安全，很多業(yè)務(wù)場景根本沒辦法開展。比如金融行業(yè)的一些解決方案要求補(bǔ)充數(shù)據(jù)，這個(gè)時(shí)候就涉及到數(shù)據(jù)安全隱私保護(hù)，要通過隱私網(wǎng)絡(luò)機(jī)器學(xué)習(xí)平臺，在合規(guī)前提下才能把銀行內(nèi)部的數(shù)據(jù)和外部打通，只有這樣才能打破數(shù)據(jù)孤島，支持上層的AI用戶得到更多的數(shù)據(jù)，進(jìn)而更形成更好的系統(tǒng)?！氨Ｕ螦I安全不只是錦上添花，實(shí)際上是在解決一些根本性的問題，讓更多的創(chuàng)新應(yīng)用場景成為可能?！?/p>

他還提到，現(xiàn)在很多刷臉支付的廠商對于人工智能的安全問題都非常重視，因?yàn)樽约簺]有辦法研發(fā)，都在尋找一些類似AI防火墻的產(chǎn)品，這塊的商業(yè)需求已經(jīng)非常強(qiáng)烈。

田天說，雖然阿里、Facebook等公司也在關(guān)注這個(gè)領(lǐng)域，但主要是偏實(shí)驗(yàn)室檢測和技術(shù)工具。整體來看，AI安全在市場上還是一條比較新的賽道，公司在包括貝葉斯深度學(xué)習(xí)、可解釋機(jī)器學(xué)習(xí)、AI對抗攻防等第三代AI核心技術(shù)方面有一定的積累，產(chǎn)品相比起來是一個(gè)面向企業(yè)級更加商業(yè)化的技術(shù)平臺。
責(zé)任編輯：YYX