由于技術逐漸成熟，普通人被計算機病毒折磨得苦不堪言的日子，似乎已經(jīng)逐漸遠去。然而，另一場更加隱蔽、殺傷力更大的“病毒危機”，正在向人類悄然逼近。

新興的人工智能技術，為人類增添便利的同時，也帶來了隱患。有犯罪團伙利用AI技術制作虛假視頻騙取錢財，不法分子將女明星的臉換到色情視頻上出售……一條條利用AI技術作惡的黑色產(chǎn)業(yè)鏈正在悄然形成，讓不少人蒙受錢財、名譽損失。

換臉技術打開的“潘多拉魔盒”

有“換臉神器”之稱的Deepfake，誕生之初，它只是一項有趣的技術。由于其逼真的效果、開源獲取的便捷，被不少技術人士拿來制作各種好玩的視頻。比如“AI換臉”剛流傳到國內(nèi)的時候就曾在社交媒體上掀起了一波熱潮，有人將楊冪的臉換到了朱茵飾演的黃蓉身上，視頻中顧盼神飛的全新“蓉兒”獲得了不少網(wǎng)友的喜愛。

但在讓人哈哈一樂的同時，由于個人信息可以被輕易“操縱”，AI換臉被濫用的負面影響也在全面爆發(fā)。有人收到朋友發(fā)來的“借錢視頻”而慷慨解囊，結果輕易被騙；被偽造視頻而處于謠言中心的當事人，眼睜睜看著自己聲譽受損而百口莫辯；在涉及到巨額金錢往來時，如果遭遇對方信息資料造假，有可能會傾家蕩產(chǎn)……這些種種“AI造假”信息不僅會給個人帶來不可挽回的損失，還可能引發(fā)巨大的社會風險。甚至有人認為，AI換臉視頻足以誤導民意，威力堪比“核武器”，比如美國就曾流出國家領導人被惡搞的視頻，煽動政治暴力、破壞選舉、擾亂外交。

目前，“人人都怕?lián)Q臉術”的恐慌，已引起國家有關部門的高度關注。今年1月1日起施行的《網(wǎng)絡音視頻信息服務管理規(guī)定》中就對此作出規(guī)定：AI造假音視頻不得隨意發(fā)布，要“按照國家有關規(guī)定開展安全評估”，并“以顯著方式予以標識”。

人工智能作為一種新興技術，除會被濫用之外，其技術本身的安全風險也足以引發(fā)憂慮。在去年10月舉行的國際安全極客大賽中，參賽人員通過在胸前上放一張打印有“圖像噪音”的紙片，就能夠逃脫智能監(jiān)控系統(tǒng)的識別，實現(xiàn)“隱身”。

“這并不是無中生有，而是模擬了真實的人工智能攻擊場景?！眮碜员本┤鹑R智慧科技有限公司（簡稱RealAI）的算法科學家蕭子豪如是說道。在去年的國際安全極客大賽中，RealAI與清華聯(lián)合戰(zhàn)隊包攬了“CAAD CTF圖像對抗樣本挑戰(zhàn)賽”及“CAAD隱身挑戰(zhàn)賽”兩項冠軍，蕭子豪就是該戰(zhàn)隊成員之一。人工智能有時候會犯一些在人類看來“很傻的錯誤”，是因為目前以深度學習為代表的人工智能存在一大安全盲點——對抗樣本，即在原始圖片上增加肉眼無法察覺的噪聲就可以惡意誤導AI識別算法輸出非預期的結果。

此外，基于深度學習的人工智能本質上相當于一個“黑箱”，是“不可解釋”的。“也就是說，我們輸入一個數(shù)據(jù)，人工智能會反饋一個結果，但是這個結論是如何得出的，我們完全無法得知，所以甚至有時候人工智能犯錯了，我們也無法解釋背后的原因?！笔捵雍勒f。

人工智能亟待突破“天花板”

關于人工智能安全性的擔憂，一方面需要依靠法律法規(guī)和政府監(jiān)管來約束，另一方面，需要從源頭加強安全評估，提升鑒別技術等能力，借助技術手段提前布局。

2018年6月，清華大學人工智能研究院揭牌成立，以“一個核心、兩個融合”作為發(fā)展戰(zhàn)略，即以人工智能基礎理論和基本方法研究為核心，積極推進大跨度的學科交叉融合，積極推進大范圍的技術與產(chǎn)業(yè)、學校與企業(yè)融合。

在多年研究的基礎上，中科院院士、清華大學人工智能研究院院長張鈸教授提出了“第三代人工智能”的概念。張鈸院士認為，人工智能技術發(fā)展至今，已經(jīng)經(jīng)歷了兩代模型。第一代是知識驅動的符號模型，比如專家系統(tǒng)；第二代是數(shù)據(jù)驅動的機器學習模型，如深度學習、概率統(tǒng)計模型，目前正處于前所未有的興盛時期。

“然而這兩代技術都存在天然的局限性?！?張鈸院士說，目前的人工智能雖然發(fā)展非?？欤且仓辉趫D像識別、語音識別等方面取得了比較明顯的突破。如果遇到數(shù)據(jù)知識缺乏、非完全信息、不確定性等場景，這兩代人工智能基本上就變得“無計可施”了。

“現(xiàn)在的人工智能系統(tǒng)是非常脆弱的，容易受攻擊或者欺騙?！睆堚撛菏空f，基于深度學習的人工智能系統(tǒng)不僅需要依靠大數(shù)據(jù)“喂養(yǎng)”，而且不可解釋，存在非常嚴重的缺陷，“這個缺陷是本質的，由其基本理論方法本身引起的?！?/p>

也正因此，在一些真正重要的關鍵領域，比如自動駕駛、金融業(yè)務決策和醫(yī)療診斷等實際應用場景中，人工智能的進一步發(fā)展和應用還面臨著很大的問題。

在他看來，以深度學習為代表的第二代人工智能技術正在逐漸觸及“天花板”，亟需發(fā)展下一代人工智能技術，也就是安全、可靠、可信的人工智能。尤其，安全性將成為下一階段人工智能發(fā)展必須的基礎。一旦忽視人工智能的安全問題，未來將難以持續(xù)健康的推動AI技術在更多場景的落地。

“AI安全”市場前景可期

作為“第三代人工智能”概念的提出者，張鈸院士所帶領的清華研究團隊早已布局了相關領域的研究，比如將第一代和第二代人工智能的技術優(yōu)勢相結合，構建了基于貝葉斯深度學習的第三代人工智能基礎算法，從而打開了通向“真正人工智能”的一扇門。

在技術發(fā)展的同時，張鈸院士也倡導將其產(chǎn)業(yè)化。張鈸說，作為研究型機構，清華大學AI研究院的本分是要搞好學術研究，“但是AI又與應用結合相當緊密，因此我們的研究一定要產(chǎn)生出算法，研究院要孵化出AI新產(chǎn)業(yè)，甚至成為人工智能界的BAT。”RealAI就在此背景下應運而生。

作為清華大學人工智能研究院的核心孵化企業(yè)，RealAI由清華大學人工智能研究院院長張鈸院士、清華大學人工智能研究院基礎理論研究中心主任朱軍教授聯(lián)席擔任首席科學家。正如其名，RealAI希望不斷突破AI技術邊界，探索“真正”的人工智能，以引領第三代人工智能技術的產(chǎn)業(yè)化發(fā)展。

針對目前在社交媒體平臺上引發(fā)“虛假信息洪流”的Deepfake換臉視頻，蕭子豪表示，“除了涉及隱私泄漏、身份危機、名譽風險等個人安全問題，這背后的潛在效應還可能蔓延到大眾的信息獲取和社會信任層面，引導公眾輿論、引發(fā)社會信任危機?！睂Υ?，RealAI迅速研發(fā)出了一款檢測工具，可一鍵實現(xiàn)對偽造視頻進行自動精準識別，識別準確率高達90%以上。

RealAI高級產(chǎn)品經(jīng)理張旭東告訴記者，該檢測工具基于第三代AI技術，使用無標注數(shù)據(jù)和無監(jiān)督的深度生成模型來生成高逼真度、可控的假數(shù)據(jù)作為數(shù)據(jù)儲備，然后利用這些高質量數(shù)據(jù)引導模型自動學習出具有強判別性的識別特征，提升對偽造痕跡的識別能力，進而分辨出造假視頻。據(jù)悉，這款產(chǎn)品能夠在虛假內(nèi)容甄別、線上資料審核以及影像物證真實性檢驗等實際應用場景中發(fā)揮作用。

“AI安全其實是個很大的話題，未來將可能發(fā)展成與網(wǎng)絡安全同等規(guī)模的市場?！?RealAI首席執(zhí)行官田天表示，真正做到保障AI安全始終不是一小部分人的事，需要聯(lián)動社會各界力量，從監(jiān)管機構、AI科技企業(yè)到普通公眾共同重視、共同發(fā)力才能真正從根本上使其良性發(fā)展。

在人工智能發(fā)展的過程中，安全問題將會是一個攻防兩端不斷對抗演化的動態(tài)過程，“攻擊”和“防御”的雙方博弈將會一直存在?！癛ealAI未來會繼續(xù)踐行安全可控的技術理念，深耕人工智能安全領域，為人工智能行業(yè)的健康發(fā)展保駕護航。”田天說。