前線導(dǎo)讀：近日，利用生成對抗網(wǎng)絡(luò)（GAN）自動生成動漫頭像在網(wǎng)絡(luò)上引發(fā)了熱潮，各種或呆萌或高冷的頭像并非來自任何一部動漫，而是由神經(jīng)網(wǎng)絡(luò)模型直接生成的。此后，一些更加瘋狂的開發(fā)者搞出了更加不可思議的模型：直接生成人物照片。

01

先來玩兒個游戲吧

先來玩兒個簡單的小游戲，猜猜看下面這兩張圖中哪一張是真實(shí)的照片：

選好了嗎？答案揭曉了，真實(shí)的照片是——右邊的這位美女！

是不是有些不可思議？左邊這張?jiān)趺纯炊枷袷且粡埰胀ǖ恼掌?，怎么會?AI 生成的呢？但事實(shí)就是如此，左邊的這張照片中的美女，沒有國籍、沒有姓名，根本不存在于這個世界。沒錯，這就是生成對抗網(wǎng)絡(luò) GAN 的強(qiáng)大威力。

如果你覺得這道題太簡單，你也可以猜猜看本文封面圖的兩個漂亮妹子哪個是真實(shí)的？哪個是AI生成的？

02

“在互聯(lián)網(wǎng)上，沒人知道你是 AI”

上面的這個游戲是來自這個網(wǎng)站的作品：http://www.whichfaceisreal.com ，感興趣的讀者可以自己去感受一下。

這個網(wǎng)站的作者是來自華盛頓大學(xué)的兩名教授：Carl T. Bergstrom 和 Jevin D. West，他們分別是生物學(xué)教授和信息科學(xué)教授。在網(wǎng)站的介紹頁面，他們寫了這樣一段話：

“在互聯(lián)網(wǎng)上，沒有人知道你是一只狗。”

他們這樣寫道：

過去的四分之一個世紀(jì)里，我們在漫畫里展示的教訓(xùn)中不斷成長，互聯(lián)網(wǎng)上的陌生人可能是任何身份、來自任何地方。音樂論壇上的管理員可能是住在他媽媽房子地下室的小屁孩，聊天室里的一個十四歲的女孩可能是一名臥底警察，郵箱中找你重金求子或者讓你繼承遺產(chǎn)的女富商更是讓人一眼看過去就知道是騙子。

雖然我們已經(jīng)學(xué)會不再相信對方的用戶名和文字介紹，但是照片卻不是這樣。我們曾經(jīng)一直相信，誰都無法憑空地合成一張圖片，一張照片上的人物必定是來自現(xiàn)實(shí)中的某個人。當(dāng)然，一個騙子可能用的是其他人的照片，但這樣做是一個冒險(xiǎn)的策略，在谷歌利用圖片搜索進(jìn)行反向查找，總能找到照片的來源。所以我們傾向于信任圖片，帶圖片的商家資料顯然更可信，在約會網(wǎng)站上的照片可能比本人差距要大很多，但是因?yàn)橛姓掌?，我們總能找到它一定來源于某個人。

可是，新的逆向機(jī)器學(xué)習(xí)算法打破了這一規(guī)則，它可以讓人們快速生成從未存在過的人的“合成照”。

這些照片都是 AI 生成的，你相信嗎？

計(jì)算機(jī)很好很強(qiáng)大，但你作為人類的視覺處理系統(tǒng)其實(shí)更好。如果你了解一些技巧，就可以一眼就看出這些假貨，至少目前是這樣。用于生成它們的硬件和軟件將繼續(xù)改進(jìn)，并且可能只用幾年時間就能騙過專業(yè)的檢測系統(tǒng)。

我們的目標(biāo)是讓您了解：網(wǎng)絡(luò)上的身份可以輕松偽裝，并幫助您一目了然地發(fā)現(xiàn)這些騙局。

03

萬“惡”之源：StyleGAN

這個網(wǎng)站的作者強(qiáng)調(diào)說：他們并不是這套模型的原作者，而是使用者，真正的作者是來自知名半導(dǎo)體公司英偉達(dá)的幾位工程師：Tero Karras，Samuli Laine 和 Timo Aila，他們基于 Ian Goodfellow 及其同事在 Generative Adversarial Neworks（GANs）的早期工作而進(jìn)行的研發(fā)，做出了這套名為：StyleGAN 的模型。

2019 年 2 月，圖形硬件制造商英偉達(dá)發(fā)布了照片級真實(shí)面部生成軟件 StyleGAN 的開源代碼。該軟件采用生成對抗網(wǎng)絡(luò)（GAN）方法，利用兩個神經(jīng)網(wǎng)絡(luò)互相訓(xùn)練，一個試圖生成與真實(shí)照片無法區(qū)分的合成圖像，另一個試圖分辨出差異，這樣訓(xùn)練幾個星期后，圖像創(chuàng)建網(wǎng)絡(luò)可以生成像上面展示的那樣以假亂真的圖像。

依靠 StyleGAN 合成的照片

除了對抗性網(wǎng)絡(luò)系統(tǒng)的代碼之外，NVIDIA 還以神經(jīng)網(wǎng)絡(luò)權(quán)重的形式發(fā)布了數(shù)據(jù)，用于完整訓(xùn)練的模型，以便用戶可以繞過漫長的訓(xùn)練過程并立即開始生成面部合成照。在訓(xùn)練過程中，GAN 需要一組真實(shí)的面孔來學(xué)習(xí)，NVIDIA 提供的網(wǎng)絡(luò)擁有了兩個大型面部照片集合 CELEBA-HQ 和 FFHQ，前者包括數(shù)以千計(jì)的名人面孔，后者包括根據(jù)創(chuàng)意公共許可證發(fā)布到 Flickr 的 70,000 張面部照片。

用于訓(xùn)練的來自 [FFHQ 數(shù)據(jù)集] 的真實(shí)面部照片(https://github.com/NVlabs/ffhq-dataset)

除了我們上面展示的網(wǎng)站，由 StyleGAN 合成的照片還發(fā)布在另一個網(wǎng)站上：http://thispersondoesnotexist.com

訪問者每刷新一次就會生成一張新的照片。不過，畢竟是依靠算法生成的圖片，總有玩兒脫的時候，下圖展示的就是一些合成失敗的案例：

扭曲的下巴與詭異的帽子

“分筋錯骨手”

04

人臉都能合成了，還有安全可言嗎？

雖然合成人臉照片很酷，但是這樣的做法不免的引起了網(wǎng)友的恐慌。有不少人表示：人臉都能合成，安全問題該如何保證？

我們都知道對話機(jī)器人已經(jīng)部分取代了客服的工作，不少銀行、商家的客服都已經(jīng)是 AI 了。我們的編輯前不久就接到一通來自銀行的客服電話，聲音雖然仍有明顯的合成痕跡，但已經(jīng)很貼近真實(shí)的人聲了。

與你對話的是 AI，給你看的照片也是 AI，就連視頻里的人物都可以利用 deepfakes 來進(jìn)行“換臉”，人工智能雖然極大地方便了我們的生活，但由此帶來的安全隱患卻不得不引起重視。人臉識別目前幾乎是最為普及的 AI 技術(shù)了，目前尚不清楚是否能夠依靠“換臉”這樣的技術(shù)手段騙過此類系統(tǒng)，但是由于這種手段的存在，總讓人難以放心。

05

最后彩蛋

本文封面圖同樣來自文中提到的網(wǎng)站http://www.whichfaceisreal.com，圖中左邊的漂亮妹子是AI生成的，而右邊則是真實(shí)存在的。你猜對了嗎？