2016年美國(guó)總統(tǒng)大選期間，社交網(wǎng)絡(luò)上充斥著不準(zhǔn)確和誤導(dǎo)性的文章。從那以后，科技公司——從Facebook、Google等這樣的大公司到生氣勃勃的初創(chuàng)公司——已經(jīng)打造了一些工具來打擊錯(cuò)誤信息（包括許多人稱之為“假新聞”的文章，盡管這個(gè)詞被高度政治化了）。大多數(shù)公司已求助于人工智能（AI），希望快速且自動(dòng)化的計(jì)算機(jī)系統(tǒng)能夠解決這個(gè)看起來像互聯(lián)網(wǎng)一樣大的問題。

“他們都在使用人工智能，因?yàn)樗麄冃枰獢U(kuò)大處理規(guī)模?！盋laireWardle說。她是哈佛大學(xué)約翰肯尼迪政府學(xué)院承擔(dān)的錯(cuò)誤信息斗爭(zhēng)項(xiàng)目FirstDraft的負(fù)責(zé)人。她說，AI可以使那些耗時(shí)的步驟（例如，仔細(xì)檢查每天在線發(fā)布的大量?jī)?nèi)容并標(biāo)記出可能虛假的內(nèi)容）加快。

不過，Wardle說，人工智能無(wú)法做出最終的判斷?！皩?duì)于機(jī)器來說，你如何編碼'誤導(dǎo)性的'（misleading）呢？即使是人類也難以定義它。生活是混亂、復(fù)雜和微妙的，人工智能要做到理解這一點(diǎn)，還有很長(zhǎng)的路要走。”

Facebook曾因未能在2016年對(duì)虛假內(nèi)容采取行動(dòng)而廣受批評(píng)。Facebook稱，它將在今年11月的美國(guó)中期選舉中以及全球其他選舉中利用人工智能把打擊虛假內(nèi)容一事做得更好。Facebook產(chǎn)品經(jīng)理JimKleban致力于減少網(wǎng)站newsfeed中的錯(cuò)誤信息，他解釋說Facebook現(xiàn)在使用AI來增強(qiáng)人類智能。AI檢查每天在Facebook上分享的數(shù)百萬(wàn)個(gè)鏈接，識(shí)別出其中的可疑內(nèi)容，然后將它們發(fā)送給事實(shí)核查人員。他說：“在可預(yù)見的未來，所有這些系統(tǒng)都需要混合型解決方案?！?/p>

當(dāng)事實(shí)核查人員認(rèn)為一段內(nèi)容是虛假內(nèi)容時(shí)，F(xiàn)acebook會(huì)降低其在用戶的newsfeed中的排序位置。Kleban說，這種方法使虛假內(nèi)容的被瀏覽次數(shù)減少了80%。

Facebook的AI是通過機(jī)器學(xué)習(xí)——AI系統(tǒng)接收大量被標(biāo)記過的資料的數(shù)據(jù)，并獨(dú)立地尋找出模式的一種技術(shù)——進(jìn)行訓(xùn)練的。例如，圖像分類AI可能會(huì)查看數(shù)百萬(wàn)張標(biāo)有“貓”或“狗”的照片，而學(xué)習(xí)到貓和狗的區(qū)別特征。但是，訓(xùn)練AI來識(shí)別虛假內(nèi)容要難得多。

Kleban說，F(xiàn)acebook的AI從內(nèi)容來源開始，利用各種信號(hào)來挑選出包含錯(cuò)誤信息的文章：“知道某個(gè)網(wǎng)頁(yè)或網(wǎng)站過去分享過虛假內(nèi)容，就可以預(yù)測(cè)它會(huì)再次分享虛假內(nèi)容，這樣的預(yù)測(cè)往往是很準(zhǔn)確的?！碧摷賰?nèi)容在網(wǎng)絡(luò)上的傳播方式也可能存在一種可識(shí)別的模式；Kleban說這是一個(gè)活躍的研究領(lǐng)域。至于文本本身，AI沒有能力評(píng)估內(nèi)容的真實(shí)性，但它可以找到信號(hào)，例如在評(píng)論部分有對(duì)文本內(nèi)容表示不信任的表達(dá)。

總部位于倫敦的初創(chuàng)公司Factmata正在開發(fā)一種采用不同方法的人工智能系統(tǒng)，該公司的知名投資者包括Twitter共同創(chuàng)始人BizStone和Craigslist創(chuàng)始人CraigNewmark。Factmata創(chuàng)始人DhruvGhulati說，公司并不特別關(guān)注內(nèi)容的出版者或他們的聲譽(yù)，“我們希望根據(jù)內(nèi)容本身來對(duì)內(nèi)容進(jìn)行判斷?！?/p>

Factmata的系統(tǒng)采用的也是人機(jī)合作的混合型方案，雖然其配置是不同的：人是對(duì)內(nèi)容進(jìn)行標(biāo)記的專家，做過標(biāo)記的內(nèi)容用于AI的訓(xùn)練。Ghulati說：“像假新聞和宣傳這樣的東西在本質(zhì)上是差別細(xì)微的和主觀的。確實(shí)需要專業(yè)知識(shí)來理解內(nèi)容的性質(zhì)并對(duì)其進(jìn)行適當(dāng)?shù)臉?biāo)記。”通過那些標(biāo)記過的數(shù)據(jù)集，F(xiàn)actmata正在訓(xùn)練其AI識(shí)別政治上有偏見的內(nèi)容、虛假內(nèi)容和仇恨言論。

該公司目前正致力于互聯(lián)網(wǎng)的“后端”，幫助互聯(lián)網(wǎng)廣告交易平臺(tái)（advertisingexchanges）避免在有問題的內(nèi)容上投放廣告。將來它可能會(huì)對(duì)社交網(wǎng)絡(luò)有用。Factmata的系統(tǒng)標(biāo)記了可疑內(nèi)容并解釋了其可疑之處，但該公司將怎樣處理那些內(nèi)容的決定權(quán)留給了客戶。

一些最初是面向其他新聞目標(biāo)的公司也加入了競(jìng)爭(zhēng)?？偛课挥诙及亓值腘ewsWhip向新聞機(jī)構(gòu)銷售一款基于人工智能的工具，這款工具可以發(fā)現(xiàn)熱門內(nèi)容并預(yù)測(cè)其傳播情況，從而使新聞團(tuán)隊(duì)能夠快速注意到那些正在像病毒一樣迅速在網(wǎng)上傳播的新聞報(bào)道。在法國(guó)、英國(guó)和德國(guó)最近的選舉中，記者們利用該工具發(fā)現(xiàn)并揭穿了那些在社交網(wǎng)絡(luò)上廣受關(guān)注的虛假新聞報(bào)道。

總部位于倫敦的Krzana公司用一種定制的實(shí)時(shí)newsfeed幫助記者發(fā)現(xiàn)突發(fā)新聞。記者可使用Krzana的基于AI的工具發(fā)現(xiàn)四種語(yǔ)言（將來還會(huì)有更多種語(yǔ)言）的內(nèi)容，這些內(nèi)容是工具根據(jù)記者選擇的關(guān)鍵詞和搜索詞找出來的。在墨西哥最近的選舉中，一個(gè)媒體聯(lián)盟使用Krzana的工具快速找到了可能包含錯(cuò)誤信息的新聞。

Krzana的共同創(chuàng)始人TobyAbel說：“記者是第一批閱讀這些報(bào)道的人，而不是等到這些報(bào)道被很多人分享后才去讀。如果它們是假的，它們很快就會(huì)遭到反擊?！?/p>

Abel說AI錯(cuò)誤信息檢測(cè)器本身還不可靠，他同意需要人機(jī)合作。他引用了與2018年墨西哥大選有關(guān)的一個(gè)例子，在這次大選中，一位政治候選人以戲謔的方式回應(yīng)了對(duì)其與俄羅斯的關(guān)系的指控：他走到碼頭，宣稱自己正在等他的俄羅斯?jié)撏А！叭绻跊]有外部背景和理解的情況下閱讀這篇文章，它看起來就像假新聞。但事實(shí)上并非如此?！卑⒇悹栒f。

對(duì)于試圖識(shí)別虛假內(nèi)容的人工智能系統(tǒng)來說，諷刺性表達(dá)是最棘手的問題之一。各公司也在努力找出圖像、視頻、圖表和其他非文本內(nèi)容中的錯(cuò)誤信息。欺騙的可能性似乎無(wú)窮無(wú)盡，例如，照片可能是合理的，但其標(biāo)題可能具有誤導(dǎo)性。

總部位于倫敦的非營(yíng)利性事實(shí)核查機(jī)構(gòu)FullFact試圖避開灰色地帶。它正在利用機(jī)器學(xué)習(xí)來改進(jìn)一種能掃描文本和視頻腳本的工具，尋找經(jīng)濟(jì)趨勢(shì)和法律訴訟等主題的、可被事實(shí)核查人員核實(shí)的事實(shí)類報(bào)道。FullFact的自動(dòng)事實(shí)核查負(fù)責(zé)人MevanBabakar表示，該工具還將來自許多不同新聞來源的類似報(bào)道聚集在一起?！耙虼耍诿恳惶斓拈_始，我都會(huì)對(duì)我的事實(shí)核查員們說，'這是排名前五的像野火一樣蔓延的最熱門報(bào)道。'”

Factmata的Ghulati表示，今天的AI系統(tǒng)可能還沒有準(zhǔn)備好獨(dú)立解析復(fù)雜的報(bào)道或做出關(guān)于真相的精細(xì)決策，但這并不意味著現(xiàn)在不應(yīng)該部署它們。“風(fēng)險(xiǎn)在于，你試圖得到假新聞的完美定義，卻永遠(yuǎn)得不到答案”，他說，“重要的是要建造一些東西?！?/p>

本文的節(jié)略版將刊登在2018年9月那一期的印刷版IEEESPECTRUM上。