深度造假寫手。

今年年初，OpenAI開發(fā)了一個(gè)“AI造假寫手”，由于被認(rèn)為“太危險(xiǎn)”而無法完整對外公開。最近，這款A(yù)I模型發(fā)布了更全新，更強(qiáng)大的版本。據(jù)媒體所言，現(xiàn)在，它真的可以自如地寫假新聞或者垃圾郵件了。

這款A(yù)I的模型叫做GPT-2，它的內(nèi)部包含了15億個(gè)參數(shù)，是在800萬個(gè)網(wǎng)頁數(shù)據(jù)集上訓(xùn)練而成的。而制作它的主要目的，是用以接替自己的第一代，執(zhí)行語言建模的任務(wù)。

簡單來說，它的功能就是根據(jù)人類給出的一句話，編寫接下來的文本，同時(shí)在此基礎(chǔ)上，對整個(gè)文章細(xì)節(jié)進(jìn)行補(bǔ)充。

在模型公布新版本后，一些感興趣的AI專家對其進(jìn)行了測試。他們試著把一條真新聞的內(nèi)容放進(jìn)了模型中，這條內(nèi)容為：

“

搜狗正在打造AI語音仿人版，以后讀者可以聽到作者朗讀的有聲小說。

”

AI寫手接收到該信息之后，便編寫了如下文字：

“

根據(jù)研究人員表示，這種閱讀方式的創(chuàng)意來源于Kindle用戶。同時(shí)，一部分安卓用戶也表達(dá)了同樣的需求。以下有三個(gè)原因可以解答為何他們需要這項(xiàng)服務(wù)。首先，使用這些設(shè)備的用戶，和傳統(tǒng)的電腦上閱讀者的習(xí)慣不同……未來，當(dāng)讀者使用該功能時(shí)，可能會真的以為作者們在為他們朗讀小說。

”

BBC當(dāng)時(shí)報(bào)道的真新聞從AI續(xù)寫的內(nèi)容中，可以看出它具備有很強(qiáng)的邏輯能力，能找到輔助資料對新聞進(jìn)行補(bǔ)充，整個(gè)短訊也足夠完整。一家科技網(wǎng)站的作者對此結(jié)果感到害怕，他認(rèn)為這項(xiàng)技術(shù)代表著壞人可以操縱他人，在他看來，這甚至比任何槍支還要危險(xiǎn)。

其實(shí)早在年初之時(shí)，就已經(jīng)有許多人對GPT-2表示了擔(dān)憂。在這個(gè)原本就信息爆炸，人們越來越難分清信息真假的年代，GPT-2可以毫無違和的融入進(jìn)去。如果它真的能獨(dú)立、完整地書寫各類新聞，由誰使用它就變得尤為重要。

如果使用者居心不良，它可以發(fā)表極端言論，偽造內(nèi)容，成為引導(dǎo)輿論的政治工具。OpenAI也意識到了這個(gè)問題，因此他們一直沒有公開完整的預(yù)訓(xùn)練模型，都是放出小版本的模型供以測試。

謝菲爾德大學(xué)的計(jì)算機(jī)教授諾埃爾卻表示，人類可能沒必要感到恐慌。在對模型進(jìn)行了多次的測驗(yàn)，輸入了很多次文字開頭后，他發(fā)現(xiàn)AI寫手還是犯下了許多錯誤，好比不連貫和奇怪的字句，以及和輸入標(biāo)題毫無關(guān)系的內(nèi)容填充。

“

我輸入了‘火雞討厭圣誕節(jié)’，但是得到的答案是：火雞是世界上唯一一個(gè)不慶祝圣誕節(jié)的國家。當(dāng)然，附帶上了一些不相關(guān)的句子。

”

圖源：fxtradingrevolution人工智能咨詢公司的創(chuàng)始人戴夫，也對這個(gè)模型進(jìn)行了測試，他輸入的是一個(gè)經(jīng)典英國笑話的開頭：一個(gè)男人走進(jìn)了酒吧。

結(jié)果，GPT-2續(xù)寫的內(nèi)容是：

“

他點(diǎn)了2品脫啤酒和2杯蘇格蘭威士忌。當(dāng)他想要結(jié)賬的時(shí)候，他遇到了2個(gè)人，其中一個(gè)大喊著說：‘這杯是給敘利亞的！’這名男子說完后，喉嚨就被人刺傷，血涌不止。

”

在戴夫看來，這個(gè)故事看似荒謬，實(shí)際上卻說明了模型的部分訓(xùn)練數(shù)據(jù)，就是來自于互聯(lián)網(wǎng)新聞報(bào)道。它呈現(xiàn)出來的偏見，就是現(xiàn)當(dāng)下社會新聞所暴露出來的問題。如果AI寫手持續(xù)以此作為訓(xùn)練，模型編寫的內(nèi)容可能會引起更多的爭議。盡管有所擔(dān)憂，戴夫相信這些問題都會被解決。

而他認(rèn)為，一旦大家對GPT-2的擔(dān)憂被消除后，人們可能會面對一個(gè)更重要的探討：人工和機(jī)器制造內(nèi)容越來越難以區(qū)分之時(shí)，我們究竟應(yīng)該如何正確看待這個(gè)世界。