近日，學(xué)習(xí)算法先驅(qū)人物、《深度學(xué)習(xí)革命》一書(shū)作者Terrence Sejnowski在接受The Verge訪談時(shí)簡(jiǎn)要介紹了AI的起源和發(fā)展，同時(shí)表示，關(guān)于“殺人AI”和“機(jī)器人代替人類”等概念更多是過(guò)度炒作的結(jié)果，因?yàn)槿藗儗?duì)AI新技術(shù)的期待有些過(guò)于著急了。令他印象最深刻的技術(shù)是生成對(duì)抗網(wǎng)絡(luò)。

近日，計(jì)算神經(jīng)科學(xué)家、《深度學(xué)習(xí)革命》一書(shū)作者Terrence Sejnowski在接受采訪時(shí)表示，現(xiàn)在像“深度學(xué)習(xí)”和“神經(jīng)網(wǎng)絡(luò)”這樣的流行語(yǔ)無(wú)處不在，但是大多數(shù)對(duì)這些詞語(yǔ)的理解都被誤導(dǎo)了。

Sejnowski是研究學(xué)習(xí)算法的先驅(qū)，《深度學(xué)習(xí)革命》（The Deep Learning Revolution）一書(shū)的作者，該書(shū)新版本將于下周由麻省理工學(xué)院出版社出版。

他認(rèn)為，關(guān)于“殺手AI”或“機(jī)器人超越人類”的話題熱議過(guò)于關(guān)注危機(jī)的一面，忽視了計(jì)算機(jī)科學(xué)和神經(jīng)科學(xué)領(lǐng)域中令人興奮的可能，也忽視了當(dāng)人工智能與人類智能時(shí)發(fā)生碰撞時(shí)會(huì)發(fā)生什么。

近日，Sejnkowski接受The Verge訪談時(shí)，談到了“深度學(xué)習(xí)”一詞為何突然變得無(wú)處不在，深度學(xué)習(xí)能做什么、不能做什么，以及對(duì)這一概念的炒作問(wèn)題。

首先，我想問(wèn)一下定義問(wèn)題。人們幾乎可以完全互換地使用“人工智能”、“神經(jīng)網(wǎng)絡(luò)”、“深度學(xué)習(xí)”和“機(jī)器學(xué)習(xí)”等詞。但實(shí)際上這些詞指的是不同的東西，您能解釋一下有哪些不同嗎？

Sejnowski是研究學(xué)習(xí)算法的先驅(qū)，《深度學(xué)習(xí)革命》一書(shū)的作者

人工智能（AI）的誕生可以追溯到1956年，當(dāng)時(shí)美國(guó)的一些工程師們決定編寫(xiě)一個(gè)能夠嘗試模仿人類智能的計(jì)算機(jī)程序。而機(jī)器學(xué)習(xí)是在AI中逐步壯大的一個(gè)新領(lǐng)域。傳統(tǒng)的人工智能方法是編寫(xiě)一個(gè)循序漸進(jìn)的程序來(lái)實(shí)現(xiàn)某件事情，而機(jī)器學(xué)習(xí)是收集大量試圖理解其內(nèi)容的數(shù)據(jù)。

比如你正在嘗試識(shí)別目標(biāo)，你可以收集大量的圖像。然后，通過(guò)機(jī)器學(xué)習(xí)這個(gè)自動(dòng)化的過(guò)程，就可以剖析各種功能，可以確定某個(gè)目標(biāo)是一輛汽車，而另一個(gè)目標(biāo)是一臺(tái)訂書(shū)機(jī)。

機(jī)器學(xué)習(xí)是一個(gè)非常大的領(lǐng)域，并且可以追溯到最初人們稱之為“模式識(shí)別”的階段，但現(xiàn)在的算法在數(shù)學(xué)上變得更加廣泛和復(fù)雜。在機(jī)器學(xué)習(xí)中包括受大腦啟發(fā)而建立的神經(jīng)網(wǎng)絡(luò)，然后才是深度學(xué)習(xí)。深度學(xué)習(xí)算法具有特定的體系結(jié)構(gòu)?；旧峡梢赃@樣講，深度學(xué)習(xí)是機(jī)器學(xué)習(xí)的一部分，而機(jī)器學(xué)習(xí)是人工智能的一部分。

有哪些事情是機(jī)器學(xué)習(xí)能做，其他程序做不了的？

編寫(xiě)程序非常耗費(fèi)人力。在過(guò)去，計(jì)算機(jī)運(yùn)算速度很慢，內(nèi)存又非常昂貴，以至于必須求助于邏輯，這就是計(jì)算機(jī)的工作原理，是控制信息的基本機(jī)器語(yǔ)言。因?yàn)橛?jì)算機(jī)太慢了、計(jì)算成本太高了。

但現(xiàn)在，計(jì)算已經(jīng)越來(lái)越便宜，勞動(dòng)力越來(lái)越昂貴。計(jì)算力甚至便宜到了這種程度：讓計(jì)算機(jī)去學(xué)習(xí)，比讓人類編寫(xiě)程序更有效率。從那時(shí)起，深度學(xué)習(xí)實(shí)際上已經(jīng)開(kāi)始解決以前在計(jì)算機(jī)視覺(jué)和翻譯等領(lǐng)域的問(wèn)題。而在此之前，人類的編程未踏足過(guò)這些領(lǐng)域。

深度學(xué)習(xí)是計(jì)算密集型活動(dòng)，但用戶只需編寫(xiě)一個(gè)程序，并提供不同的數(shù)據(jù)集，就可以解決不同的問(wèn)題。用戶不必非要是相關(guān)領(lǐng)域?qū)＜?。因此，?duì)于存在大量數(shù)據(jù)的任何事物，都可以產(chǎn)生成千上萬(wàn)的應(yīng)用程序。

“深度學(xué)習(xí)”現(xiàn)在似乎無(wú)處不在。這個(gè)詞是如何變得如此流行的？

關(guān)于這個(gè)時(shí)間點(diǎn)我其實(shí)可以明確確認(rèn)：就是在2012年12月的NIPS會(huì)議上，這是最大的人工智能會(huì)議。這次會(huì)議上，Geoff Hinton和他的兩個(gè)研究生表明，使用一個(gè)名為ImageNet的大型數(shù)據(jù)集，其中包含10000個(gè)類別和1000萬(wàn)個(gè)圖像，并使用深度學(xué)習(xí)將分類錯(cuò)誤率降低了20％。

一般來(lái)說(shuō)，該數(shù)據(jù)集的圖像分類錯(cuò)誤率每年只能降低不到1％。這一年的改進(jìn)頂了20年的研究。從此之后，閘門(mén)就被打開(kāi)了。

深度學(xué)習(xí)的靈感來(lái)自大腦。那么這些不同領(lǐng)域之間，比如計(jì)算機(jī)科學(xué)和神經(jīng)科學(xué)之間，是如何協(xié)同工作的？

深度學(xué)習(xí)的靈感來(lái)自神經(jīng)科學(xué)，最成功的深度學(xué)習(xí)網(wǎng)絡(luò)是Yann LeCun開(kāi)發(fā)的卷積神經(jīng)網(wǎng)絡(luò)（CNN）。

考察一下CNN的架構(gòu)，它不僅僅是由很多單元組成的，而且這些單元的連接方式基本反映出大腦的結(jié)構(gòu)。在關(guān)于視覺(jué)系統(tǒng)和視覺(jué)皮層的基礎(chǔ)研究中，表明大腦的一部分存在簡(jiǎn)單細(xì)胞和復(fù)雜細(xì)胞。在CNN的架構(gòu)中，也存在簡(jiǎn)單細(xì)胞和復(fù)雜細(xì)胞的等價(jià)結(jié)構(gòu)，CNN的架構(gòu)設(shè)計(jì)直接來(lái)源于我們對(duì)視覺(jué)系統(tǒng)的理解。

Yann沒(méi)有盲目地試圖復(fù)制大腦皮層。他嘗試了許多不同的變化，但他選擇嘗試的是那些自然融合的變化。這是一個(gè)重要的觀察結(jié)果。我們?cè)谧匀慌c人工智能的融合中可以學(xué)到很多東西，而且還有很長(zhǎng)的路要走。

《深度學(xué)習(xí)革命》2018年版封面

我們對(duì)計(jì)算機(jī)科學(xué)的理解，在多大程度上取決于我們對(duì)大腦的理解程度？

我們現(xiàn)在研究和使用的大部分AI都是基于我們?cè)谏鲜兰o(jì)60年代對(duì)大腦的了解。我們現(xiàn)在知道的更多了，可以將更多的知識(shí)融入到神經(jīng)網(wǎng)絡(luò)架構(gòu)中。

擊敗世界圍棋冠軍的AlphaGo的架構(gòu)中不僅包括皮質(zhì)模型，還包括大腦的另一部分模型，稱為基底神經(jīng)節(jié)，這部分結(jié)構(gòu)對(duì)于制定一系列決策來(lái)實(shí)現(xiàn)目標(biāo)非常重要。有一種稱為時(shí)間差異的算法，是Richard Sutton在上世紀(jì)80年代開(kāi)發(fā)的，將這種算法與深度學(xué)習(xí)相結(jié)合，能夠進(jìn)行人類前所未見(jiàn)的復(fù)雜游戲。

當(dāng)我們了解了大腦的結(jié)構(gòu)，開(kāi)始明白如何將其集成到人工系統(tǒng)中時(shí)，AI的功能將會(huì)越來(lái)越強(qiáng)大。

人工智能也會(huì)影響神經(jīng)科學(xué)嗎？

這兩個(gè)領(lǐng)域是并行的。神經(jīng)技術(shù)創(chuàng)新已經(jīng)取得了巨大的進(jìn)步，從一次記錄一個(gè)神經(jīng)元，到同時(shí)記錄數(shù)千個(gè)神經(jīng)元，同時(shí)記錄大腦中的多個(gè)部分的反應(yīng)，可以說(shuō)完全開(kāi)辟了一個(gè)全新的世界。

我認(rèn)為，人工智能與人類智能之間存在著一種趨同。隨著我們?cè)絹?lái)越多地了解大腦的工作原理，這些新知識(shí)將會(huì)反映在AI中。而與此同時(shí)，我們實(shí)際上也創(chuàng)造出了一整套可用于理解大腦的學(xué)習(xí)理論，可以讓我們分析成千上萬(wàn)的神經(jīng)元及其活動(dòng)是如何產(chǎn)生的。所以說(shuō)，神經(jīng)科學(xué)和人工智能之間存在著這種相互反饋和循環(huán)，我認(rèn)為這一點(diǎn)更令人興奮，也更為重要。

您即將出版的《深度學(xué)習(xí)革命》一書(shū)中討論了許多不同的深度學(xué)習(xí)應(yīng)用，從自動(dòng)駕駛汽車到交易。您覺(jué)得哪個(gè)領(lǐng)域最有趣？

我覺(jué)得是生成對(duì)抗網(wǎng)絡(luò)（GAN）。如果使用傳統(tǒng)的神經(jīng)網(wǎng)絡(luò)，你給出一個(gè)輸入，得到一個(gè)輸出。 而GAN能夠在沒(méi)有輸入的情況下生成輸出。

我第一次聽(tīng)說(shuō)GAN的時(shí)候，正值由網(wǎng)絡(luò)創(chuàng)建的假視頻風(fēng)行的時(shí)候。GAN真的會(huì)產(chǎn)生足以亂真的假視頻，對(duì)吧？

從某種意義上說(shuō)，它們是在生成內(nèi)部活動(dòng)。事實(shí)證明，人的大腦就是這樣運(yùn)作的。你可以看到并理解一些東西，然后閉上眼睛，開(kāi)始想象實(shí)際并不存在的東西。你的腦子里會(huì)產(chǎn)生一個(gè)視覺(jué)圖像，周圍安靜下來(lái)時(shí)，你會(huì)有想法。那是因?yàn)槟愕拇竽X是生成性的?，F(xiàn)在，這種新型網(wǎng)絡(luò)可以生成從未存在過(guò)的新模式。

所以打個(gè)比方，你可以給GAN輸入幾百?gòu)埰噲D片，它就會(huì)創(chuàng)建內(nèi)部結(jié)構(gòu)，可以生成實(shí)際上不存在的汽車的新圖像，這些圖像看起來(lái)完全和汽車相似。

另一方面，您認(rèn)為哪些想法或概念可能被過(guò)度炒作了？

沒(méi)有人可以預(yù)測(cè)或想象這種新技術(shù)的引入會(huì)對(duì)未來(lái)產(chǎn)生什么影響。這里邊當(dāng)然存在炒作。我們還沒(méi)有解決真正困難的問(wèn)題。現(xiàn)在我們還沒(méi)有實(shí)現(xiàn)通用智能，但人們都說(shuō)機(jī)器人就在那里靜靜等著，等著取代人類，盡管目前機(jī)器人的發(fā)展遠(yuǎn)遠(yuǎn)落后于AI，因?yàn)槠鋵?shí)模仿人類的身體比模仿大腦更加復(fù)雜。

這里以一項(xiàng)技術(shù)進(jìn)步為例：激光。激光是在大約50年前發(fā)明的，當(dāng)時(shí)的激光發(fā)射器大到占據(jù)了整個(gè)一間房。從那時(shí)起，一直到現(xiàn)在的激光器可以縮小到做講演時(shí)使用的“激光筆”大小，而且僅售5美元，激光技術(shù)的商業(yè)化過(guò)程長(zhǎng)達(dá)50年。

同樣的事情也將發(fā)生在像自動(dòng)駕駛汽車之類的技術(shù)上。自駕車可能明年無(wú)法普及，10年內(nèi)無(wú)法普及，要普及可能需要50年，但重點(diǎn)是，在整個(gè)普及過(guò)程中，技術(shù)會(huì)不斷進(jìn)步，會(huì)變得越來(lái)越靈活和安全，與我們的交通運(yùn)輸網(wǎng)絡(luò)的組織形式更加兼容。現(xiàn)在的問(wèn)題是，人們太著急了，過(guò)分期待新技術(shù)盡快到來(lái)，其實(shí)假以時(shí)日，新技術(shù)總會(huì)到來(lái)的。