在新智元AI World 2018世界人工智能峰會上，MIT物理系終身教授、未來生命研究所創(chuàng)始人、《生命3.0》的作者Max Tegmark作了《人類如何通過人工智能“賦能”，而不是被其“操縱”》的研究，Tegmark認(rèn)為，我們應(yīng)該認(rèn)真思考未來，思考如何引領(lǐng)技術(shù)發(fā)展的方向，讓AI會增強人類，而非操縱人類。

9月20日，在新智元AI World 2018世界人工智能峰會上，MIT物理系終身教授、未來生命研究所創(chuàng)始人、《生命3.0》的作者Max Tegmark分享了他對“更遠的未來”的想法。

Tegmark在他的暢銷書《生命3.0》中設(shè)想了一個具有發(fā)展階段的生命歷程。生命1.0就是最原始的生命形式，如細(xì)胞，生命只是在不停復(fù)制。

到了生命2.0階段，這是人類所在的地方：人類能夠?qū)W習(xí)，適應(yīng)不斷變化的環(huán)境，并能有意地改變這些環(huán)境。但我們還不能改變我們的身體自身，不能改變我們的生物遺傳。Tegmark 將這種對比比喻成軟件和硬件之間的對比。

第三個階段，即生命 3.0 階段。在這個階段，我們把人工智能用于所有任務(wù)，也就是所謂的AGI（通用人工智能）。人類不僅可以重新設(shè)計自身的軟件，還可以重新設(shè)計自身的硬件。

Tegmark說，我們現(xiàn)在技術(shù)發(fā)展和AI發(fā)展的現(xiàn)狀非常復(fù)雜，但是有一點可以確定，就是大多數(shù)的研究員在某種程度上已經(jīng)能夠建立AGI，AI在很多任務(wù)上已經(jīng)能做得比人類更好。當(dāng)然，這也是非常有爭議的部分，可能會帶來技術(shù)的爆炸。

Tegmark表示，如果考慮未來可能面臨的挑戰(zhàn)，這會是人類歷史上犯下的一個巨大的錯誤。但是因為技術(shù)是如此的有力，我們在實現(xiàn)技術(shù)能力的道路上會犯下很多錯誤。我們應(yīng)該如何引導(dǎo)技術(shù)的發(fā)展，為人類創(chuàng)造一個非常美好的未來，這是美國、中國以及所有國家都應(yīng)該思考的問題。

以下是Max Tegmark在新智元AI World 2018世界人工智能峰會上的演講實錄，他的演講主題是《人類如何通過人工智能“賦能”，而不是被其“操縱”》。

從生命1.0到生命3.0

Max Tegmark：非常高興能夠來到這里，前面幾位嘉賓已經(jīng)談了很多最近AI的驚人發(fā)展，以及在不久的未來我們期望看到的AI的進一步發(fā)展。接下來我就和大家談一談更遠的未來。

首先讓我們回顧一下AI在宇宙透視圖當(dāng)中的位置，宇宙是從哪里來的呢？我們是怎么成為現(xiàn)在的自己呢？怎樣從一個非常小的行星，形成了一個巨大的宇宙？我們用望遠鏡也可以看到，整個宇宙是非常巨大的，盡管是地球給了我們生命，但宇宙似乎仍舊不被我們所理解，宇宙實際上讓我們敬畏。

我們正在研發(fā)的技術(shù)能夠幫助我們?nèi)チ私馍?，不僅僅是幾個世紀(jì)以前，甚至是幾十億年以前的生命。

我把最早的生命稱作生命1.0（Life 1.0），因為它是最原始的生命形式，例如細(xì)胞，這一階段的生命無法學(xué)習(xí)。

我把人類生命稱作生命2.0（Life 2.0），我們已經(jīng)可以學(xué)習(xí)了，而且可以 在我們的大腦中安裝新的軟件，比如語言、工作技能。所有這些使人類成為成為世界上最強大的物種。

在生命3.0（Life 3.0），我們不僅能夠開發(fā)軟件，而且能夠開發(fā)硬件。當(dāng)然，Life 3.0現(xiàn)在還不存在。不過或許技術(shù)已經(jīng)發(fā)展到Life 2.1的階段，創(chuàng)造出人工義肢、心臟起搏器等等增強我們身體的硬件。

那么，讓我們看一下我們與技術(shù)的關(guān)系。

AI將在所有任務(wù)達到人類水平

我們的世界是非常神奇的，我們知道如何明智地使用技術(shù)去實現(xiàn)我們的夢想。例如發(fā)射火箭，我們知道如何給火箭的方向定位，如何達到那個目標(biāo)，所以我們就需要動力、方向和目標(biāo)。

但還有一段更鼓舞人心的旅程，它的動力比火箭的發(fā)動機更強大，它的乘客不僅是宇航員，而是整個人類。

我們要談?wù)摰氖侨祟愓w去往AI的未來的旅程。對于發(fā)射火箭來說，光有動力還不行，我們要知道它的方向和目標(biāo)。對于AI也是如此，接下來我們將談?wù)揂I的動力、方向和目標(biāo)。

什么是智能？智能就是去完成復(fù)雜目標(biāo)的能力，目標(biāo)越復(fù)雜我們就需要越多的智能。智能分為兩種：生物智能和人工智能。

智能就是關(guān)于所有信息處理的能力，不管是用大腦細(xì)胞的碳原子來處理，還是用GPU的硅原子還處理，或者其它我們創(chuàng)造出來的技術(shù)。

AI的發(fā)展如此迅速，讓人振奮。不久前我們還沒造出會走路的機器人，現(xiàn)在機器人已經(jīng)會做后空翻了；不久前我們還沒有做出無人駕駛汽車，現(xiàn)在已經(jīng)有自主的火箭了，它能夠自己著陸。不久前還不能用AI進行人臉識別，現(xiàn)在AI不久能很好地實現(xiàn)人臉識別，還能模擬和創(chuàng)造假的人臉。

不久前AI還不能在圍棋中勝過人類，但現(xiàn)在，正如你們知道的，AlphaGo已經(jīng)打敗了世界上最厲害的圍棋手，那還是使用很多人類經(jīng)驗、經(jīng)過很長時間訓(xùn)練的。后來的AlphaZero甚至完全不使用人類經(jīng)驗，僅僅自我訓(xùn)練了24小時，最終誕生出世界上最好的圍棋AI。

所有的這些進步實際上會帶來一些商業(yè)化的應(yīng)用，比如關(guān)于醫(yī)療，利用AI去診斷前列腺癌、肺癌和眼部疾病方面，甚至做外科手術(shù)，AI可以幫助我們實現(xiàn)目的。

我們說了很多AI方面取得的進展，這就提出一個基本的問題：AI能夠幫助我們做什么？AI會給中國帶來哪些好處？當(dāng)然，肯定是能夠讓中國的商業(yè)更加發(fā)達，也幫助中國的企業(yè)更加富有，比如如何通過AI改善教育、養(yǎng)老、醫(yī)療保健等等，可以讓我們過得更加幸福。

但在更遠的未來呢？這些技術(shù)能夠持續(xù)到多遠的未來？未來會發(fā)生什么？

對于“人工智能取代人類”的擔(dān)憂，從來都不是沒有來由的。我現(xiàn)在用人類能力地形圖來說明這個問題。

圖中的海拔高度代表了AI在執(zhí)行這些任務(wù)時達到人類水平的難度，海平面則表示了當(dāng)下AI所能達到的水平。海平面會隨著AI的進步上升，所以在這張地形圖上，會發(fā)現(xiàn)類似“全球變暖”的變化。我們顯然要避免那些近海區(qū)的工作，這些工作遲早會被人工智能取代。

那么一個問題是：AI最終將上升到多高的地方？海面最終會將所有的陸地覆蓋嗎？像下面這張圖這樣，AI在幾乎所有任務(wù)中都達到了人類水平？

這就是通用人工智能（AGI）的定義。可能有人會說：“還有很多事情是人類做得比機器好的！我們永遠不會到達AGI！”

如果你認(rèn)為AGI只是科幻故事，還有一種更瘋狂的觀點我們需要談一下，就是超級智能（super intelligence）。因為如果我們成功制造了AGI，那么從定義上來說，AI在所有工作上都比人類做得更好，包括在AI設(shè)計的工作上。

當(dāng)然，這也是一個非常有爭議的部分，可能會帶來技術(shù)的爆炸，因為我們一直去讓AI提升，最終可能AI會比人類做得好很多。

AI領(lǐng)域?qū)＜覍Υ擞胁煌挠^點。例如Rodney Brooks，他認(rèn)為再過幾個世紀(jì)也不會出現(xiàn)AGI。但Demis Hassabis的觀點就更積極，認(rèn)為AGI會實現(xiàn)，而且要更努力研究使其實現(xiàn)。

此外，最近的一項調(diào)查顯示，大部分AI研究人員和Demis Hassabis的觀點是一致的，認(rèn)為AGI能實現(xiàn)，可能是在50年后。

雖然沒有確定的答案，但思考這個問題是很重要的。如果機器能夠做任何事情，那還要人干什么？這對人類意味著什么？所以我們面臨著一種選擇：要么就是非常滿足于此，我們構(gòu)建這些機器讓它們來代替人類做所有事情，不用考慮后果如何。

但我認(rèn)為我們應(yīng)該更有野心一些。在令人鼓舞的高科技未來面前，我們應(yīng)該試著掌舵它的方向。

掌舵AI發(fā)展的方向：一個全球性挑戰(zhàn)

現(xiàn)在讓我們來到火箭發(fā)射的“Steering”（方向）部分。我們已經(jīng)讓技術(shù)越來越強大，你們該如何引導(dǎo)技術(shù)，讓技術(shù)幫助人類進步？

我和其他科學(xué)家一起成立了未來生命研究所。我們的目標(biāo)很簡單，就是讓未來的生活更加激勵人心、鼓舞人心。

我喜歡技術(shù)，我認(rèn)為今天的世界比明朝的時候好，正是因為我們擁有技術(shù)。我很樂觀地相信我們將建成一個非常高科技的未來，只要我們最終贏得這場競賽。什么競賽呢？就是越來越強大的科技和人類掌控這些技術(shù)的越來越強大的智慧之間的競賽。

要贏得這場競賽，人類需要改變策略。過去我們一直是從錯誤中學(xué)習(xí)。比如剛開始我們發(fā)明了火，經(jīng)歷了無數(shù)火災(zāi)之后，我們發(fā)明了滅火器。我們發(fā)明了汽車，出了幾次車禍?zhǔn)鹿手?，我們又發(fā)明了紅綠燈、安全氣囊、安全帶等等，以及一系列交通法規(guī)。

從錯誤中學(xué)習(xí)是好的，這讓科技朝著造福人類社會的方向發(fā)展。

但隨著技術(shù)變得越來越強大，最終會達到一個點，這是你不能再從錯誤中學(xué)習(xí)了。比如核武器，沒有人會希望俄羅斯和美國爆發(fā)一場核戰(zhàn)爭，然后說讓我們從這場錯誤中學(xué)習(xí)，以后要更加小心，云云。更好是主動前瞻，在一開始就做正確的事情。

在開發(fā)更強大的AI時，我們也應(yīng)該有這種前瞻意識。這看起來是理所當(dāng)然的想法，但有趣的是，有時候會有人跟我說：“馬克，你不要說那樣的話了，你那是在散布恐慌?！?/p>

這不是制造恐慌，在MIT，我們把這叫做“安全工程”（safety engineering）。

比如，在美國航天局部署阿波羅11號任務(wù)之前，在中國發(fā)射自己載人衛(wèi)星之前，他們都會仔細(xì)地設(shè) 想所有可能出錯的狀況，畢竟是要把人類放進易燃易爆的太空艙里，再將他們發(fā)射上一個無人能助的境遇。這是在制造恐慌嗎？不，那正是在做安全工程，以確保任務(wù)順利進行，這正是處理通用人工智能或其他強有力的科技時應(yīng)該采取的策略。

人工智能的方向其實是一個全球性的挑戰(zhàn)，就像氣候變化一樣，這些問題讓單個國家解決可能是非常難。我認(rèn)為中國實際上以一個非常獨特的地位在引領(lǐng)AI的發(fā)展，不僅是讓AI更加強大，也讓AI帶來好處。為什么這樣說呢？因為中國是全球AI技術(shù)的引領(lǐng)者，中國在這個領(lǐng)域的研究不僅關(guān)注讓AI更加強大，而且保證AI是安全和有益于人類的。

此外，我認(rèn)為中國的文化也有利于AI。因為中國是人類最古老的文明，有著非常強大的長期思考和長 期規(guī)劃的能力。我是西方人，大多數(shù)西方國家的人在別人談?wù)摰介L遠計劃或者未來的事情都會大笑，認(rèn)為要真正到了那個時候才應(yīng)該計劃下一步的事情。但我們是要去考慮未來的，我們需要有中國人的智慧，把很多事情放到全球的議事日程上來，知道未來我們發(fā)展的方向。

我們組織了阿西洛馬人工智能原則會議。

其中的一個原則就是我們應(yīng)該避免致命自主武器的出現(xiàn)和軍備競賽，應(yīng)該幫助人類而不是危害人類，比如開發(fā)新的藥品和材料，而不是去傷害人們。我們也應(yīng)該保證AI能夠給我們帶來新的解決方案，而不是給人類帶來災(zāi)難。

我們在西方做了一次調(diào)查，問他們要什么樣的未來。很多人的回答是希望實現(xiàn)超級智能，但有些人會有些擔(dān)心，有的人有一點保留。有的人擔(dān)心最終機器會控制這個世界。

我認(rèn)為“AI最終會變得邪惡”、“AI會擁有意識”，這些是不必要的擔(dān)心，實際應(yīng)該擔(dān)心的是日益強大的AI與我們的目標(biāo)不一致。我想說的最后一個原則就是，如果我們要構(gòu)建超級智能，它只能是為了全人類的好處而構(gòu)建，而不是為了某個國家、某個公司或某個組織的益處。

AI增強人類，而非操縱人類

那么我們的目標(biāo)是什么？我們究竟要走向何方？

總的來說，我們與技術(shù)和未來AI的關(guān)系是非常復(fù)雜的，但大方向上很簡單，就是大部分研究人員希望在某種程度上已經(jīng)建立AGI，或者在50年后能夠?qū)崿F(xiàn)AGI。如果考慮未來可能面臨的挑戰(zhàn)，這會是人類歷史上犯下的一個巨大的錯誤，但讓我們面對它。因為AI技術(shù)是如此的強大，我們在實現(xiàn)它的道路上肯定會犯下很多錯誤。

另一方面，如果我們好好思考我們想要達到的目標(biāo)是什么，找到如何引導(dǎo)技術(shù)方向的方法，我們就將創(chuàng)造出一個非常美好的未來。

這就是我們面臨的選擇。我們可以滿足于現(xiàn)狀，也可以更有雄心一些，思考如何引領(lǐng)技術(shù)發(fā)展的方向，思考我們要去往怎樣的未來，創(chuàng)造一個真正讓人興奮的未來。我認(rèn)為未來我們不是被AI控制，而是AI會增強我們。