計算機的思考能力即將追上人類，而且我們很快就會見證這樣的未來。日益強大的機器學(xué)習(xí)算法，讓人類備感壓力。在接下來的幾十年內(nèi)，機器就會擁有與人類旗鼓相當(dāng)?shù)?a target="_blank">智能，它們可以說話和推理，并且會對經(jīng)濟和政治貢獻(xiàn)良多，無可避免也會涉及軍事戰(zhàn)略。人工智能（AI）的誕生將會深刻影響人類的未來，甚至包括人類究竟有沒有未來。

以下摘錄的文字，就是很好的例子：

“From the time the last great artificial intelligence breakthroughwas reached in the late 1940s, scientists around the world have looked for waysof harnessing this ‘a(chǎn)rtificial intelligence’ to improve technology beyond whateven the most sophisticated of today’s artificialintelligence programs can achieve.”（「自1940年代晚期人工智能發(fā)展的最后一次大突破之后，世界各地的科學(xué)家開始尋找方法來操控所謂的『人工智能』，以改善科技來達(dá)成目前最先進(jìn)的人工智能所做不到的事?！梗?/p>

“Even now, research is ongoing to better understand what the new AIprograms will be able to do, while remaining within the bounds of today’sintelligence. Most AI programs currently programmed have been limited primarilyto making simple decisions or performing simple operations on relatively smallamounts of data.”（「即使是現(xiàn)在，科學(xué)研究仍在我們有限的智能范圍內(nèi)，試圖進(jìn)一步理解新型態(tài)人工智能的能力。目前大多數(shù)人工智能計劃只局限在使用相對少量的數(shù)據(jù)來提出簡單的決策或執(zhí)行簡易的動作?！梗?/p>

上述兩段文字是2019年夏天我測試語言機器人GTP-2時，由它撰寫出來的。GTP-2由美國圣地亞哥的機構(gòu)OpenAI所研發(fā)，該機構(gòu)致力推廣對社會有益的人工智能。GTP-2采用機器學(xué)習(xí)去計算一個看似呆板的作業(yè)：當(dāng)它接收到某個隨意的起始句子時，必須預(yù)測下一個字是什么。GTP-2沒有被教導(dǎo)以人類的方式「理解」文字，相反地，它在訓(xùn)練時只是不斷改變仿真網(wǎng)絡(luò)中的內(nèi)部鏈接，以預(yù)測出下一個最可能出現(xiàn)的字（以及再下一個字等后續(xù)文字）。經(jīng)過來自800萬個網(wǎng)頁上的文字訓(xùn)練后，GTP-2總共產(chǎn)生了超過10億個類似突觸（連結(jié)神經(jīng)細(xì)胞的接觸點）的連結(jié)。當(dāng)我輸入上述兩段文字開頭的幾句話之后，GTP-2就輸出了這些內(nèi)容，看起來有點像大學(xué)部新生試圖回想，自己心不在焉修習(xí)機器學(xué)習(xí)基礎(chǔ)課程時給出的簡述。這些內(nèi)容的用字遣詞都正確，的確相當(dāng)不錯！而且當(dāng)我再次輸入相同的起始語句，GTP-2還會產(chǎn)生不一樣的內(nèi)容。

未來新一代的這類機器人將會產(chǎn)生許多「深度造假」（deep fake）的產(chǎn)品評論和新聞故事，讓因特網(wǎng)的信息更加混亂。于是，機器人除了能操控實時戰(zhàn)略游戲星海爭霸、進(jìn)行翻譯、為個人推薦書和電影，以及在照片和影片中辨識人們的身分，現(xiàn)在又有一項我們原本以為只有人類才有的能力，機器人也具備了。

雖然機器學(xué)習(xí)仍需更加精進(jìn)才能寫出像普魯斯特（Marcel Proust）《追憶逝水年華》（In Search of Lost Time）那樣細(xì)膩連貫的巨作，但一切指日可待。還記得以前的計算機操控電玩、進(jìn)行翻譯和計算機語音都非常笨拙且遭人鄙視，因為它們明顯缺乏技巧且功能粗糙。但是深度神經(jīng)網(wǎng)絡(luò)（deep neural network）的發(fā)明以及科技業(yè)大規(guī)模的計算基礎(chǔ)設(shè)施支持，讓計算機無止盡快速進(jìn)步，人類再也笑不出來。在圍棋、西洋棋和撲克牌，我們已看到這些算法擊敗人類，而當(dāng)下我們原本的訕笑轉(zhuǎn)變成驚愕。我們是否就像歌德（Goethe）筆下的魔法師學(xué)徒，已召喚出無法掌控的強大精靈？

人工意識誕生？

雖然專家對于智慧（無論是自然或人工）的定義尚有爭論，但是大多數(shù)人都認(rèn)為計算機遲早會具備所謂的通用人工智能（artificial general intelligence，和人類能力相當(dāng)?shù)娜斯ぶ悄埽?。關(guān)于機器智慧（machine intelligence）的研究讓我們對一些問題充滿好奇：具有通用人工智能的機器人會不會有任何感受？可程序化的計算機究竟有沒有意識？

這里說的「意識」，我指的是任何一個經(jīng)驗中的內(nèi)在質(zhì)感，例如巧克力榛果醬的可口味道、蛀牙時的尖銳刺痛、無聊時的緩慢時間感或是競賽開始前的沖勁與焦躁。根據(jù)哲學(xué)家納格爾（Thomas Nagel）的說法，如果某個系統(tǒng)（事物）會有某種感受，那該系統(tǒng)（事物）就有意識。

比方說，當(dāng)你在社交場合失禮而覺得不好意思時，原本想要講笑話卻變成羞辱對方時，計算機能否經(jīng)驗到這種不安的情緒？當(dāng)你在電話一端等了好幾分鐘，然后聽到了「抱歉讓您久等」的合成語音時，那個產(chǎn)生語音的軟件是否真的因為對你服務(wù)不周而感到愧疚？

一般認(rèn)為人類的智慧與經(jīng)驗是大腦自然的運作結(jié)果，而不是什么超自然現(xiàn)象。這個假設(shè)在過去幾世紀(jì)來，對人類探索世界并推動科學(xué)進(jìn)展大有幫助。重約1.4公斤、看似豆腐的人類大腦是目前已知宇宙中最復(fù)雜的生物組織，盡管如此，人類大腦仍然必須遵循物理定律，就像狗、樹和恒星等事物一樣，沒有任何事物是例外。目前仍不清楚大腦的因果力（causal power）從何而來，但是我們每天都會經(jīng)驗到這些大腦活動：當(dāng)你看見顏色，大腦皮質(zhì)中會有一群神經(jīng)細(xì)胞活化，當(dāng)你感到快樂，另一腦區(qū)的神經(jīng)細(xì)胞會激發(fā)。當(dāng)神經(jīng)外科醫(yī)生在這些神經(jīng)細(xì)胞植入電極并給予刺激，受試者就會看見顏色或發(fā)出笑聲。相反地，當(dāng)大腦因麻醉而關(guān)機時，這些經(jīng)驗就會消失。

那么根據(jù)這些廣為接受的基本假設(shè)，真實的人工智能在演化之后，究竟是否會出現(xiàn)人工意識（artificial consciousness）？

思考這個問題之后，我們必然面臨一個岔路，分別通向兩個在本質(zhì)上迥異的終點。從《銀翼殺手》、「云端情人」和「人造意識」等科幻小說和電影中，我們可以看到這個時代的精神體現(xiàn)：真實的智慧機器將堅決往具有意識的方向邁進(jìn)，它們能說話、推理、自我監(jiān)控并內(nèi)省，也因此它們將有意識。

「全腦工作平臺」（global neuronal workspace theory, GNW）是直接表明未來世界將通往此方向的最佳代表理論，也是目前受歡迎的意識科學(xué)理論之一。這個理論以大腦為出發(fā)點，主張腦中的某些特定結(jié)構(gòu)特征就是產(chǎn)生意識的基礎(chǔ)。

此理論可追溯至1970年代計算機科學(xué)中的「黑板架構(gòu)」（blackboard architecture）：有專門的程序會擷取「黑板」或「中央工作平臺」（一種共享信息庫）中的訊息。心理學(xué)家認(rèn)為，這種訊息處理方式也存在人腦中，而且是人類認(rèn)知的關(guān)鍵核心，它的容量很小，因此每個時刻只能容納單一知覺、思想或記憶，新訊息會和舊訊息競爭并取而代之。

法國法蘭西公學(xué)院認(rèn)知神經(jīng)科學(xué)家狄昂（Stanislas Dehaene）和分子生物學(xué)家尚則（Jean-Pierre Changeux）認(rèn)為，GNW的神經(jīng)基礎(chǔ)可能就存在于大腦皮質(zhì)結(jié)構(gòu)中，也就是灰質(zhì)最外層。大腦皮質(zhì)是兩片被擠壓在頭顱中受到保護(hù)的高度皺褶組織，左右腦各有一片，體積和厚度就和14吋披薩差不多。狄昂和尚則主張，中央工作平臺是由一群錐體神經(jīng)元（pyramidal neuron）所形成的神經(jīng)網(wǎng)絡(luò)和遠(yuǎn)程的皮質(zhì)區(qū)相連而成，特別是前額葉、頂顳葉以及位于中線的扣帶聯(lián)合皮質(zhì)區(qū)。

有許多局部的大腦活動并不經(jīng)由中央工作平臺，因此不會被意識察覺到，例如控制凝視方向的模塊（我們幾乎不會注意這項活動），或是調(diào)控身體姿勢的模塊。但是當(dāng)一個或多個腦區(qū)中的活動超過了門坎，例如當(dāng)我們看到一罐巧克力榛果醬的照片時，就會啟動神經(jīng)反應(yīng)，然后一連串的神經(jīng)活動會傳遞至中央工作平臺并傳遍整個大腦中的相關(guān)腦區(qū)。這樣的訊息處理結(jié)果會讓許多相關(guān)的認(rèn)知歷程（包括語言、計劃、報償回饋、長期記憶提取以及短期記憶緩沖儲存）也能擷取其中的信息。這種全腦廣播的方式就是訊息進(jìn)入意識狀態(tài)的關(guān)鍵。巧克力榛果醬讓我們產(chǎn)生獨特意識經(jīng)驗的歷程，就是訊息先由錐體神經(jīng)元傳向動作計劃腦區(qū)，接著促使我們?nèi)ツ脺淄谌?，同時其他的腦區(qū)模塊則送出訊息讓我們開始期待報償，因為我們即將吃下巧克力榛果醬的高脂肪和高糖份而產(chǎn)生大量的多巴胺。

意識經(jīng)驗就是工作平臺算法在處理相關(guān)感官輸入、動作輸出，以及各種與記憶、動機和預(yù)期有關(guān)的內(nèi)在變因時產(chǎn)生的。全腦訊息處理就是產(chǎn)生意識的關(guān)鍵。GNW敞開雙手擁抱幾近無止盡運算能力的當(dāng)代神話：只需在計算時加入某些巧妙設(shè)計，意識就會浮現(xiàn)。

遵循物理定律的內(nèi)在因果力

另一條路則是「整合訊息理論」（integrated information theory, IIT），透過一種較為基礎(chǔ)的方式來解釋意識。

美國威斯康辛大學(xué)麥迪遜分校的精神科醫(yī)師兼神經(jīng)科學(xué)家托諾尼（Giulio Tononi）是IIT的主要創(chuàng)建者，我和其他人也有一些貢獻(xiàn)。此理論從意識經(jīng)驗出發(fā)，進(jìn)一步探討突觸回路的活動如何決定一個意識經(jīng)驗的「感受」。整合訊息是一種數(shù)學(xué)計算結(jié)果，可用來量化某一機制擁有多少「內(nèi)在因果力」。例如神經(jīng)細(xì)胞透過動作電位來影響經(jīng)由突觸所連結(jié)的下游神經(jīng)細(xì)胞，這就是一種型式的機制；由晶體管、電容、電阻和電線所構(gòu)成的電子回路也是。

內(nèi)在因果力并非虛無縹緲的事物，任何一個系統(tǒng)的內(nèi)在因果力都可被精確計算出來。一個系統(tǒng)當(dāng)下狀態(tài)涉及越多因（輸入）與果（輸出）時，因果力就越高。

IIT主張，任何擁有內(nèi)在因果力（其狀態(tài)會受過去影響并可改變未來）的機制都有意識；而一個系統(tǒng)的整合訊息量越大，該系統(tǒng)的意識程度就越高。整合訊息量用希臘字母Φ來表示（念做fi，可以是零或正值），如果某個系統(tǒng)沒有內(nèi)在因果力，其Φ值就是零，就不會有任何感受。

由于大腦皮質(zhì)中的神經(jīng)細(xì)胞彼此差異大，而且輸入和輸出的鏈接高密度重合，因此整合訊息量很大。IIT已經(jīng)讓研究人員產(chǎn)生了「意識測量儀」的想法，并正在臨床上加以測試，這個方法將可用來判定植物人、處于最小意識狀態(tài)的病人、麻醉下的受試者或閉鎖（locked-in）癥候群的病人是否有意識但只是無法溝通，或只「剩下軀殼」。當(dāng)我們分析可程序化數(shù)字計算機的因果力時，發(fā)現(xiàn)其硬件部件（晶體管、電線和二極管等用來計算的物理組件）的內(nèi)在因果力和Φ值很低。此外，計算機的Φ值與處理器上正在執(zhí)行的軟件無關(guān)，不論是在計算稅金還是模擬大腦都沒有差別。

確實有證據(jù)支持IIT：就算兩個網(wǎng)絡(luò)擁有同樣的輸入和輸出，但只要兩個網(wǎng)絡(luò)的結(jié)構(gòu)不同，Φ值就會不同；其中一個網(wǎng)絡(luò)可能Φ值為零，另一個卻可能具有很高的Φ值，雖然表面看來兩個網(wǎng)絡(luò)的反應(yīng)都一樣，但是一個網(wǎng)絡(luò)有感覺，另一個卻像殭尸一樣沒有任何感覺，差別其實是隱藏在臺面下的，也就是存在于網(wǎng)絡(luò)的內(nèi)在鏈接中。簡言之，意識和存在（being）的本質(zhì)有關(guān)，而與你做了什么（doing）無關(guān)。

這兩個理論的差異在于，GNW強調(diào)以人腦的功能來解釋意識，IIT則認(rèn)為大腦的內(nèi)在因果力才是真正的關(guān)鍵。

透過大腦中的神經(jīng)連結(jié)組（connectome），也就是整個神經(jīng)系統(tǒng)中確切的突觸連結(jié)方式，我們就可以進(jìn)一步發(fā)現(xiàn)兩個理論的預(yù)測差異。解剖學(xué)家已繪制了一些蠕蟲的神經(jīng)連結(jié)組，現(xiàn)正繪制果蠅的神經(jīng)連結(jié)組，未來10年內(nèi)將挑戰(zhàn)小鼠。或許未來將有機會，在一個人死后以極精細(xì)的方式掃描其腦中約千億個神經(jīng)細(xì)胞和千兆個突觸，然后利用量子機器等先進(jìn)計算機進(jìn)行仿真。如果模擬的真確度夠高，我們將看到它醒來，而且行為就像已故之人的數(shù)字活動模型：它能說話、提取記憶、有欲望、恐懼以及其他各種特質(zhì)。

GNW主張，仿真大腦的功能就足以產(chǎn)生意識，若真如此，上述的模擬人類就有意識，等于是在計算機中重新轉(zhuǎn)生。在許多科幻題材中，我們都可以看到這種把神經(jīng)連結(jié)組上傳到云端，好讓人類能透過數(shù)字型式來延續(xù)生命。

IIT則對此情境提出了全然不同的詮釋：上述數(shù)字活動模型的內(nèi)在感受，其實和花俏日式馬桶上的軟件程序差不多，兩者都不會有任何感受經(jīng)驗。它的行動和人類很像，但不會有任何內(nèi)在感受，它就是一個殭尸（但不會想吃人）。這是一種極致的深度造假。

若要產(chǎn)生意識，就需要有內(nèi)在因果力。這些因果力無法模擬，只能存在于物理系統(tǒng)的部件與機制中。

如果想知道為什么模擬仍不足以產(chǎn)生意識，你可以思考一下，為什么仿真暴雨天氣的計算機系統(tǒng)中不會下雨？或是為什么天文物理學(xué)家可以模擬強大的黑洞重力，卻不用擔(dān)心計算機周圍會出現(xiàn)時空扭曲并吞噬一切？答案就在于：模擬并不具有因果力，所以不會產(chǎn)生降雨，也不會造成時空扭曲。不過原則上來說，我們應(yīng)該可以超越仿真，并根據(jù)神經(jīng)系統(tǒng)的真實結(jié)構(gòu)來建造類神經(jīng)的硬件以產(chǎn)生意識。

關(guān)于上述的模擬爭論，兩個理論還有一些差異。對于大腦皮質(zhì)中究竟哪些區(qū)域會產(chǎn)生特定意識（例如意識的核心位置應(yīng)該在皮質(zhì)前方還是后方），兩個理論有不同預(yù)測。來自美國、歐洲和中國的六個實驗室獲得鄧普頓世界慈善基金會500萬美元的資助，科學(xué)家將透過大型合作計劃來測試這些不同的理論預(yù)測。

機器究竟能否產(chǎn)生意識，將衍生重要的道德議題。如果計算機可以透過自己的感官來經(jīng)驗世界和生命，那它們就不再只是人類眼中的實用工具。它們本身的存在就有意義。

GNW認(rèn)為，這些仿真機器人將從物體轉(zhuǎn)變成主體，每個主體都將以擁有自我觀點的「我」的方式存在。在電視影集「黑鏡」和「西方極樂園」中，我們看到了發(fā)人省思的兩難情境：當(dāng)計算機的認(rèn)知能力追上人類時，就會產(chǎn)生強大動機去爭取法律和政治權(quán)利，包括數(shù)據(jù)不被刪除、記憶不被抹滅，以及不受苦和不受屈辱。相較之下IIT則認(rèn)為，計算機將只是極度精致的機器，宛如游蕩的空殼，永遠(yuǎn)不會擁有我們最重視的事物：對于生命的感受經(jīng)驗。

審核編輯 ：李倩