最近，我與我最喜歡的新晉思想家就高性能和低性能AI進(jìn)行了辯論，這讓我想起了自己一年多以前寫的東西，因此我決定拾起這些塵封的想法。人工智能的技術(shù)炒作太多了，有時應(yīng)該回到其哲學(xué)根源。而在圍繞AI的所有哲學(xué)爭論中，最重要的就是對強(qiáng)弱AI的爭論。

從技術(shù)角度來看，我贊成這樣的想法，即在實現(xiàn)某種形式的強(qiáng)大或通用AI的領(lǐng)域，我們實現(xiàn)了一兩個突破。但從哲學(xué)的角度來看，仍然存在一些需要調(diào)和的挑戰(zhàn)。許多挑戰(zhàn)都可以通過上世紀(jì)奧匈帝國數(shù)學(xué)家開創(chuàng)的晦澀理論以及神經(jīng)科學(xué)研究的領(lǐng)先領(lǐng)域之一來解釋。

在AI理論中，低性能AI系統(tǒng)通常只是看起來智能，而高性能AI機(jī)器則真正具備思考能力。這里的思考是指真正的思考，而不僅僅是模擬的思考。這種困境通常被稱為“高性能AI假設(shè)”。

在一個用數(shù)字助理和算法擊敗圍棋世界冠軍和魔獸世界2團(tuán)隊的世界中，機(jī)器是否可以智能地行動這個問題似乎很愚蠢。在有限的一些環(huán)境中，例如醫(yī)學(xué)研究、圍棋、旅行等，我們已經(jīng)能夠構(gòu)建大量可發(fā)揮其智能作用的AI系統(tǒng)。大多數(shù)專家都認(rèn)為低性能AI絕對是可能的，但對于高性能AI仍然存在極大的懷疑。

機(jī)器可以思考嗎？

自從艾倫·圖靈在1950年發(fā)表著名論文《計算機(jī)與智能》以來，這些問題就一直困擾著計算機(jī)科學(xué)家和哲學(xué)家。當(dāng)大多數(shù)科學(xué)家甚至無法就思維的正式定義達(dá)成共識時，確定這個問題的答案似乎也不公平。

為了說明圍繞高性能AI假設(shè)的困惑，我們可以借鑒著名計算機(jī)科學(xué)家Edsger Dijkstra的幽默表達(dá)。他在1984年的一篇論文中將機(jī)器是否可以思考的問題與諸如“潛艇會游泳嗎？”或“飛機(jī)能飛嗎？”之類的問題進(jìn)行了比較。

盡管這些問題看起來很相似，但大多數(shù)說英語的人都會同意，飛機(jī)實際上可以飛行，但潛艇不會游泳。這是為什么？這種比較的基本觀點是，如果沒有對思維的統(tǒng)一定義，那么對機(jī)器是否可以思考的癡迷似乎無關(guān)緊要。

在對高性能AI的主要反對意見中，從本質(zhì)上講，不可能確定機(jī)器是否能夠真正思考。該論證源于有史以來最著名的數(shù)學(xué)定理之一。

哥德爾不完全性定理

當(dāng)我們談?wù)摎v史上最偉大的數(shù)學(xué)理論對思維方式產(chǎn)生了廣泛的影響時，哥德爾的不完全性定理應(yīng)該有一席之地。

1931年，數(shù)學(xué)家?guī)鞝柼亍じ绲聽枺↘urt G？del）通過證明其著名的不完全性定理證明了演繹法的局限性。哥德爾定理指出了任何形式的可以進(jìn)行算術(shù)運算的理論，但有真實的陳述在該理論內(nèi)沒有證據(jù)。

長期以來，不完全性定理一直被用作反對強(qiáng)人工智能的對象。該理論的支持者認(rèn)為，高性能AI主體將無法真正思考，因為它們受到不完全性定理的限制，而人類思維顯然不受限制。

該論點引發(fā)了很多爭議，許多高性能AI的從業(yè)者也拒絕接受它。高性能AI學(xué)派最常講的論點是，無法確定人類的思維是否服從于哥德爾定理，因為任何證據(jù)都需要形式化人類知識，而我們知道這是不可能的。

意識論證

在人們關(guān)于AI的激烈辯論中，我最喜歡的論點是意識。機(jī)器真的可以思考還是可以模擬思考？如果機(jī)器在將來能夠進(jìn)行思考，這意味著它們將需要有意識（即意識其狀態(tài)和動作），因為意識是人類思維的基石。

對高性能AI的懷疑引發(fā)了各種爭論，包括經(jīng)典的數(shù)學(xué)理論（例如G？del的不完全性定理）到AI平臺的純粹技術(shù)局限性。然而，生物學(xué)、神經(jīng)科學(xué)和哲學(xué)的交集仍然是爭論的焦點，并且與人工智能系統(tǒng)的意識有關(guān)。

什么是意識？

關(guān)于意識有很多定義和爭論，這足以勸退多數(shù)人繼續(xù)追究其在AI系統(tǒng)中的作用的論點。意識的大多數(shù)定義都涉及自我意識或?qū)嶓w了解其心理狀態(tài)的能力，但是，當(dāng)涉及到AI時，自我意識和精神狀態(tài)也沒有明確定義，因此我們就像飛速掉進(jìn)兔子洞一樣，陷入了迷茫無措。

為了適用于AI，意識理論需要更加務(wù)實和技術(shù)化，并且要少一些哲學(xué)性。我最喜歡的遵循這些原則的意識定義來自物理學(xué)獎獲得者M(jìn)ichio Kaku，他是紐約大學(xué)理論物理教授，也是弦理論的創(chuàng)造者之一。

幾年前，Kaku博士提出了他所謂的“意識的時空理論”，將生物學(xué)和神經(jīng)科學(xué)等領(lǐng)域?qū)σ庾R的定義匯總在一起?？◣觳┦吭谄淅碚撝袑σ庾R的定義如下：“意識是使用各種參數(shù)（例如溫度，空間，時間以及與他人有關(guān)的參數(shù)）的多個反饋回路創(chuàng)建世界模型的過程，以實現(xiàn)目標(biāo)（例如尋找伴侶，食物，住所）。”

意識的時空定義直接適用于AI，因為它基于大腦創(chuàng)建世界模型的能力，不僅基于空間（如動物），還基于與時間的關(guān)系（向后和向前）。從這個角度來看，卡庫博士將人類意識定義為“一種意識形式，它可以創(chuàng)建世界模型，然后通過評估過去來模擬未來，從而及時地對其進(jìn)行模擬?！睋Q句話說，人類意識與我們對未來的計劃能力直接相關(guān)。

除了其核心定義外，意識的時空理論還包括幾種意識類型：

級別0：包括行動不便的植物等生物，它們使用諸如溫度之類的少數(shù)參數(shù)創(chuàng)建其空間模型。

級別1：像爬行動物這樣的生物，它們活動并且具有神經(jīng)系統(tǒng)。這些生物使用更多其他參數(shù)來形成其空間模型。

級別2：諸如哺乳動物之類的生物不僅建立在空間基礎(chǔ)上，而且還建立在與他人有關(guān)的世界模型上。

級別3：了解時間關(guān)系并具有想象未來的獨特能力的人類。

AI系統(tǒng)有意識嗎？

意識是AI圈中最激烈的辯論主題之一。這里的AI意識，指的是AI能夠自我意識到其“心理狀態(tài)”的能力。前文介紹了一個由著名物理學(xué)家Michio Kaku博士率先提出的框架，用于從四個不同的層面評估意識。

在卡庫博士的理論中，0級意識描述了諸如植物之類的生物，它們根據(jù)諸如溫度之類的一些參數(shù)評估其真實性。爬行動物和昆蟲在使用包括空間在內(nèi)的新參數(shù)創(chuàng)建世界模型時表現(xiàn)出1級意識。2級意識涉及根據(jù)情感和與其他物種的關(guān)系創(chuàng)建世界模型。哺乳動物是與2級意識相關(guān)的主要種群。最后，我們可以根據(jù)涉及未來模擬的世界模型將人類意識歸于3級意識。

基于Kaku博士的意識框架，我們可以評估當(dāng)前一代AI技術(shù)的意識水平。大多數(shù)專家都認(rèn)為，當(dāng)今的AI代理可以分為1級或2級早期意識。將AI代理排名為1級涉及許多因素，包括流動性。

如今，許多AI代理已經(jīng)能夠?qū)崿F(xiàn)移動性并根據(jù)其周圍的空間開發(fā)其環(huán)境模型。但是，大多數(shù)AI代理在受限的環(huán)境之外進(jìn)行操作都有很多困難。

空間評估并不是將AI代理置于1級意識的唯一因素。用于創(chuàng)建模型的反饋回路的數(shù)量是要考慮的另一個超重要因素。

讓我們以圖像分析為例。即使是最先進(jìn)的視覺AI算法，也是使用相對少量的反饋回路來識別對象。如果我們將這些模型與認(rèn)知能力，昆蟲和爬行動物進(jìn)行比較，它們似乎并不復(fù)雜。所以，是的，當(dāng)前的人工智能技術(shù)具有昆蟲的意識。

進(jìn)入二級意識

一些AI技術(shù)已經(jīng)穩(wěn)定地展現(xiàn)出2級意識的特征，有幾個因素促成這一發(fā)展。人工智能技術(shù)正在獲得更高級的理解和模擬情緒，以及感知周圍的情緒反應(yīng)。

除了基于情感的AI技術(shù)發(fā)展外，AI代理在團(tuán)體環(huán)境中的運行效率也越來越高，在團(tuán)體環(huán)境中，他們需要相互協(xié)作或競爭才能生存。在某些情況下，小組合作甚至可以創(chuàng)造出新的認(rèn)知技能。具有2級意識的AI代理的最新案例，我們能想到DeepMind和OpenAI等公司的工作。

最近，DeepMind進(jìn)行了一些實驗，其中需要AI代理住在資源有限的環(huán)境中。當(dāng)資源豐富和貧瘠時，人工智能代理表現(xiàn)出不同的行為。由于代理需要相互交互，因此行為發(fā)生了變化。

在最近的OpenAI模擬實驗中也能找到一個有趣的示例，在該實驗中，AI代理能夠使用少量符號創(chuàng)建自己的語言，以便更好地在其環(huán)境中共存。

主流的AI解決方案仍處于早期階段，但提高AI代理的意識水平是當(dāng)前AI技術(shù)堆棧中最重要的目標(biāo)之一，2級意識是下一個研究領(lǐng)域。

升至三級意識

目前，人工智能系統(tǒng)中的三級意識仍是一個活躍的辯論主題。但是，最近的系統(tǒng)（例如OpenAI Five或DeepMind Quake III）已經(jīng)清楚地顯示了AI代理進(jìn)行長期計劃和協(xié)作的能力，因此我們可能不日實現(xiàn)這個目標(biāo)。

AI系統(tǒng)有意識嗎？我的答案是肯定的。將Kaku博士的時空意識理論應(yīng)用到AI系統(tǒng)中，很明顯AI代理可以表現(xiàn)出一些基本的意識形式。考慮到當(dāng)前AI技術(shù)的能力，我將AI代理的意識置于I級（爬行動物）或II級基本水平。

至于三級，雖然距離尚遠(yuǎn)，但我認(rèn)為這絕不是天方夜譚。
責(zé)編AJX