人工智能現(xiàn)在正在迅猛發(fā)展中,人們正在追求建造能力更高的智能機(jī)器,各種智能機(jī)器層出不窮,最近的大語(yǔ)言模型的高熱正好為這個(gè)趨勢(shì)做一個(gè)注解。大語(yǔ)言模型看起來(lái)能力很強(qiáng),令人驚艷,因此現(xiàn)在一種言論非常流行,那就是機(jī)器具備意識(shí)啦。我們就來(lái)談?wù)勥@個(gè)事情。
首先開(kāi)宗明義說(shuō)明,我們認(rèn)為,沒(méi)有必要談?wù)摍C(jī)器的意識(shí)。很多人認(rèn)為人和具有一定智能的生物都具備意識(shí),而且意識(shí)是這些生物智能體形成智能行動(dòng)的基礎(chǔ),因此他們認(rèn)為,要發(fā)展智能機(jī)器,要讓智能機(jī)器擁有強(qiáng)大的能力,就需要智能機(jī)器具備意識(shí)。我們認(rèn)為不應(yīng)該這樣看。現(xiàn)在人們還不具備足夠的知識(shí)來(lái)搞清楚究竟什么是意識(shí),更遑論在人工智能體中建立意識(shí)。而且,也沒(méi)有必要考慮意識(shí),考慮智能機(jī)器的的主動(dòng)性即可。
無(wú)疑,智能機(jī)器的主動(dòng)性是提升人工智能的關(guān)鍵。要考慮智能機(jī)器的主動(dòng)性,可以考慮智能機(jī)器的行為傾向就可以。對(duì)人工智能體而言,其行為傾向并不虛無(wú)縹緲,而是可以把握、可以對(duì)它展開(kāi)工作的。而且,即使以后的人工智能體中有了意識(shí),意識(shí)是感知、體驗(yàn)和意志,意識(shí)要起作用也還是需要先形成內(nèi)部的傾向,然后用這種傾向去影響行動(dòng),也就是說(shuō),意識(shí)也要通過(guò)行為傾向來(lái)起作用。因此,直接對(duì)行為傾向展開(kāi)研究展開(kāi)工作,是更合理的,也是現(xiàn)實(shí)可行的。
我們將特別關(guān)注這兩個(gè)方面:智能體的主觀(guān)和能動(dòng)。
值得再次強(qiáng)調(diào),我們不知道人工智能體是否有意識(shí),是否可以有意識(shí),但是我們確切知道它有主觀(guān),而且主觀(guān)起極為關(guān)鍵的作用,即使有意識(shí),意識(shí)也要通過(guò)主觀(guān)起作用。
什么是智能體的主觀(guān)(subjectivity)?智能體的主觀(guān)是指智能體所具備的內(nèi)部屬性和傾向,這些屬性和傾向形成智能體做推理和做反應(yīng)的基礎(chǔ)。
什么是智能體的能動(dòng)(dynamic action或者agency)?智能體的能動(dòng)是指智能體可以做出自己的行動(dòng),而非僅遵循預(yù)設(shè)的規(guī)定。智能體的能動(dòng)反映智能體的這樣的能力:它可以根據(jù)具體情況作出針對(duì)性的決定和行動(dòng),這些決定和行動(dòng)可能是全新的,而不僅僅是遵循預(yù)設(shè)的規(guī)定。
我們明確了最主要的宗旨:日益強(qiáng)大的智能體需要具備更高的主動(dòng)性,主動(dòng)性歸結(jié)為主觀(guān)和能動(dòng),具備良好的主觀(guān)和積極的能動(dòng)的智能體能更有效地應(yīng)對(duì)復(fù)雜陌生的環(huán)境,這樣的環(huán)境也催生和促進(jìn)愈加豐富的主觀(guān)和更加強(qiáng)大的能動(dòng)。
由此可知人工智能的發(fā)展方向?qū)⑹牵喊l(fā)展出這樣的智能體,它具備豐富正確的主觀(guān)和積極正確的能動(dòng)。對(duì)這樣的智能體的需求,將會(huì)越來(lái)越大,越來(lái)越高級(jí)。這就要求我們深入研究主觀(guān)和能動(dòng),研究它們的基本性質(zhì)。
主觀(guān)是智能體內(nèi)部的傾向??梢杂稍O(shè)計(jì)者來(lái)制定和灌輸,也可以由智能體通過(guò)學(xué)習(xí)和經(jīng)驗(yàn)來(lái)獲取,也可以結(jié)合這兩種。智能體總是有主觀(guān)的。智能體的主觀(guān)是分布式地隱藏于智能體的諸多內(nèi)部結(jié)構(gòu)里面,并沒(méi)有被分離出來(lái),而且很難被分離出來(lái)。對(duì)于智能體的主觀(guān),我們應(yīng)該找到方法來(lái)描述和測(cè)度,進(jìn)而調(diào)整,這種方法目前尚缺。當(dāng)前的一個(gè)亟需解決的問(wèn)題是:研究智能體的主觀(guān)的結(jié)構(gòu),并且找到讓主觀(guān)和人類(lèi)價(jià)值對(duì)齊的方法。這是一項(xiàng)困難的工作,但是,目前已經(jīng)有了一些先期工作,特別是依據(jù)現(xiàn)象學(xué)的研究進(jìn)路。這是非常值得開(kāi)展的研究工作,將帶來(lái)非常巨大的利益。
能動(dòng)是指智能體可以做出并非預(yù)設(shè)的行動(dòng)。智能體可以沒(méi)有能動(dòng),那種完全沒(méi)有能動(dòng)的智能體,也可以工作得很好,如果其工作環(huán)境是熟知的和固定的。但是,具備能動(dòng)的智能體才能應(yīng)對(duì)復(fù)雜陌生的環(huán)境。智能體的能動(dòng)是很困難的課題。要研究智能體的能動(dòng),就必須面臨這個(gè)極其尖銳和突出的矛盾:圖靈機(jī)是完全確定和基于固定規(guī)則的,怎么可能產(chǎn)生強(qiáng)大的能動(dòng)(能動(dòng)就是要超越預(yù)設(shè)的規(guī)則)?這個(gè)矛盾從計(jì)算時(shí)代的一開(kāi)始就存在了。圖靈在剛剛導(dǎo)入圖靈機(jī)的兩年后就導(dǎo)入了所謂的神諭機(jī),就是試圖對(duì)此有所突破。但是一直到現(xiàn)在,這個(gè)問(wèn)題仍然非常尖銳存在。
如果不能在這個(gè)問(wèn)題上有所前進(jìn),我們就不會(huì)有重大突破。最近我們?cè)噲D導(dǎo)入一種新的計(jì)算方式,希望可以利用這種方式在智能體中建立一種結(jié)構(gòu),使用這種結(jié)構(gòu),積極的能動(dòng)將成為可能。我們將在后續(xù)的文章中討論這樣的計(jì)算方式。
再?gòu)?qiáng)調(diào)一次:智能的機(jī)器都有主觀(guān),但是未必有能動(dòng);然而,如果要機(jī)器具備高級(jí)的主觀(guān),則必須有能動(dòng)。主觀(guān)和能動(dòng)有密切的關(guān)系,以至于很多時(shí)候把它們合并稱(chēng)為主觀(guān)能動(dòng)性。當(dāng)然,把它們分開(kāi)加以研究,是更有利的。
我們相信,至此,我們已經(jīng)基本上理清了圍繞智能機(jī)器的意識(shí)的諸多概念上的混淆。后面需要的是真正深入的工作。
最后,作為一例,我們用如上的觀(guān)點(diǎn)來(lái)看大語(yǔ)言模型。
大語(yǔ)言模型是一種使用大量的參數(shù)的神經(jīng)網(wǎng)絡(luò),通過(guò)自監(jiān)督學(xué)習(xí)或半監(jiān)督學(xué)習(xí),在大量的未標(biāo)注的文本上進(jìn)行訓(xùn)練,從而能夠理解、生成、翻譯和摘要化新的內(nèi)容的語(yǔ)言模型。大語(yǔ)言模型使用深度學(xué)習(xí)技術(shù)和變換器模型來(lái)處理自然語(yǔ)言。這種智能體在多種自然語(yǔ)言任務(wù)上表現(xiàn)非常出色,表現(xiàn)出了這些特征:具有更強(qiáng)的靈活性和適應(yīng)性,可以根據(jù)不同的任務(wù)和環(huán)境調(diào)整其參數(shù)和行為;具有更強(qiáng)的泛化能力和遷移能力,可以利用在大規(guī)模文本上預(yù)訓(xùn)練得到的知識(shí),來(lái)解決特定領(lǐng)域或場(chǎng)景下的問(wèn)題;具有更強(qiáng)的生成能力和創(chuàng)造力,可以根據(jù)給定的輸入或提示,產(chǎn)生連貫、有意義、有趣甚至有創(chuàng)新性的文本或代碼。
這種智能體的主觀(guān)和能動(dòng)是怎么樣的呢?從智能體的外部看,人們往往會(huì)認(rèn)為,這種智能體有非常強(qiáng)的主觀(guān)和能動(dòng)。但是,當(dāng)我們和這種智能體有足夠多的互動(dòng)后,我們就可以發(fā)現(xiàn)這種智能體的主觀(guān)在某些方面非常豐富,但是在某些關(guān)鍵方面相當(dāng)薄弱,而其能動(dòng)則非常弱小且經(jīng)常出錯(cuò)。
大語(yǔ)言模型的內(nèi)部程序是經(jīng)過(guò)機(jī)器學(xué)習(xí)形成的,即不是直接編制內(nèi)部程序,而是通過(guò)提供數(shù)據(jù)來(lái)影響內(nèi)部程序,這其實(shí)是另外一種編程方式。在使用大語(yǔ)言模型時(shí),它常有令人驚艷的表現(xiàn),看起來(lái)其能動(dòng)很強(qiáng)大,還有人認(rèn)為大語(yǔ)言模型出現(xiàn)了涌現(xiàn),即它的能動(dòng)是涌現(xiàn)而出來(lái)的。但是,仔細(xì)考察后,可以知道它的行動(dòng)來(lái)自于對(duì)訓(xùn)練數(shù)據(jù)的泛化。這種對(duì)數(shù)據(jù)的泛化如果可以看作是能動(dòng)的話(huà),也是非常薄弱的,這就是說(shuō),當(dāng)大語(yǔ)言模型面對(duì)遠(yuǎn)超其訓(xùn)練數(shù)據(jù)的范圍的問(wèn)題,必然無(wú)法有效應(yīng)對(duì)。
因?yàn)榇笳Z(yǔ)言模型是通過(guò)極大的數(shù)據(jù)訓(xùn)練而成的,因此其內(nèi)部積累了非常豐富的知識(shí),也就是說(shuō),當(dāng)它面對(duì)一個(gè)問(wèn)題時(shí),它可以從很多角度,運(yùn)用很多知識(shí),就是說(shuō)可以有非常多的傾向,從這個(gè)角度看,其主觀(guān)非常豐富。但是另一方面,它的主觀(guān)可以又非常薄弱。大語(yǔ)言模型的驅(qū)動(dòng)不在其自己,而在于所謂的提示詞,沒(méi)有提示詞,它就不能做任何事情。如果兩個(gè)提示詞僅有很小的差別,它也不會(huì)去主動(dòng)考察和利用這種異同;如果兩個(gè)提示詞表面非常不同,但其實(shí)完全一樣,它也不會(huì)去考察和利用異同,而是按照訓(xùn)練數(shù)據(jù)形成的既定的泛化做處理。
那么大語(yǔ)言模型是否具備能動(dòng)?我們可以從內(nèi)外兩方面來(lái)考察。從外部看,大語(yǔ)言模型有非常令人驚艷的表現(xiàn)。例如,給它一些提示詞,它可以做出一首動(dòng)人的詩(shī),而且從來(lái)沒(méi)有人教過(guò)大語(yǔ)言模型這樣的詩(shī)。用我們前面列出的標(biāo)準(zhǔn)看,我們自然可以認(rèn)為大語(yǔ)言模型具備能動(dòng)。從內(nèi)部看,就更復(fù)雜一些。大語(yǔ)言模型是用一組大數(shù)據(jù)訓(xùn)練出來(lái)的,并不是人工編程實(shí)現(xiàn)的。
然后,當(dāng)大語(yǔ)言模型運(yùn)行時(shí),它仍然是一個(gè)程序(只不過(guò)這個(gè)程序不是人工編程,而是大數(shù)據(jù)訓(xùn)練形成),也就是說(shuō)它的一切行動(dòng)都是已經(jīng)規(guī)定在這個(gè)程序中了,因此就不可能產(chǎn)生能動(dòng)。但是,大語(yǔ)言模型又可以寫(xiě)詩(shī)。這是非常令人困惑的事情,也是非常有爭(zhēng)議的事情。這里,我們可以提供一個(gè)解釋。一切都在泛化中。當(dāng)用大數(shù)據(jù)做訓(xùn)練時(shí),就形成了一個(gè)很龐大的程序,這個(gè)程序可以對(duì)訓(xùn)練集中的數(shù)據(jù)做正確的計(jì)算,但是對(duì)不在訓(xùn)練集中的數(shù)據(jù),就有可能也做正確的計(jì)算,雖然這些數(shù)據(jù)并不在訓(xùn)練集中。這就是泛化。
就是說(shuō),訓(xùn)練可以使得程序正確計(jì)算某些沒(méi)有在訓(xùn)練集中的數(shù)據(jù)。如果是這樣的情況,大語(yǔ)言模型能做詩(shī),就可以用泛化來(lái)解釋。當(dāng)然,要能做出有意義的良好的泛化,并不容易,需要訓(xùn)練集和學(xué)習(xí)過(guò)程達(dá)到一些嚴(yán)苛的要求。但是,如果我們能確定大語(yǔ)言模型的令人驚艷的能力來(lái)自于泛化時(shí),我們也就知道大語(yǔ)言模型的能動(dòng)很弱。事實(shí)上也很容易找到一些情況,使得大語(yǔ)言模型不具備強(qiáng)大能動(dòng)這個(gè)事實(shí)凸顯出來(lái)。有人做過(guò)這樣的測(cè)試:先問(wèn)一個(gè)問(wèn)題,大語(yǔ)言模型通常會(huì)給出合適的答復(fù),然后用答復(fù)中的某句話(huà)再問(wèn),這時(shí),大語(yǔ)言模型就會(huì)陷入很糟糕的狀態(tài),道歉,胡說(shuō),等等。
也就是說(shuō),這樣的做法,就形成了這樣一個(gè)數(shù)據(jù),它在訓(xùn)練集之外,而且和訓(xùn)練集非常不同,它使得大語(yǔ)言模型不能正確計(jì)算這個(gè)數(shù)據(jù)。世界超級(jí)復(fù)雜,訓(xùn)練集可以正確泛化到的數(shù)據(jù)僅是小部分。這樣也就看清楚了的大語(yǔ)言模型的作用,它是一個(gè)超級(jí)有用的工具,可以幫助我們做很多事情,但是它并不是一個(gè)理解了世界的機(jī)器怪物,不能指望它可以做任何事情。如果我們僅讓它做它擅長(zhǎng)的事情,那就很好,否則就錯(cuò)了。然而,什么是它擅長(zhǎng)的事情?這就需要研究它的主觀(guān)。
審核編輯:劉清
-
人工智能
+關(guān)注
關(guān)注
1807文章
49029瀏覽量
249679 -
智能機(jī)器人
+關(guān)注
關(guān)注
17文章
901瀏覽量
84532
原文標(biāo)題:智能機(jī)器具備意識(shí)嗎?需要意識(shí)嗎?
文章出處:【微信號(hào):AI智勝未來(lái),微信公眾號(hào):AI智勝未來(lái)】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。
發(fā)布評(píng)論請(qǐng)先 登錄
?全方位優(yōu)化:RFID智能化工器具庫(kù)房管理綜合解決方案

戶(hù)外網(wǎng)線(xiàn)需要具備什么特質(zhì)
明遠(yuǎn)智睿SSD2351開(kāi)發(fā)板:語(yǔ)音機(jī)器人領(lǐng)域的變革力量
KnowBe4:以多樣化培訓(xùn)與AI定制重塑企業(yè)安全意識(shí)防線(xiàn)

AI時(shí)代 | 未來(lái)淘汰你的不是 AI 而是比你更會(huì)用 AI 的人

【「具身智能機(jī)器人系統(tǒng)」閱讀體驗(yàn)】2.具身智能機(jī)器人的基礎(chǔ)模塊
《具身智能機(jī)器人系統(tǒng)》第10-13章閱讀心得之具身智能機(jī)器人計(jì)算挑戰(zhàn)
【「具身智能機(jī)器人系統(tǒng)」閱讀體驗(yàn)】2.具身智能機(jī)器人大模型
【「具身智能機(jī)器人系統(tǒng)」閱讀體驗(yàn)】1.初步理解具身智能
【「具身智能機(jī)器人系統(tǒng)」閱讀體驗(yàn)】+數(shù)據(jù)在具身人工智能中的價(jià)值
【「具身智能機(jī)器人系統(tǒng)」閱讀體驗(yàn)】+初品的體驗(yàn)
《具身智能機(jī)器人系統(tǒng)》第1-6章閱讀心得之具身智能機(jī)器人系統(tǒng)背景知識(shí)與基礎(chǔ)模塊
國(guó)產(chǎn)芯片要有品牌意識(shí)
初探AI測(cè)試分析

評(píng)論