目前的人工智能技術(shù)發(fā)展，主要是以計(jì)算機(jī)為載體推動(dòng)自動(dòng)化技術(shù)的發(fā)展。基于數(shù)據(jù)的人工智能的技術(shù)可以幫助我們用各種自動(dòng)化裝置取代人們的各種生產(chǎn)活動(dòng)，從而提升社會整體發(fā)展效率。人工智能帶來巨大的效能提升的同時(shí)，也會帶來巨大的風(fēng)險(xiǎn)。我們需要去仔細(xì)評估AI帶給我們什么樣的未來？以及人工智能的風(fēng)險(xiǎn)是如何產(chǎn)生的？如何對相關(guān)的風(fēng)險(xiǎn)進(jìn)行研究和防范？

機(jī)器會取代人類嗎？

我們先來回顧在人工智能發(fā)展過程中的一系列引人注意的重大事件以及當(dāng)時(shí)引發(fā)公眾討論的話題：1997年5月，IBM公司研制的計(jì)算機(jī)“深藍(lán)”首次展示了國際象棋大師卡斯帕羅夫，2016年3月，人工智能AlphsGo擊敗了韓國頂級圍棋大師李世石；2016年，全球雇員數(shù)量最多的企業(yè)富士康在江蘇昆山工廠用4萬機(jī)器人替代了6萬人類員工；2017年10月25日，世界首位機(jī)器人公民“索菲亞（Sophia）”成為擁有沙特國籍的女性機(jī)器人，成為被授予合法公民身份的公民…這一系列事件加深了人們對人工智能的擔(dān)憂和思考，隨著人工智能的技術(shù)不斷發(fā)展下，以至于人們開始將其視為同類，電影《她》中所描繪的人工智能伴侶逐步成為了現(xiàn)實(shí)，讓我們開始考慮AI發(fā)展的風(fēng)險(xiǎn)問題。我們從以下三個(gè)方面來討論：人工智能的風(fēng)險(xiǎn)范疇，人工智能風(fēng)險(xiǎn)的形成機(jī)制，以及人工智能發(fā)展的邊界問題。

首先我們討論人工智能的風(fēng)險(xiǎn)范疇，這需要從烏爾里希。貝克在20世紀(jì)90年代提出“風(fēng)險(xiǎn)社會”概念談起，他認(rèn)為科技在促進(jìn)社會發(fā)展的同時(shí)，也對整體的生態(tài)包括人類的生存造成了一定的威脅?！霸陲L(fēng)險(xiǎn)社會，風(fēng)險(xiǎn)已經(jīng)代替物質(zhì)匱乏，成為社會和政治議題關(guān)注的中心”。換言之，社會的風(fēng)險(xiǎn)性成為了底層的運(yùn)行邏輯之一，而技術(shù)風(fēng)險(xiǎn)則是其中影響最為深遠(yuǎn)和廣泛的類型。與傳統(tǒng)社會不同，現(xiàn)代社會的風(fēng)險(xiǎn)是一種人類制造出來的風(fēng)險(xiǎn)，這類風(fēng)險(xiǎn)起源于人類對科學(xué)、技術(shù)不加限制的積極推進(jìn)，而這樣做的后果就是目的和結(jié)果自己的不確定性。換言之，技術(shù)類風(fēng)險(xiǎn)既是技術(shù)自身的內(nèi)在屬性，也是人的行為選擇的結(jié)果，這是我們理解技術(shù)風(fēng)險(xiǎn)的基礎(chǔ)。

值得注意的是，人工智能所帶來的風(fēng)險(xiǎn)雖然屬于技術(shù)風(fēng)險(xiǎn)的范疇，不過也與傳統(tǒng)的技術(shù)風(fēng)險(xiǎn)有著很大的不同。一般情況下技術(shù)風(fēng)險(xiǎn)都來自于外部因素，例如環(huán)境風(fēng)險(xiǎn)、生態(tài)風(fēng)險(xiǎn)、經(jīng)濟(jì)風(fēng)險(xiǎn)和社會風(fēng)險(xiǎn)等等，即由于技術(shù)與社會因素的相互作用所帶來的風(fēng)險(xiǎn)。但是人工智能技術(shù)會帶來很大程度的內(nèi)在風(fēng)險(xiǎn)，即對于人的存在性地位的挑戰(zhàn)以及人的邊界和尺度的復(fù)雜性挑戰(zhàn)。我們看到諸多電影文學(xué)作品或者科幻小說中的創(chuàng)作都展示了人類關(guān)于AI的最大擔(dān)憂就來源于人機(jī)邊界的模糊，以及人機(jī)精湛的加劇。換言之就是基于人的價(jià)值尺度的判斷風(fēng)險(xiǎn)顯著增加，而我們目前所有關(guān)于AI的研究都在強(qiáng)調(diào)人的價(jià)值尺度，即人的根本利益作為評判風(fēng)險(xiǎn)的目的和原則，而不能以犧牲人的方式謀求其發(fā)展。

我們看到泰格馬克在《人類3.0》一書中提到了AI發(fā)展的三個(gè)階段：第一個(gè)階段AI對于人類進(jìn)行模仿并完成人類交付的工作，這個(gè)階段機(jī)器具備初步的智能，人對于AI有著完全的控制力；第二個(gè)階段是合作階段，就是人類協(xié)助人類完成大量的工作，AI是基于利于人類活動(dòng)的基本目標(biāo)被設(shè)計(jì)出來的；第三個(gè)階段則是競爭甚至取代的階段，AI在大規(guī)模應(yīng)用下超越了人類的控制，出現(xiàn)了依賴、競爭或者被控制等情況。換言之，人工智能的風(fēng)險(xiǎn)包含兩個(gè)部分的內(nèi)容：一個(gè)是客觀現(xiàn)實(shí)的物理層面，即人類的能力逐漸被替代，從而增大了外部的技術(shù)性風(fēng)險(xiǎn)，例如失業(yè)率的大幅度上升；一個(gè)是主觀認(rèn)知層面，即人類本身心理層面的風(fēng)險(xiǎn)，例如隨著機(jī)器人逐漸具備人類的形態(tài)和認(rèn)知，人類會逐漸認(rèn)同機(jī)器人的同類關(guān)系，必然帶來倫理的問題。

風(fēng)險(xiǎn)背后的邏輯

然后我們來看人工智能風(fēng)險(xiǎn)形成的基本機(jī)制的邏輯，正如馬修。謝勒所說，“行為的自動(dòng)化，是人工智能與人類其它早期科技最大的不同，人工智能系統(tǒng)已經(jīng)可以在不需要人類控制或者監(jiān)督的情況下運(yùn)行”?？梢钥吹剑斯ぶ悄芗夹g(shù)帶給人類社會的收益和風(fēng)險(xiǎn)就是雙刃劍的兩面：一方面AI通過代替人類的勞動(dòng)，使得生產(chǎn)力得到了解放，讓人類活動(dòng)擁有了更多的時(shí)間和空間；另一方面，AI通過實(shí)際上取代了人們的勞動(dòng)，使得人類有失去控制性的風(fēng)險(xiǎn)，人類的主體地位在某種程度上被讓渡。更深入的看，實(shí)際上人類是通過技術(shù)實(shí)現(xiàn)了身體能力的放大和提升的，現(xiàn)代技術(shù)的潛在動(dòng)力就是人類對技術(shù)放大性的追求。人工智能技術(shù)就是一種整合了多種技術(shù)以后對人類技術(shù)放大意愿和動(dòng)力的落實(shí)，與此同時(shí)人類也有可能逐漸在技術(shù)放大過程中失去了自我，技術(shù)朝向背離人類意愿的方向發(fā)展從而使得技術(shù)風(fēng)險(xiǎn)成為現(xiàn)實(shí)。

如果說康德“人為自然界立法”的論斷成為了人脫離自然界控制，樹立人的主體性地位的標(biāo)志，那么AI的發(fā)展就正在對這樣的主體性地位帶來威脅，AI正在通過類人性特質(zhì)的成長，逐步增加自己替代人類活動(dòng)的能力。換言之，技術(shù)自身具備一種不確定性，人工智能技術(shù)本來是利于人類發(fā)展的，但是在發(fā)展過程中有可能產(chǎn)生增加人類生存風(fēng)險(xiǎn)的障礙，這是我們不得不警惕的地方。

除了技術(shù)自身的特質(zhì)之外，我們很容易忽略的一點(diǎn)就是伴隨著技術(shù)革命成長的另外一個(gè)重要的要素——資本的力量，工業(yè)革命以來的現(xiàn)代技術(shù)發(fā)展無法脫離資本的力量。眾所周知資本是逐利的，而技術(shù)的目的是實(shí)現(xiàn)人的物質(zhì)的追求，因此技術(shù)就能夠最大化的實(shí)現(xiàn)資本的目標(biāo)，技術(shù)與資本體現(xiàn)出來一定程度的同構(gòu)性。換言之，資本的邏輯和技術(shù)的邏輯產(chǎn)生了共謀，資本在實(shí)現(xiàn)價(jià)值增長的過程中，能夠擴(kuò)散技術(shù)的優(yōu)勢。資本作為有效的資源配置方式，能夠最大化的將資源放在最好的技術(shù)路徑中進(jìn)行配置；技術(shù)作為集置（海德格爾語），能夠?qū)⑼獠渴挛锛{入自身的規(guī)范體系中，用自己的力量促逼和擺置存在者，將事物以人類自身的方式解蔽。簡單的說，技術(shù)能夠產(chǎn)生一種力量是人類不能控制的，就好像乘坐上某種座駕一樣，人在技術(shù)這個(gè)座駕的要求下不受限制的開發(fā)自然、掠奪資源，同時(shí)把人自身當(dāng)作技術(shù)所需要的的資源投入進(jìn)去，被技術(shù)所支配而無法脫離。這是海德格爾所討論的現(xiàn)代技術(shù)的本質(zhì)，也是理解人工智能帶來風(fēng)險(xiǎn)的重要視角。于此同時(shí)，由于資本（金錢）具備一種不被局限在任何具體事務(wù)的超現(xiàn)實(shí)性，因此可以按照人們的需求去改變自然。更重要的是，由于AI技術(shù)的發(fā)展會擴(kuò)大數(shù)字鴻溝的出現(xiàn)，因此關(guān)注這個(gè)過程中的數(shù)字化帶來的社會公平問題也是非常重要的方面。

技術(shù)的邊界

在理解了人工智能帶來的風(fēng)險(xiǎn)之后，我們接下來討論人工智能技術(shù)發(fā)展的邊界，只有明確了邊界才能理解風(fēng)險(xiǎn)。事實(shí)上我們可以看到人工智能的風(fēng)險(xiǎn)相對于通常的技術(shù)風(fēng)險(xiǎn)來說，主要是在于智能的理解邊界有了分歧，由于人類是目前唯一具備智能的實(shí)體，因此出現(xiàn)了人工智能之后就產(chǎn)生了所謂智能邊界的問題。我們可以從三個(gè)方面理解這個(gè)概念：

第一，人工智能的“智能”是通過計(jì)算機(jī)技術(shù)將信息轉(zhuǎn)換為知識發(fā)展出來的，因此存在可計(jì)算下的邊界。目前來說，計(jì)算機(jī)更多的是著重于邏輯相關(guān)的運(yùn)算，而情感是無法被計(jì)算的。當(dāng)然我們也看到了馬斯克等企業(yè)家通過腦機(jī)接口等技術(shù)來實(shí)現(xiàn)人的思維的解讀，賦予了AI新的智能模式。不過考慮到我們對人的大腦的認(rèn)知（尤其是與意識情感相關(guān)的部分）是非常膚淺的，我們暫時(shí)還看不到AI產(chǎn)生自我意識和概念的可能性。當(dāng)然如果技術(shù)的推進(jìn)使得人工智能產(chǎn)生了意識，那么毫無疑問就會產(chǎn)生系統(tǒng)性的風(fēng)險(xiǎn)，人類將不得不與其共存，相關(guān)的生存空間的矛盾也就難以避免了；

第二，人工智能技術(shù)的邊界是在挑戰(zhàn)技術(shù)的社會屬性的邊界，通常來說某種技術(shù)是具備自然屬性和社會屬性的。所謂自然屬性就是技術(shù)能夠產(chǎn)生和存在的內(nèi)在原因，即技術(shù)符合一定的物理規(guī)律；技術(shù)的社會屬性指的是技術(shù)要符合社會的規(guī)律。我們看到人工智能技術(shù)的發(fā)展正在改變社會的倫理和制度，這也是人類區(qū)別于人工智能的最重要的原因之一。我們可以看到人工智能目前還是以功能性的個(gè)體或者群體存在的，并不具備所謂的社會性質(zhì)，因此它無法作為物種或者群體被看待。正如馬克思所說，“以一定的方式進(jìn)行生產(chǎn)活動(dòng)的一定的個(gè)人，發(fā)生一定的社會關(guān)系和政治關(guān)系”。這種社會關(guān)系反過來制約著勞動(dòng)的方式，直接決定著人的本質(zhì)。換言之，人的本質(zhì)“在其現(xiàn)實(shí)性上”，是一切社會關(guān)系的總和。正如我們剛才所說，人工智能是基于計(jì)算的，而社會關(guān)系是無法通過計(jì)算獲得的。反之，如果人工智能得以從人類群體中學(xué)習(xí)到社會關(guān)系的知識，并形成所謂的集群智慧成為“超級智能”，那么人類的危機(jī)和風(fēng)險(xiǎn)就會被放大，人類社會的危機(jī)就很難避免。

第三，我們需要看到人工智能技術(shù)可能推動(dòng)的“后人類”時(shí)代出現(xiàn)的風(fēng)險(xiǎn)，即通過與人類只能嫁接后產(chǎn)生的有別于人類的物種，成為“賽博格”式的物種。后現(xiàn)代主義技術(shù)哲學(xué)家唐娜。哈拉維提出“情境知識”的主張，將自然與文化定位在動(dòng)態(tài)和異質(zhì)的范疇中。所謂賽博格（Cyborg）就是通過控制技術(shù)來控制有機(jī)體，實(shí)現(xiàn)人與技術(shù)的深度融合，即產(chǎn)生人與技術(shù)的共生體。通過這樣的技術(shù)范式，有可能打破機(jī)械和有機(jī)體、物理和非物理之間的邊界。“一個(gè)控制有機(jī)體，一個(gè)機(jī)器與生物的雜交提，一個(gè)射虎現(xiàn)實(shí)的創(chuàng)造物，同時(shí)也是一個(gè)虛擬的創(chuàng)造物”，這就是賽博格的內(nèi)涵。在這個(gè)你那里，賽博格打破了主體和外部環(huán)境的邊界，也打破了自然和社會的邊界，具備一種“后人類時(shí)代”的理念。在這個(gè)理念下，人不斷的客體化，而客體則不斷的人化，人與物之間的邊界不斷模糊，從而形成了一種有機(jī)體與客體之間的深度結(jié)合，是的自然的身體具備了機(jī)器的屬性。我們看到電影科幻作品中的大多數(shù)“電子人”或者“人工人”都屬于賽博格的概念下產(chǎn)生的，這使得人類可能會超越自然所賦予的人的限度。在電影《阿麗塔》中，主角所擁有的人類部分只有大腦，而其他部分則是由性能和技能更為強(qiáng)大的機(jī)器所構(gòu)成的。如果這樣的現(xiàn)實(shí)發(fā)生就帶來了兩方面的結(jié)果：一方面來說，人類作為碳基生物的脆弱性被扭轉(zhuǎn)，將具備更強(qiáng)的生存能力，在與機(jī)器的競爭中獲得了新的優(yōu)勢；另一方面，人類的身體喪失了自然屬性下的高貴性，變成了可取代的一種無機(jī)體的部分。這也是我們需要考慮人工智能技術(shù)邊界的原因，作為一個(gè)人文主義者并不會只追求絕對的理性，我認(rèn)為人類應(yīng)該追求價(jià)值而非僅僅是只是，應(yīng)該追求理想的品質(zhì)而不只是現(xiàn)實(shí)的成就，要追求整體的幸福而不只是個(gè)人的勝利。這也是人性的內(nèi)涵所在。

解局之路

最后，我們?yōu)槿斯ぶ悄茱L(fēng)險(xiǎn)的提供一種解決思路，這也是我個(gè)人在研究AI時(shí)的基本出發(fā)點(diǎn)，即人工智能一定要體現(xiàn)人類的需求和利益，這其中不僅僅包括生存的必需，也包括發(fā)展的需求、精神的需求以及社會的需求，這是我們發(fā)展人工智能的動(dòng)力，即人的價(jià)值尺度與目的性。正如錢穆大師所說，“生命演進(jìn)而有人類，人類生命與其他生物的生命大不相同，其不同之最大特質(zhì)，人類在求生目的之外，更還有其他目的存在?！边@些目的超越了求生的目的，即超越了生死的價(jià)值和理性的光輝。我們在人工智能發(fā)展過程中看到的是人類功利性目的的最大化，即通過拘束的發(fā)展替代生產(chǎn)勞動(dòng)，這將帶來整體人類社會的生存基礎(chǔ)的夯實(shí)，但是這其中很少包含了對理性和審美等超功利性目標(biāo)的實(shí)踐，更沒有涉及關(guān)于人類自由和價(jià)值觀的內(nèi)容。如果單純考慮功利性，毫無疑問就會帶來人的個(gè)體和群體組織的異化，這也就會帶來對讓人自身的否定，挑戰(zhàn)人類的尊嚴(yán)和存在。我們需要意識到，技術(shù)的邊界就是倫理問題，技術(shù)的可能性和倫理的約束性是有內(nèi)在矛盾的，人們在技術(shù)的發(fā)展過程中很容易只看到機(jī)器的力量和作用，忽視了人類的價(jià)值。

在自動(dòng)化的機(jī)器系統(tǒng)中，人處于被動(dòng)的位置，技術(shù)體現(xiàn)了人類的本質(zhì)的延伸卻又在壓抑人的本質(zhì)，如果人的生命成為技術(shù)改造的對象，那么人類自身的技術(shù)化就不可避免。換言之，人類就可以被制造出來，技術(shù)將“不可能”變?yōu)椤翱赡堋钡耐瑫r(shí)，也將“能夠”變成“應(yīng)該”。我們要看到人的生命價(jià)值與技術(shù)之間的內(nèi)在矛盾性，即人的生命是自然的，而技術(shù)是人為的；生命是不可重復(fù)的，而技術(shù)是可以復(fù)制的。

正如康德所說，“人是目的，人的目的性與工具性要充滿統(tǒng)一”，人的價(jià)值是人存在的準(zhǔn)則，而人類需要基于自身追求完美的道德天性去發(fā)，情感與理性要完美統(tǒng)一，而這個(gè)統(tǒng)一帶來的就是人的價(jià)值的最高取向，這是我們理解未來AI發(fā)展的核心。人工智能技術(shù)的發(fā)展一定要在內(nèi)部視角以人為價(jià)值尺度，在外部視角以人的社會群體為價(jià)值尺度。以人為價(jià)值尺度，保障了人的主體地位和獨(dú)立意識；以人的社會群體為價(jià)值，保障了整個(gè)人類社會的可持續(xù)發(fā)展性。換言之，人工智能要在人本主義框架下去發(fā)展，才不會輕易僭越倫理的門檻，從而造成不可挽回的風(fēng)險(xiǎn)和損失，這是我們理解人工智能未來發(fā)展的基本原則，也是我們理解人工智能風(fēng)險(xiǎn)問題的實(shí)質(zhì)。
責(zé)任編輯：YYX