人類主宰地球并演化發(fā)展到今天，除了人

　　與人之間的競(jìng)爭(zhēng)，已經(jīng)沒有任何對(duì)手能與人競(jìng)

　　爭(zhēng)了，但是，還是有一種對(duì)手會(huì)讓人從骨子里

　　感到畏懼和憂慮，那就是人類不甘寂寞而創(chuàng)造

　　的人工智能（AI）。

　　智能是人們認(rèn)識(shí)和改造世界的綜合能力，

　　人工智能則是人創(chuàng)造的類似于自己智能的智

　　能，表現(xiàn)為兩種。一是弱人工智能，只要機(jī)

　　器、軟件表現(xiàn)得像人一樣就可以算作有智能，

　　圖靈試驗(yàn)是衡量標(biāo)準(zhǔn)。另一種是強(qiáng)人工智能，

　　其特點(diǎn)是完全與人一樣，會(huì)思考、能學(xué)習(xí)，是

　　具有人類智慧的機(jī)器，能夠檢測(cè)的標(biāo)準(zhǔn)是約翰·

　　塞繆爾設(shè)計(jì)的“中文屋思想試驗(yàn)”。

　　人機(jī)競(jìng)爭(zhēng)的理論基礎(chǔ)

　　人工智能無所不在地潛藏、萌發(fā)、產(chǎn)生和

　　應(yīng)用于人們生活的各個(gè)方面和各個(gè)角落，凡有

　　人類足跡和活動(dòng)的地方，都可能出現(xiàn)人工智

　　能，除了替代人們工作和服務(wù)于人之外，人工

　　智能還必然會(huì)與人產(chǎn)生激烈的競(jìng)爭(zhēng)，隨后形成

　　事實(shí)上的出乎于人的意志之外的結(jié)果——人工

　　智能對(duì)人類造成威脅，并可能最終戰(zhàn)勝人。

　　這一點(diǎn)，以霍金為代表的科學(xué)家已經(jīng)頻頻

　　提出。人工智能對(duì)人造成潛在的威脅可以體現(xiàn)

　　在各個(gè)方面，包括自主型殺人武器的失控和對(duì)

　　人類大開殺戒、對(duì)經(jīng)濟(jì)的破壞，甚至人工智能

　　可以發(fā)展出與人類完全沖突的屬于自我的意

　　志。人工智能的崛起可能是人類遇到的最好的

　　事情，也可能是最壞的事情。如果是后者，則

　　人工智能的發(fā)明可能是人類歷史上最大的災(zāi)

　　難。如果不加以恰當(dāng)管理，會(huì)思考的機(jī)器可能

　　終結(jié)人類文明。

　　這種假設(shè)的理論和事實(shí)依據(jù)在于，人工智

　　能有強(qiáng)大的快速復(fù)制的能力。復(fù)制原本是生物

　　把遺傳信息傳遞下去的一種機(jī)制，通過DNA到

　　RNA的轉(zhuǎn)錄，再把DNA的信息精確地傳遞到下

　　一代。但是，這只是基因的復(fù)制，而非實(shí)際能

　　力的復(fù)制。人的所有能力只是潛藏在基因中，

　　從基因到能力的再現(xiàn)或?qū)崿F(xiàn)還需要經(jīng)歷如同

　　人工智能與人類的競(jìng)爭(zhēng)

　　■ 李蕓蕓

　　4

　　ChaoXing

　　2017.2B 百科知識(shí)

　　前 沿 QIANYAN QIANYAN 前 沿

　　DNA到RNA轉(zhuǎn)錄一樣的或更為復(fù)雜的機(jī)制，也

　　就是后天的實(shí)踐、練習(xí)、開發(fā)、擴(kuò)展和創(chuàng)新。

　　一名優(yōu)秀運(yùn)動(dòng)員的后代，如喬丹的兒子不會(huì)因

　　為繼承了喬丹的基因就會(huì)打籃球，甚至青出于

　　藍(lán)而勝于藍(lán)，而是需要后天的訓(xùn)練和努力才能

　　激活基因中的潛能。也可以說，這也是人類智

　　慧或智能的短板。

　　但是，人工智能不同于人類智慧，它是一

　　種機(jī)器智能，最大的特點(diǎn)是可以迅速復(fù)制一種

　　技術(shù)或技能。一旦某一個(gè)人工智能機(jī)器通過深

　　度學(xué)習(xí)而擁有97%以上的人臉識(shí)別正確率，在頃

　　刻之間，世界所有同類的人工智能機(jī)器都可以

　　具備這樣的正確識(shí)別率。這種無成本復(fù)制和持

　　續(xù)向前的演化能力是人工智能相對(duì)于人類智能

　　的最大優(yōu)勢(shì)，因此有可能產(chǎn)生“冰，水為之而

　　寒于水”的結(jié)果。

　　更讓人擔(dān)心的是，人類基因中一種與生物

　　演化相關(guān)的特點(diǎn)，將可能讓人類難以承受智能

　　機(jī)器人 （人工智能） 的挑戰(zhàn)。人性中包含有原

　　欲和原惡兩個(gè)部分。人類的原欲中包括食欲、

　　性欲和知欲。這三種欲望是人類世世代代、生

　　生不息的原動(dòng)力。沒有食，人類會(huì)絕種；沒有

　　性，人類也會(huì)絕種；沒有知，人類在一個(gè)物競(jìng)

　　天擇的演化環(huán)境中亦會(huì)絕種。所以，人類的原

　　欲與人類共生、共存、共進(jìn)、共殃。

　　但是，沒有節(jié)制的原欲恰恰又是人類原惡

　　的根源，這種根源又來自基因所固有的特點(diǎn)，

　　即自我復(fù)制和自私，因?yàn)榛虻淖运绞瞧浯嬖?/p>

　　和延續(xù)的手段。所以，當(dāng)人工智能擁有了人類

　　的特點(diǎn)并超過人類基因的復(fù)制能力，并且有了

　　自我意識(shí)時(shí)，對(duì)人類的挑戰(zhàn)就會(huì)超過歷史上人

　　與人的戰(zhàn)爭(zhēng)所產(chǎn)生的最為殘酷和悲慘的結(jié)局。

　　殺人機(jī)器人的標(biāo)本解析

　　智能“殺人機(jī)器人”將是人工智能挑戰(zhàn)或

　　毀滅人類的最直接的形式和體現(xiàn)。盡管阿西莫

　　夫提出了機(jī)器人三定律，后來又補(bǔ)充為四定

　　律，即，第一定律：機(jī)器人不得傷害人類，或

　　坐視人類受到傷害；第二定律：除非違背第一

　　定律，否則機(jī)器人必須服從人類的命令；第三

　　定律：在不違背第一及第二定律下，機(jī)器人必

　　須保護(hù)自己；第零定律：機(jī)器人不得傷害人類

　　族群，或因不作為使人類族群受到傷害，但

　　是，殺人機(jī)器人的出爐或即將出爐意味著機(jī)器

　　人四定律將可能是一張廢紙。

　　迄今為止，殺人機(jī)器人還沒有問世，但是美

　　國(guó)軍方曾表達(dá)過這種意愿，而且無人機(jī)技術(shù)的發(fā)

　　展，以及美國(guó)等國(guó)四足型、巡邏用機(jī)器人的開發(fā)

　　應(yīng)用，已經(jīng)使得實(shí)質(zhì)意義上的殺人機(jī)器人呼之欲

　　出，擁有人工智能的殺人機(jī)器人的問世是早晚的

　　事。因?yàn)椋邪l(fā)和使用此類機(jī)器人有諸多理由，

　　例如，有助于減少實(shí)際戰(zhàn)爭(zhēng)中人類士兵的犧牲，

　　是一種具有實(shí)際價(jià)值的行為。為避免機(jī)器人的濫

　　殺無辜，可以為機(jī)器人安裝“基于國(guó)際法的系統(tǒng)

　　程序”，如此它們將不會(huì)進(jìn)行非人道的殺傷。

　　然而，殺人機(jī)器人有利于人類社會(huì)的觀念

　　面臨社會(huì)現(xiàn)實(shí)和技術(shù)等多方面的嚴(yán)峻考驗(yàn)。例

　　如，在機(jī)器人出現(xiàn)機(jī)能障礙，或被恐怖分子獲

　　得時(shí)，其危險(xiǎn)性不可估量；使用殺人機(jī)器人可

　　能意味著國(guó)家無需顧及士兵的性命，使得戰(zhàn)爭(zhēng)

　　發(fā)生的危機(jī)顯著增大；同時(shí)是否將人類的生死

　　問題委托給機(jī)器人也關(guān)系到人類重大倫理問題。

　　不過，最大的問題是，當(dāng)殺人機(jī)器人擁有

　　了自我意識(shí)和自主性時(shí)，它將不可能受機(jī)器人

　　定律或國(guó)際法的約束而自行其事。其最終的行

　　為是，當(dāng)遇到程序設(shè)計(jì)的原則，或遇到可能危

　　害自己的安全時(shí)，殺人機(jī)器人就會(huì)自主和主動(dòng)

　　殺人。程序設(shè)計(jì)的一個(gè)例子是，當(dāng)機(jī)器人察覺

　　到對(duì)手有武器并且在準(zhǔn)備射擊時(shí)，會(huì)自動(dòng)和率

　　先擊斃對(duì)方，而不可能先經(jīng)過人的同意，而且

　　也不會(huì)分辨對(duì)方拿的是玩具槍還是其他類似槍

　　的工具，如大棒，抑或是對(duì)方在開玩笑。

　　自我意識(shí)在以前被視為是智能機(jī)器人不可

　　能擁有的，但是，人工智能的發(fā)展讓人觳觫不

　　安，因?yàn)橹悄軝C(jī)器人可能會(huì)慢慢擁有自我意

　　識(shí)，盡管這種自我意識(shí)還并非真正意義上的人

　　的意識(shí)?，F(xiàn)在，人工智能的意識(shí)已經(jīng)發(fā)展到認(rèn)