摘要：人工智能是人類進(jìn)入信息產(chǎn)業(yè)革命時代，達(dá)到的認(rèn)識和改造客觀世界能力的高峰。人工智能的大規(guī)模應(yīng)用與機器人技術(shù)發(fā)展的日新月異，將在未來帶給人類社會前所未有的巨大沖擊。聯(lián)合國作為全球最重要的國際組織，在2016 年最新發(fā)布的人工智能報告中，表達(dá)了其對于人工智能的關(guān)注；同時，為應(yīng)對人工智能及機器人技術(shù)的發(fā)展帶來的各種問題，提出了全新的思考方式與解決路徑，這對世界各國的人工智能監(jiān)管具有重要的參考意義。

　　關(guān)鍵詞：人工智能；機器人技術(shù)；聯(lián)合國

　　1 引言在，不僅帶給人類新的機會與挑戰(zhàn)，同時還改變著人

　　近年來，自動化和智能化的機器人在現(xiàn)代社會的類的行為方式。

　　在聯(lián)合國內(nèi)，雖然大部分關(guān)于自動化系統(tǒng)與人工

　　應(yīng)用越來越廣泛。先進(jìn)機器人的全球研發(fā)、部署、安

　　智能的討論主要圍繞在自動化武器系統(tǒng)，但是可以看

　　裝與使用，在引發(fā)公眾討論的同時，也鼓勵著政府監(jiān)

　　到聯(lián)合國正在對大眾化的人工智能系統(tǒng)應(yīng)用產(chǎn)生濃厚

　　管的創(chuàng)新。例如，無人機不僅成為大眾消遣的工具，

　　的興趣。聯(lián)合國關(guān)于人工智能的若干附屬報告呼吁世

　　同時也在反恐戰(zhàn)爭中發(fā)揮著重要作用；自動化機器正

　　界各國采用全新的視角看待人工智能系統(tǒng)的未來監(jiān)管

　　在取代工廠中的體力勞動者，同時帶來了勞動力市場

　　以及它們在機器人和機器人技術(shù)上的應(yīng)用。聯(lián)合國提

　　的革命；人形機器人不但被引進(jìn)到學(xué)校，還用來在日

　　供了一種考察基于機器人物理形態(tài)下的人工智能系統(tǒng)

　　托機構(gòu)中照顧老年人；輔助機器人技術(shù)還廣泛應(yīng)用在

　　全新路徑，作為世界各國“國家中心”視角的有效補充。

　　醫(yī)療方案中，不管是在對自閉癥患者的心理治療還是

　　在復(fù)雜的重要的外科手術(shù)中，都能發(fā)現(xiàn)智能機器人的2 世界科學(xué)知識與技術(shù)倫理委員會關(guān)于機

　　身影。機器人在家庭、工作、社會公共層面的廣泛存器人倫理的初步草案報告

　　多第三方應(yīng)用程序。然而由于移動應(yīng)用程序良莠不成為移動智能終端越來越重要的問題，因此有必要

　　齊，有的應(yīng)用程序利用智能終端的開放性，使用惡意建立移動應(yīng)用軟件第三方認(rèn)證簽名體系，確保簽名

　　代碼調(diào)用終端API，造成惡意行為，使得手機惡意軟信息真實可信，實現(xiàn)應(yīng)用軟件可溯源，打造安全的移

　　件泛濫，給用戶甚至社會安全帶來了威脅。安全性動互聯(lián)網(wǎng)環(huán)境。（收稿日期：2017-01-18）

　?。痦椖俊埃夯ヂ?lián)網(wǎng)+”時代社會轉(zhuǎn)型和國家治理能力提升政策研究課題項目（SRHT2016001701）資助

　　·26·

　　專 家 視 點 《電信網(wǎng)技術(shù)》2017 年2 月第2 期

　　聯(lián)合國教科文組織（The United Nations Education， Scientific and Cultural Organization）與世界科學(xué)知識與技術(shù)倫理委員會（World Commission on the Ethics of

　　Scientific Knowledge and Technology）最新聯(lián)合發(fā)布的報告（2016 年）主要討論了機器人的制造和使用促進(jìn)了人工智能的進(jìn)步，以及這些進(jìn)步所帶來的社會與倫理道德問題。盡管人工智能機器人通常被認(rèn)為是人工智能系統(tǒng)的載體，事實上，人工智能機器人具有的身體移動功能和應(yīng)用以及機器學(xué)習(xí)能力使得它們成為了自動化、智能化的電子實體。同樣的，自動化、智能化機器人不僅能夠勝任復(fù)雜的決策過程，還能通過復(fù)雜的算法進(jìn)行實實在在的執(zhí)行活動。這些進(jìn)化出的新能力，反過來，導(dǎo)致出現(xiàn)了新的倫理和法律問題。具體來說，主要包括以下4 個方面：

　?。?）自動化機器人的使用帶來的挑戰(zhàn) 2016 年，歐洲議會發(fā)布的關(guān)于人工智能和機器人

　　的報告，表達(dá)了其對于機器人將給人類帶來的風(fēng)險的關(guān)注，包括安全、隱私、誠信、尊嚴(yán)、自主。為了應(yīng)對這些風(fēng)險，歐洲議會討論了未來可能面對的道德挑戰(zhàn)以及應(yīng)對的監(jiān)管措施。聯(lián)合國教科文組織與世界科學(xué)知識與技術(shù)倫理委員會的報告（2015 年）列舉了以下可行的應(yīng)對措施：

　　●數(shù)據(jù)和隱私保護?！駝?chuàng)新關(guān)于機器人與機器人制造者之間的責(zé)任分

　　擔(dān)機制?！耦A(yù)警機制的建立。

　　●對機器人在實際生活場景中的測試?！裨谏婕叭祟惖臋C器人研究中的知情同意權(quán)?！裰悄軝C器人的退出機制。●為應(yīng)對自動機器人的廣泛應(yīng)用將給人類教育和

　　就業(yè)帶來的巨大影響而建立全新的保險制度。（2）機器人技術(shù)與機械倫理學(xué)

　　關(guān)于機器人制造和部署的倫理道德問題，被視為“機械倫理學(xué)（Roboethics）”，用來處理人們發(fā)明和分配機器人的倫理道德問題，而不僅僅是機器的倫理學(xué)。聯(lián)合國教科文組織與世界科學(xué)知識與技術(shù)倫理委員會的報告（2015 年）認(rèn)為，“機械倫理學(xué)”的大部分領(lǐng)域仍然處于沒有規(guī)范的狀態(tài)，一方面是因為政府無法跟飛速的科技發(fā)展相同步，另一方面是因為“機械倫理學(xué)”的復(fù)雜性和其無法預(yù)知的本質(zhì)。這一問題對于常常與公眾直接接觸的機器人商業(yè)開發(fā)者和制造者來說尤其

　　麻煩，因為他們同樣沒有既定的倫理準(zhǔn)則去遵守和執(zhí)行。聯(lián)合國在報告中記錄了各個國家在尋找機器人倫理道德準(zhǔn)則的實踐中所采用的不同做法，例如韓國政府強制實施的機器人特許狀制度；日本對于機器人應(yīng)用部署問題制定的管理方針，包括建立中心數(shù)據(jù)基地來儲存機器人對于人類造成傷害的事故報告。

　?。?）邁向新的責(zé)任分擔(dān)機制聯(lián)合國教科文組織與世界科學(xué)知識與技術(shù)倫理委

　　員會的報告（2015 年）探討了一個復(fù)雜的問題，即在制造一個機器人需要不同的專家和部門合作的情況下，誰該為機器人的某次操作失靈負(fù)有責(zé)任。在科學(xué)技術(shù)不斷進(jìn)步和市場需求不斷增長，機器人的自由和自主性不斷增強的情況下，這個問題顯得尤為重要。報告認(rèn)為，關(guān)于機器人倫理的考慮，不應(yīng)該局限于某次事故或者失靈造成的人身損害，更應(yīng)該包括智能機器人帶來的心理傷害，如機器人侵犯人的隱私、人因為機器人的類人行為而對其過分依賴等。報告提出了一個可行的解決辦法，即采取責(zé)任分擔(dān)的解決途徑，讓所有參與到機器人的發(fā)明、授權(quán)和分配過程中的人來分擔(dān)責(zé)任；另一個解決辦法就是讓智能機器人承擔(dān)責(zé)任，因為智能機器人確實擁有前所未有的自主性，并且擁有能夠獨立做出決策的能力。這兩種責(zé)任分擔(dān)方式展現(xiàn)了兩種極端，既無視了人類在科技發(fā)展過程中的固有偏見，也忽略了科技被居心叵測的使用者用做他途的可能性。因此，報告并沒有對機器人使用者應(yīng)該承擔(dān)的責(zé)任給予充分的考慮。

　　為了尋找可能的法律解決途徑，聯(lián)合國的報告援引了阿薩羅（Asaro）提出的結(jié)論，即機器人以及機器人技術(shù)造成的傷害，很大一部分由民法中產(chǎn)生責(zé)任的相關(guān)法律調(diào)整，因為機器人一般被視為通常意義上的科技產(chǎn)品。從這個角度看，機器人造成的傷害很大一部分被歸責(zé)于機器人制造者和零售商的“過失”、“產(chǎn)品警告的缺失”、“沒有盡到合理的義務(wù)”。在阿薩羅看來，這種歸責(zé)制度會隨著機器人越來越自動化及智能化而逐漸被廢棄。然后，一個新的平衡機器人制造者、銷售者和最終使用者的責(zé)任分擔(dān)機制會被逐漸創(chuàng)造出來。

　?。?）決策可追溯的重要性聯(lián)合國的報告認(rèn)為，在對機器人及機器人技術(shù)的

　　倫理與法律監(jiān)管中，一個至關(guān)重要的要素是可追溯性，可追溯性的確立才能讓機器人的行為及決策全程處于監(jiān)管之下?？勺匪菪缘闹匾员憩F(xiàn)在，它讓人類的監(jiān)