人工智能是引領新一輪科技革命和產(chǎn)業(yè)變革的顛覆性技術，在為人類創(chuàng)造巨大福祉的同時，也會催生各類全新的安全風險。為科學預判和管控人工智能發(fā)展的安全風險，按照循序漸進、分類施策的原則，每年聚焦若干關鍵問題的治理，提出人工智能安全與法治導則。2019年度重點是算法安全、數(shù)據(jù)安全、知識產(chǎn)權、社會就業(yè)和法律責任。

一、人工智能算法安全

（一）風險挑戰(zhàn)

人工智能算法安全風險是指由于人工智能算法設計、程序運行導致的各類安全風險，主要包括技術缺陷、設計偏見和算法黑箱等風險。

1．技術缺陷。由于算法模型存在技術性缺陷，導致人工智能系統(tǒng)無法正常運行，或受到外部網(wǎng)絡攻擊和惡意樣本侵擾，產(chǎn)生與預期不符乃至危害性結果，造成人員和財產(chǎn)損失。

2．設計偏見。由于算法設計者自身存在價值偏見，導致算法設計無法實現(xiàn)設計者既定的向善目標，產(chǎn)生與預期不符以及危害性社會結果，例如算法歧視等。

3．算法黑箱。人工智能技術趨向自主學習和持續(xù)進化，不僅外部用戶難以了解算法的運行邏輯，開發(fā)者自身也越來越難以全面解釋算法的決策機制，算法的“黑箱化”將導致技術失控以及其他危害性結果。

（二）法治應對

1．開展算法安全的技術評估。通過政策和法律引導，鼓勵人工智能安全技術研發(fā)，構建人工智能軟件質量評估體系，針對人工智能重點應用，開展人工智能算法安全的評估檢測。

2．推動技術倫理的算法導入。法律要強化基于人類倫理規(guī)范的算法模型設計，要求人工智能開發(fā)者設計高可解釋性的智能系統(tǒng)，促進人工智能算法邏輯與人類社會價值規(guī)范的持續(xù)校準。

3．加強智能算法的透明監(jiān)督。創(chuàng)新算法監(jiān)管模式，建立多層級監(jiān)管體系，政府須依法開展人工智能的產(chǎn)品和服務監(jiān)管，人工智能企業(yè)、行業(yè)應建立相應的算法監(jiān)管體制，保持與政府監(jiān)管的協(xié)同。

二、人工智能數(shù)據(jù)安全

（一）風險挑戰(zhàn)

人工智能數(shù)據(jù)安全風險是指人工智能系統(tǒng)在數(shù)據(jù)采集、分析及流轉過程中產(chǎn)生的各類安全風險，主要包括數(shù)據(jù)隱私、數(shù)據(jù)控制和數(shù)據(jù)質量等風險。

1．數(shù)據(jù)隱私。數(shù)據(jù)隱私風險包括在采集階段自動化獲取用戶個人敏感信息，在分析階段基于用戶非敏感數(shù)據(jù)智能挖掘得出個人敏感信息并加以利用，在流轉階段未經(jīng)用戶許可將用戶數(shù)據(jù)傳遞給第三方機構或其他國家（區(qū)域）。

2．數(shù)據(jù)保護。數(shù)據(jù)保護風險是指人工智能系統(tǒng)數(shù)據(jù)資源遭遇攻擊、竊取、篡改等，導致數(shù)據(jù)發(fā)生泄露、系統(tǒng)無法使用甚至導致功能失控，數(shù)據(jù)是人工智能產(chǎn)品正常穩(wěn)定運行的基礎，且涉及用戶隱私、商業(yè)秘密乃至國家機密，數(shù)據(jù)保護挑戰(zhàn)尤為艱巨。

3．數(shù)據(jù)質量。人工智能的研發(fā)和應用對數(shù)據(jù)質量依賴度極高。數(shù)據(jù)質量不足將對人工智能系統(tǒng)帶來重大風險，主要包括數(shù)據(jù)集規(guī)模量、多樣性等不足以及數(shù)據(jù)集遭污染等原因導致的安全風險。

（二）法治應對

1．加強數(shù)據(jù)安全立法和執(zhí)法。針對個人數(shù)據(jù)和重要數(shù)據(jù)開展系統(tǒng)立法和嚴格執(zhí)法，結合人工智能重點應用場景，制定數(shù)據(jù)安全分類分級管理體系和標準，對采集和使用敏感個人數(shù)據(jù)的人工智能企業(yè)/行業(yè)須加強法律和行政監(jiān)管。

2．豐富人工智能技術發(fā)展路徑。當前人工智能主流技術路徑是基于海量數(shù)據(jù)的深度學習，未來須通過政策手段支持多樣化的人工智能技術發(fā)展，例如基于小數(shù)據(jù)的人工智能算法技術等。

3．提升人工智能數(shù)據(jù)資源管理水平。促進公共部門和私營部門數(shù)據(jù)資源共享和流通，分行業(yè)構建人工智能高質量訓練數(shù)據(jù)集，降低人工智能數(shù)據(jù)獲取成本，提高人工智能行業(yè)的數(shù)據(jù)質量。

三、人工智能知識產(chǎn)權

人工智能知識產(chǎn)權是指利用人工智能進行文學、藝術等作品創(chuàng)作而產(chǎn)生的知識產(chǎn)權問題，人工智能知識產(chǎn)權問題包括算法知識產(chǎn)權、數(shù)據(jù)知識產(chǎn)權和創(chuàng)作物知識產(chǎn)權。

（一）風險挑戰(zhàn)

1．算法知識產(chǎn)權。人工智能系統(tǒng)具有自主學習、不可解釋、自動編碼等特點，現(xiàn)有的軟件著作權靜態(tài)保護模式存在不足，侵權者可以采用輕易繞過算法的代碼表現(xiàn)形式實現(xiàn)功能模仿甚至超越，現(xiàn)有的軟件專利保護模式由于門檻較高且周期較長往往無法適應人工智能商業(yè)創(chuàng)新需要。

2．數(shù)據(jù)知識產(chǎn)權。人工智能系統(tǒng)主要通過自動化方式處理各類數(shù)據(jù)資源，著作權保護通過數(shù)據(jù)庫內容選擇或編排而體現(xiàn)其“獨創(chuàng)性”，人工智能數(shù)據(jù)資源采集和加工方式導致數(shù)據(jù)知識產(chǎn)權界定具有極大的不確定性。

3．創(chuàng)作物知識產(chǎn)權。人工智能技術發(fā)展導致對創(chuàng)作物“獨創(chuàng)性”界定日益模糊，以人類智力勞動為中心的傳統(tǒng)著作權保護模式面臨困境，引發(fā)人工智能系統(tǒng)之間、人工智能系統(tǒng)與人類創(chuàng)作之間的侵權難以認定等問題。

（二）法治應對

1．加強人工智能算法的專利保護。擴大專利法對于人工智能算法保護范圍，針對人工智能算法專利申請制定相關配套制度，利用技術手段提高人工智能算法專利審查，提高人工智能算法專利審核效率。

2．鼓勵人工智能數(shù)據(jù)開放性保護。明確人工智能的數(shù)據(jù)權屬，對企業(yè)數(shù)據(jù)資源進行知識產(chǎn)權認定，在此基礎上鼓勵企業(yè)加強人工智能數(shù)據(jù)資源的流通共享，推進人工智能數(shù)據(jù)集的建設。

3．促進人工智能作品的知識產(chǎn)權化。依據(jù)著作權法等對人工智能創(chuàng)作物“獨創(chuàng)性”進行科學辨別，對于符合條件的創(chuàng)作物應予以知識產(chǎn)權保護，對人工智能創(chuàng)作過程進行分解進而確認知識產(chǎn)權的歸屬及其權益分配。

四、人工智能社會就業(yè)問題

人工智能社會就業(yè)問題是指人工智能技術發(fā)展對現(xiàn)有社會生產(chǎn)結構及分配制度帶來的風險挑戰(zhàn)。主要包括結構性失業(yè)、收入差距加大等問題。

（一）風險挑戰(zhàn)

1．結構性失業(yè)。人工智能技術廣泛應用將導致傳統(tǒng)行業(yè)面臨重構、融合，人工智能必將取代眾多傳統(tǒng)職業(yè)，不僅包括簡單重復和流程化的勞動崗位，也包括部分專業(yè)技能性知識工作崗位。

2、新興勞動力不足。人工智能技術在替代傳統(tǒng)職業(yè)的同時，也在創(chuàng)造一系列全新職業(yè)崗位，尤其是對勞動力的創(chuàng)新、創(chuàng)意、創(chuàng)業(yè)能力提出更高要求，現(xiàn)有社會勞動力構成和教育體系尚難以適應這一變革，新興職業(yè)勞動力面臨短缺。

3．收入差距加大。人工智能技術驅動全社會生產(chǎn)力發(fā)生飛躍，社會財富向少數(shù)具有人工智能技術優(yōu)勢的行業(yè)和企業(yè)積聚，對不同行業(yè)、不同企業(yè)、不同崗位的分配關系構成重大影響，勞動者的收入分配差距也將因此加大。

（二）法治應對

1．加強人工智能勞動力替代監(jiān)管。加強人工智能技術應用的就業(yè)風險評估，出臺法律法規(guī)，對面臨人工智能技術替代的行業(yè)和職業(yè)進行監(jiān)管和救助，保障勞動者尤其是中低端收入階層的工作機會和權利，有序推動人工智能勞動力替代和職業(yè)轉型，防范社會大規(guī)模失業(yè)風險。

2．加快人工智能新興勞動力培養(yǎng)。面向人工智能發(fā)展趨勢，科學規(guī)劃基礎教育和職業(yè)教育體系，加大人工智能各類人才的培養(yǎng)，全面支持人工智能職業(yè)轉型社會機構發(fā)展。

3．面向人工智能開展收入調節(jié)。兼顧效率與公平，在鼓勵企業(yè)通過人工智能創(chuàng)新獲取高額利潤的同時，加強人工智能時代社會收入分配調整，對遭遇人工智能沖擊的傳統(tǒng)行業(yè)勞動力進行保護和救助，提高社會二次分配的合理性與精準性。

五、人工智能產(chǎn)品法律責任問題

人工智能產(chǎn)品法律責任是指人工智能產(chǎn)品或服務在應用過程中，引發(fā)了侵權或犯罪等行為后法律責任的認定和承擔問題，主要包括：人工智能法律主體模糊、人工智能責任界定復雜。

（一）風險挑戰(zhàn)

1．人工智能產(chǎn)品法律主體多元模糊。人工智能產(chǎn)品的法律主體涉及人工智能產(chǎn)品設計者、生產(chǎn)者、運營者、使用者等多元主體，人工智能產(chǎn)品的法律主體難以確定。

2．人工智能產(chǎn)品侵權責任錯綜復雜。包括由于人工智能的控制者、使用者操作不當，造成人工智能侵權；人工智能的控制者、使用者故意利用人工智能進行侵權行為；由于黑客等外部技術侵入原因導致侵權；未來人工智能系統(tǒng)具有“自我學習”和“自主意識”導致的侵權行為等。

（二）法治應對

1．明確責任主體。弱人工智能時代，人工智能產(chǎn)品本身不具有獨立的法律主體資格，人工智能產(chǎn)品的定位是“工具”，人工智能設計者、生產(chǎn)者、運營者、使用者承擔法律主體責任。

2．科學分配人工智能侵權的法律責任。根據(jù)過錯責任原則，由產(chǎn)品設計者、生產(chǎn)者、運營者、使用者按照過錯程度分擔；由于外部技術侵入造成的侵權，則應追究外部技術侵入者的責任。對于因技術限制，而使人工智能產(chǎn)品開發(fā)之初無法預測到的危險，造成侵權后果的，應當引入保險機制等方式進行責任分擔。