一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評(píng)論與回復(fù)
登錄后你可以
  • 下載海量資料
  • 學(xué)習(xí)在線(xiàn)課程
  • 觀看技術(shù)視頻
  • 寫(xiě)文章/發(fā)帖/加入社區(qū)
會(huì)員中心
創(chuàng)作中心

完善資料讓更多小伙伴認(rèn)識(shí)你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

我們憑什么來(lái)確保人工智能安全?

NXP客棧 ? 來(lái)源:蓋世汽車(chē) ? 作者:蓋世汽車(chē) ? 2021-05-29 10:59 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

隨著人工智能及其在未來(lái)扮演的角色成為社會(huì)討論的焦點(diǎn),恩智浦也在探索一個(gè)關(guān)鍵問(wèn)題:如何從開(kāi)發(fā)流程著手,確保人工智能和機(jī)器學(xué)習(xí)的安全?

人工智能:不一樣的開(kāi)發(fā)過(guò)程

在恩智浦,我們會(huì)按照客戶(hù)提出的正式要求,為硬件開(kāi)發(fā)相應(yīng)的功能。為了滿(mǎn)足客戶(hù)的要求,我們首先列出一些已知的輸入信息,也就是用例。用例可能是雷達(dá)傳感器在汽車(chē)中的位置(面朝前方或角落)、電動(dòng)汽車(chē)電池的工作電壓、汽車(chē)駕駛艙內(nèi)的屏幕數(shù)量等。

然后,我們?cè)俣x設(shè)計(jì),驗(yàn)證功能是否按照預(yù)期方式工作,而且不僅在模擬環(huán)境中驗(yàn)證,還在實(shí)地環(huán)境中驗(yàn)證。在實(shí)地環(huán)境中,我們無(wú)法控制功能實(shí)際接收到的輸入,因而我們要在選定的用例范圍內(nèi),將功能設(shè)計(jì)得盡可能穩(wěn)定可靠。

但對(duì)于人工智能,這個(gè)開(kāi)發(fā)過(guò)程會(huì)有一點(diǎn)變化。我們?nèi)匀粫?huì)定義用例,但還要為每個(gè)用例分配明確定義的輸出。這個(gè)任務(wù)交給計(jì)算機(jī)完成,然后再定義功能。從示例中學(xué)習(xí)的過(guò)程可稱(chēng)為訓(xùn)練。我們要教計(jì)算機(jī)做出我們需要的響應(yīng)。

一旦對(duì)計(jì)算機(jī)進(jìn)行了用例訓(xùn)練,即可將這些知識(shí)轉(zhuǎn)移到設(shè)備,讓設(shè)備將知識(shí)應(yīng)用于實(shí)地環(huán)境,更好地處理難以預(yù)知的數(shù)據(jù)。這個(gè)過(guò)程就稱(chēng)為推理。它與非人工智能流程的關(guān)鍵差別在于,在人工智能的開(kāi)發(fā)中,工程師不一定像過(guò)去那樣理解功能本身。

因此我們必須進(jìn)行評(píng)估,調(diào)節(jié)機(jī)器的行為,直至輸出的結(jié)果符合我們最初的預(yù)期。對(duì)于需要高計(jì)算量的設(shè)備,這個(gè)調(diào)節(jié)過(guò)程在云端進(jìn)行,而不是在邊緣進(jìn)行。

實(shí)現(xiàn)安全的人工智能 / 機(jī)器學(xué)習(xí)

人工智能和機(jī)器學(xué)習(xí)將被應(yīng)用于汽車(chē)安全功能,因而必須確保它們不會(huì)違反安全規(guī)則。從汽車(chē)行業(yè)背景來(lái)思考人工智能和機(jī)器學(xué)習(xí)時(shí),汽車(chē)OEM面臨的問(wèn)題是如何了解特定功能的風(fēng)險(xiǎn)級(jí)別,以及它們可能對(duì)人造成的傷害。因此,在定義功能時(shí),既要避免系統(tǒng)性故障,還要減少隨機(jī)故障。我們利用安全管理流程和安全架構(gòu)來(lái)滿(mǎn)足這些要求,從而在由人管理的開(kāi)發(fā)中,實(shí)現(xiàn)設(shè)備監(jiān)控。

但是,僅遵循我們現(xiàn)有的開(kāi)發(fā)流程是不夠的,因?yàn)橛?xùn)練和推理在本質(zhì)上有所不同。因此,我們需要定義不同的問(wèn)題陳述。首先,我們必須了解訓(xùn)練數(shù)據(jù)是否存在系統(tǒng)性故障。我們還必須了解人工智能模型是如何創(chuàng)建的。該模型是否會(huì)產(chǎn)生可能導(dǎo)致系統(tǒng)性故障的不必要偏差?此外,在推理過(guò)程中,模型的執(zhí)行是否存在隨機(jī)故障?

在這一方面,機(jī)器學(xué)習(xí)質(zhì)保可以發(fā)揮作用。機(jī)器學(xué)習(xí)質(zhì)保涉及到訓(xùn)練和評(píng)估步驟的完整性、正確性和一致性。它涵蓋所有頂級(jí)安全流程和數(shù)據(jù)管理。其目的是確保使用的數(shù)據(jù)是正確和完整的,不存在任何偏差。

在推理層面上,安全機(jī)制可以確保硬件的完整性。而這些硬件可能是任何形式的硬件內(nèi)核。經(jīng)典的安全機(jī)制具有ECC/奇偶校驗(yàn)、鎖步和流量監(jiān)控功能,另外還利用安全封裝器加以增強(qiáng),對(duì)數(shù)據(jù)進(jìn)行更多檢查,從統(tǒng)計(jì)上衡量安全性能。

恩智浦有關(guān)算法道德的白皮書(shū)闡述了恩智浦對(duì)人工智能開(kāi)發(fā)完整性的看法,并探討了可靠人工智能的安全性和透明度。我們有一款名為Auto eIQ的專(zhuān)用軟件,可幫助開(kāi)發(fā)人員評(píng)估和優(yōu)化訓(xùn)練模型,并將訓(xùn)練模型部署到目標(biāo)環(huán)境中,有助我們持續(xù)提高模型的可靠性。

編輯:jq

聲明:本文內(nèi)容及配圖由入駐作者撰寫(xiě)或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點(diǎn)僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場(chǎng)。文章及其配圖僅供工程師學(xué)習(xí)之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問(wèn)題,請(qǐng)聯(lián)系本站處理。 舉報(bào)投訴
  • OEM
    OEM
    +關(guān)注

    關(guān)注

    4

    文章

    408

    瀏覽量

    51616
  • 人工智能
    +關(guān)注

    關(guān)注

    1806

    文章

    48996

    瀏覽量

    249196
  • ECC
    ECC
    +關(guān)注

    關(guān)注

    0

    文章

    97

    瀏覽量

    21084
  • 機(jī)器學(xué)習(xí)

    關(guān)注

    66

    文章

    8501

    瀏覽量

    134562

原文標(biāo)題:深度 | 確保人工智能安全,我們憑什么?

文章出處:【微信號(hào):NXP客棧,微信公眾號(hào):NXP客棧】歡迎添加關(guān)注!文章轉(zhuǎn)載請(qǐng)注明出處。

收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評(píng)論

    相關(guān)推薦
    熱點(diǎn)推薦

    最新人工智能硬件培訓(xùn)AI 基礎(chǔ)入門(mén)學(xué)習(xí)課程參考2025版(大模型篇)

    人工智能大模型重塑教育與社會(huì)發(fā)展的當(dāng)下,無(wú)論是探索未來(lái)職業(yè)方向,還是更新技術(shù)儲(chǔ)備,掌握大模型知識(shí)都已成為新時(shí)代的必修課。從職場(chǎng)上輔助工作的智能助手,到課堂用于學(xué)術(shù)研究的智能工具,大模型正在工作生活
    發(fā)表于 07-04 11:10

    AI人工智能隱私保護(hù)怎么樣

    在當(dāng)今科技飛速發(fā)展的時(shí)代,AI人工智能已經(jīng)深入到我們生活的方方面面,從醫(yī)療診斷到交通調(diào)度,從教育輔助到娛樂(lè)互動(dòng),其影響力無(wú)處不在。然而,隨著AI人工智能的廣泛應(yīng)用,其安全性問(wèn)題也備受關(guān)
    的頭像 發(fā)表于 03-11 09:46 ?474次閱讀
    AI<b class='flag-5'>人工智能</b>隱私保護(hù)怎么樣

    Embarcadero:人工智能驅(qū)動(dòng)發(fā)展我們的期望是什么

    人人都在談?wù)?b class='flag-5'>人工智能。我們的Visual Assist 團(tuán)隊(duì)對(duì)人工智能有何期望?顯然,人工智能與我們息息相關(guān)——關(guān)于這一點(diǎn)的討論已經(jīng)無(wú)需多言——但它也被過(guò)度炒作了。
    的頭像 發(fā)表于 01-15 10:46 ?457次閱讀

    嵌入式和人工智能究竟是什么關(guān)系?

    理這些數(shù)據(jù),提高系統(tǒng)的響應(yīng)速度和準(zhǔn)確性。此外,嵌入式系統(tǒng)還可以為人工智能提供安全和隱私保護(hù),避免數(shù)據(jù)泄露和攻擊。總之,嵌入式系統(tǒng)和人工智能是相輔相成的,它們?cè)谠S多領(lǐng)域都有廣闊的應(yīng)用前景。 嵌入式系統(tǒng)
    發(fā)表于 11-14 16:39

    《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第6章人AI與能源科學(xué)讀后感

    幸得一好書(shū),特此來(lái)分享。感謝平臺(tái),感謝作者。受益匪淺。 在閱讀《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》的第6章后,我深刻感受到人工智能在能源科學(xué)領(lǐng)域中的巨大潛力和廣泛應(yīng)用。這一章詳細(xì)
    發(fā)表于 10-14 09:27

    AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第4章-AI與生命科學(xué)讀后感

    很幸運(yùn)社區(qū)給我一個(gè)閱讀此書(shū)的機(jī)會(huì),感謝平臺(tái)。 《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第4章關(guān)于AI與生命科學(xué)的部分,為我們揭示了人工智能技術(shù)在生命科學(xué)領(lǐng)域中的廣泛應(yīng)用和深遠(yuǎn)影響。在
    發(fā)表于 10-14 09:21

    《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》第一章人工智能驅(qū)動(dòng)的科學(xué)創(chuàng)新學(xué)習(xí)心得

    的同時(shí),確保其公正性、透明度和可持續(xù)性,是當(dāng)前和未來(lái)科學(xué)研究必須面對(duì)的重要課題。此外,培養(yǎng)具備AI技能的科研人才,也是推動(dòng)這一領(lǐng)域發(fā)展的關(guān)鍵。 4. 激發(fā)創(chuàng)新思維 閱讀這一章,我被深深啟發(fā)的是人工智能
    發(fā)表于 10-14 09:12

    risc-v在人工智能圖像處理應(yīng)用前景分析

    RISC-V在人工智能圖像處理領(lǐng)域的應(yīng)用前景十分廣闊,這主要得益于其開(kāi)源性、靈活性和低功耗等特點(diǎn)。以下是對(duì)RISC-V在人工智能圖像處理應(yīng)用前景的詳細(xì)分析: 一、RISC-V的基本特點(diǎn) RISC-V
    發(fā)表于 09-28 11:00

    人工智能ai 數(shù)電 模電 模擬集成電路原理 電路分析

    人工智能ai 數(shù)電 模電 模擬集成電路原理 電路分析 想問(wèn)下哪些比較容易學(xué) 不過(guò)好像都是要學(xué)的
    發(fā)表于 09-26 15:24

    全球人工智能峰會(huì)呼吁全球行動(dòng),確保人工智能創(chuàng)新“造福人類(lèi)”

    沙特阿拉伯利雅得2024年9月16日?/美通社/ -- 在利雅得舉行的全球人工智能峰會(huì)(GAIN)圓滿(mǎn)落幕,為期三天的峰會(huì)迎來(lái)了來(lái)自全球各地的3萬(wàn)多名代表。 此次峰會(huì)由Saudi Data
    的頭像 發(fā)表于 09-17 11:42 ?329次閱讀

    人工智能ai4s試讀申請(qǐng)

    目前人工智能在繪畫(huà)對(duì)話(huà)等大模型領(lǐng)域應(yīng)用廣闊,ai4s也是方興未艾。但是如何有效利用ai4s工具助力科研是個(gè)需要研究的課題,本書(shū)對(duì)ai4s基本原理和原則,方法進(jìn)行描訴,有利于總結(jié)經(jīng)驗(yàn),擬按照要求準(zhǔn)備相關(guān)體會(huì)材料。看能否有助于入門(mén)和提高ss
    發(fā)表于 09-09 15:36

    名單公布!【書(shū)籍評(píng)測(cè)活動(dòng)NO.44】AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新

    ! 《AI for Science:人工智能驅(qū)動(dòng)科學(xué)創(chuàng)新》 這本書(shū)便將為讀者徐徐展開(kāi)AI for Science的美麗圖景,與大家一起去了解: 人工智能究竟幫科學(xué)家做了什么? 人工智能將如何改變
    發(fā)表于 09-09 13:54

    報(bào)名開(kāi)啟!深圳(國(guó)際)通用人工智能大會(huì)將啟幕,國(guó)內(nèi)外大咖齊聚話(huà)AI

    8月28日至30日,2024深圳(國(guó)際)通用人工智能大會(huì)暨深圳(國(guó)際)通用人工智能產(chǎn)業(yè)博覽會(huì)將在深圳國(guó)際會(huì)展中心(寶安)舉辦。大會(huì)以“魅力AI·無(wú)限未來(lái)”為主題,致力于打造全球通用人工智能領(lǐng)域集產(chǎn)品
    發(fā)表于 08-22 15:00

    FPGA在人工智能中的應(yīng)用有哪些?

    FPGA(現(xiàn)場(chǎng)可編程門(mén)陣列)在人工智能領(lǐng)域的應(yīng)用非常廣泛,主要體現(xiàn)在以下幾個(gè)方面: 一、深度學(xué)習(xí)加速 訓(xùn)練和推理過(guò)程加速:FPGA可以用來(lái)加速深度學(xué)習(xí)的訓(xùn)練和推理過(guò)程。由于其高并行性和低延遲特性
    發(fā)表于 07-29 17:05

    人工智能安全守護(hù)計(jì)劃啟動(dòng)

    近日,中國(guó)人工智能產(chǎn)業(yè)發(fā)展聯(lián)盟(AIIA)安全治理委員會(huì)在京成功舉辦成果發(fā)布會(huì),會(huì)上隆重推出了“人工智能安全守護(hù)計(jì)劃”(簡(jiǎn)稱(chēng)“智安計(jì)劃”),標(biāo)志著我國(guó)AI
    的頭像 發(fā)表于 07-27 16:28 ?2453次閱讀