電子發(fā)燒友網(wǎng)>電子資料下載>電子資料>機(jī)器學(xué)習(xí)是否會向黑客開放您的工業(yè)系統(tǒng)？

機(jī)器學(xué)習(xí)是否會向黑客開放您的工業(yè)系統(tǒng)？

2512806 2022-11-25 | pdf | 193.97KB | 次下載 | 免費(fèi)

資料介紹

每種計(jì)算方法都會帶來自身的安全挑戰(zhàn)，機(jī)器學(xué)習(xí) (ML) 也不例外。幸運(yùn)的是，這部分人工智能 (AI) 中的漏洞是可以預(yù)見的。然而，不幸的是，它們不是很容易被發(fā)現(xiàn)。每種計(jì)算方法都會帶來自身的安全挑戰(zhàn)，機(jī)器學(xué)習(xí) (ML) 也不例外。幸運(yùn)的是，這部分人工智能 (AI) 中的漏洞是可以預(yù)見的。然而，不幸的是，它們不是很容易被發(fā)現(xiàn)。當(dāng)我們考慮涉及的大量數(shù)據(jù)、數(shù)據(jù)的精細(xì)粒度以及機(jī)器學(xué)習(xí)在進(jìn)行過程中學(xué)習(xí)和改進(jìn)的事實(shí)時，挑戰(zhàn)就在于此。機(jī)器學(xué)習(xí)處理來自人類無法察覺的模式的數(shù)據(jù)，這既是一種資產(chǎn)，也是一種弱點(diǎn)。當(dāng)我們考慮涉及的大量數(shù)據(jù)、數(shù)據(jù)的精細(xì)粒度以及機(jī)器學(xué)習(xí)在進(jìn)行過程中學(xué)習(xí)和改進(jìn)的事實(shí)時，挑戰(zhàn)就在于此。機(jī)器學(xué)習(xí)處理來自人類無法察覺的模式的數(shù)據(jù)，這既是一種資產(chǎn)，也是一種弱點(diǎn)。人工智能的每個領(lǐng)域都產(chǎn)生了高效率、高質(zhì)量，而且往往是前所未有的創(chuàng)新。例如，在制造過程中，人工智能可以很容易地發(fā)現(xiàn)和糾正問題，而基于人工智能的安全方法可以保護(hù)所涉及的過程。人工智能的每個領(lǐng)域都產(chǎn)生了高效率、高質(zhì)量，而且往往是前所未有的創(chuàng)新。例如，在制造過程中，人工智能可以很容易地發(fā)現(xiàn)和糾正問題，而基于人工智能的安全方法可以保護(hù)所涉及的過程。機(jī)器學(xué)習(xí)通過訓(xùn)練算法“學(xué)習(xí)”并確定情況的可能結(jié)果，而深度學(xué)習(xí) (DL) 是 AI 的另一個子集，算法使軟件能夠自我訓(xùn)練以執(zhí)行任務(wù)。在這種情況下，多層神經(jīng)網(wǎng)絡(luò)暴露于數(shù)百萬個數(shù)據(jù)點(diǎn)，反映了人腦識別模式、分類和澄清信息的能力。機(jī)器學(xué)習(xí)通過訓(xùn)練算法“學(xué)習(xí)”并確定情況的可能結(jié)果，而深度學(xué)習(xí) (DL) 是 AI 的另一個子集，算法使軟件能夠自我訓(xùn)練以執(zhí)行任務(wù)。在這種情況下，多層神經(jīng)網(wǎng)絡(luò)暴露于數(shù)百萬個數(shù)據(jù)點(diǎn)，反映了人腦識別模式、分類和澄清信息的能力。機(jī)器學(xué)習(xí)中的漏洞機(jī)器學(xué)習(xí)中的漏洞那么，回到手頭的問題。機(jī)器學(xué)習(xí)是否會向黑客開放您的工業(yè)系統(tǒng)？答案是，沒有什么是萬無一失的，尤其是快速發(fā)展的技術(shù)。也就是說，機(jī)器學(xué)習(xí)/深度學(xué)習(xí)系統(tǒng)既有設(shè)計(jì)良好的，也有設(shè)計(jì)不良的，因此有些系統(tǒng)比其他系統(tǒng)更容易受到黑客攻擊。那么，回到手頭的問題。機(jī)器學(xué)習(xí)是否會向黑客開放您的工業(yè)系統(tǒng)？答案是，沒有什么是萬無一失的，尤其是快速發(fā)展的技術(shù)。也就是說，機(jī)器學(xué)習(xí)/深度學(xué)習(xí)系統(tǒng)既有設(shè)計(jì)良好的，也有設(shè)計(jì)不良的，因此有些系統(tǒng)比其他系統(tǒng)更容易受到黑客攻擊。Gartner 預(yù)測，到 2025 年，機(jī)器學(xué)習(xí)將成為每個安全解決方案的一部分。與此同時，需要處理的安全漏洞正在成倍增加。有效努力的例子包括谷歌使用機(jī)器學(xué)習(xí)阻止了大約 99% 的垃圾郵件。據(jù)稱，IBM 的 Watson 在 2017 年阻止了 2 億次針對溫布爾登網(wǎng)球公開賽的網(wǎng)絡(luò)攻擊。機(jī)器學(xué)習(xí)算法在保護(hù)基于云的平臺和分析可疑活動（包括登錄和其他異常）方面發(fā)揮著重要作用。Gartner 預(yù)測，到 2025 年，機(jī)器學(xué)習(xí)將成為每個安全解決方案的一部分。與此同時，需要處理的安全漏洞正在成倍增加。有效努力的例子包括谷歌使用機(jī)器學(xué)習(xí)阻止了大約 99% 的垃圾郵件。據(jù)稱，IBM 的 Watson 在 2017 年阻止了 2 億次針對溫布爾登網(wǎng)球公開賽的網(wǎng)絡(luò)攻擊。機(jī)器學(xué)習(xí)算法在保護(hù)基于云的平臺和分析可疑活動（包括登錄和其他異常）方面發(fā)揮著重要作用。最常用的攻擊模式是一種對抗性技術(shù)，它試圖通過惡意輸入來滲透模型，使模型出錯。當(dāng)出現(xiàn)包含微妙但惡意制作的數(shù)據(jù)的新輸入時，模型將表現(xiàn)不佳，但模型的統(tǒng)計(jì)性能可能不會受到影響。機(jī)器學(xué)習(xí)模型也可以通過以下方式受到攻擊：最常用的攻擊模式是一種對抗性技術(shù)，它試圖通過惡意輸入來滲透模型，使模型出錯。當(dāng)出現(xiàn)包含微妙但惡意制作的數(shù)據(jù)的新輸入時，模型將表現(xiàn)不佳，但模型的統(tǒng)計(jì)性能可能不會受到影響。機(jī)器學(xué)習(xí)模型也可以通過以下方式受到攻擊：損害誠信是其中之一。如果 ML 模型沒有過濾掉一個或多個負(fù)面案例并且它們偷偷溜過系統(tǒng)，它可能會被黑客入侵。