機(jī)器學(xué)習(xí)算法能改進(jìn)安全解決方案，幫助人類(lèi)分析師更快地分類(lèi)威脅和修補(bǔ)漏洞。但同時(shí)，黑客也能利用機(jī)器學(xué)習(xí)發(fā)起更大更復(fù)雜的攻擊。

機(jī)器學(xué)習(xí)被定義為“計(jì)算機(jī)未經(jīng)顯式編程情況下的學(xué)習(xí)能力”，是信息安全行業(yè)的一大福音。從惡意軟件到日志分析，再到早期漏洞發(fā)現(xiàn)與修復(fù)，安全分析師可從機(jī)器學(xué)習(xí)中獲益良多?；蛟S，該技術(shù)也能提升終端安全，自動(dòng)化重復(fù)性任務(wù)，甚至降低數(shù)據(jù)泄露的發(fā)生率。

于是，人們很自然地認(rèn)為，這些智能安全解決方案會(huì)比傳統(tǒng)遺留工具更快地發(fā)現(xiàn)并阻止下一波WannaCry攻擊。人工智能和機(jī)器學(xué)習(xí)尚屬新生領(lǐng)域，但無(wú)疑指明了未來(lái)的方向，將極大地改變安全運(yùn)營(yíng)方式。

現(xiàn)下數(shù)據(jù)和App爆炸式增長(zhǎng)，除非運(yùn)用建立在AI基礎(chǔ)上的自動(dòng)化系統(tǒng)，否則我們將無(wú)法分析這海量的網(wǎng)絡(luò)流量和用戶(hù)交互活動(dòng)，安全也就淪為空談了。

然而問(wèn)題在于，黑客也知道這些技術(shù)，也想打造自己的AI和機(jī)器學(xué)習(xí)工具來(lái)發(fā)起攻擊。

網(wǎng)絡(luò)罪犯是怎么利用機(jī)器學(xué)習(xí)的？

有組織犯罪越來(lái)越多，暗網(wǎng)上也出現(xiàn)了各種各樣的黑客服務(wù)，網(wǎng)絡(luò)罪犯?jìng)兊膭?chuàng)新速度令安全防御追趕不及。于是，像機(jī)器學(xué)習(xí)和深度學(xué)習(xí)這樣的新興技術(shù)就頗為令人擔(dān)憂(yōu)了，畢竟，技術(shù)就在那里，誰(shuí)都能用。

盡管機(jī)器學(xué)習(xí)、深度學(xué)習(xí)和AI之類(lèi)技術(shù)可能是未來(lái)網(wǎng)絡(luò)防御的基石，但網(wǎng)絡(luò)罪犯?jìng)儑@這些技術(shù)的實(shí)現(xiàn)和創(chuàng)新可謂勁頭十足，絲毫不比安全界差。網(wǎng)絡(luò)安全領(lǐng)域中，經(jīng)技術(shù)放大的人類(lèi)智慧，將成為攻防競(jìng)賽中的制勝因素。

或許，未來(lái)真的會(huì)出現(xiàn) AI vs AI 的景象——《終結(jié)者》風(fēng)格的。在攻擊者越來(lái)越能有效探索被攻破網(wǎng)絡(luò)的大背景下，今年可能就是我們?cè)诰W(wǎng)絡(luò)安全領(lǐng)域見(jiàn)證 AI vs AI 的第一年。安全提供商肩上的擔(dān)子更重了，他們必須要能打造出更自動(dòng)化更智能的解決方案。

自治響應(yīng)是網(wǎng)絡(luò)安全的未來(lái)。算法應(yīng)能采取明智且有針對(duì)性的緩解動(dòng)作，減緩甚或阻止正在進(jìn)行中的攻擊，同時(shí)又不影響正常業(yè)務(wù)活動(dòng)的開(kāi)展。

當(dāng)前，野生的機(jī)器學(xué)習(xí)攻擊尚未見(jiàn)諸報(bào)端，但犯罪團(tuán)伙已經(jīng)開(kāi)始利用某些技術(shù)了。

1. 殺軟規(guī)避功能更強(qiáng)的惡意軟件

網(wǎng)絡(luò)罪犯?jìng)兊膼阂廛浖?chuàng)建工作很大程度上是手工作坊式的。他們編寫(xiě)腳本制作計(jì)算機(jī)病毒和木馬，利用Rootkit、口令刮取器、鍵盤(pán)記錄器等工具輔助病毒和木馬的傳播與執(zhí)行。

如果他們能加速這一過(guò)程會(huì)有什么后果呢？機(jī)器學(xué)習(xí)可以用來(lái)輔助創(chuàng)建惡意軟件嗎？

用機(jī)器學(xué)習(xí)創(chuàng)建惡意軟件的首個(gè)例子出現(xiàn)在2017年，是在一篇題為《為基于GAN的黑盒測(cè)試產(chǎn)生敵對(duì)惡意軟件樣本》的報(bào)告中提出的。報(bào)告作者編寫(xiě)了一個(gè)基于生成性敵對(duì)網(wǎng)絡(luò)(GAN)的算法來(lái)產(chǎn)生敵對(duì)惡意軟件樣本，這些樣本甚至能繞過(guò)基于機(jī)器學(xué)習(xí)的檢測(cè)系統(tǒng)。

同樣是在2017年，DEFCON大會(huì)上，安全公司Endgame利用馬斯克的OpenAI框架創(chuàng)建出定制惡意軟件，安全引擎對(duì)這些AI惡意軟件視而不見(jiàn)。Endgame是通過(guò)修改惡意二進(jìn)制文件的某些部分來(lái)騙過(guò)殺毒引擎的，修改后的代碼看起來(lái)無(wú)害而可信。

其他研究人員則預(yù)測(cè)，機(jī)器學(xué)習(xí)最終將能基于實(shí)驗(yàn)室檢測(cè)的方法和結(jié)果來(lái)實(shí)時(shí)修改代碼。這基本算是多態(tài)惡意軟件的擴(kuò)展。

2. 智能僵尸網(wǎng)絡(luò)用于可擴(kuò)展的攻擊

安全公司飛塔認(rèn)為，2018年將是“蜂巢網(wǎng)絡(luò)”(hivenets)和“機(jī)器人集群”(swarmbots)之類(lèi)自學(xué)習(xí)系統(tǒng)年，“智能”IoT設(shè)備可被用于發(fā)起大規(guī)模網(wǎng)絡(luò)攻擊。這些設(shè)備將能相互通信，并基于共享的本地情報(bào)采取行動(dòng)。另外，僵尸主機(jī)也會(huì)變得更聰明，不用其控制者顯式干預(yù)即可自行執(zhí)行命令。因此，蜂巢網(wǎng)絡(luò)將會(huì)像蜂群一樣呈指數(shù)級(jí)增長(zhǎng)，極大增強(qiáng)其同時(shí)攻擊多個(gè)受害者的能力，并大幅阻礙緩解及響應(yīng)措施。

有趣的是，這些攻擊并沒(méi)有利用集群技術(shù)，蜂巢網(wǎng)絡(luò)并沒(méi)有能夠從其以往行為中自行學(xué)習(xí)。作為AI的分支，集群技術(shù)被定義為“去中心化自組織系統(tǒng)的自然或人工的群體行為”，如今已經(jīng)應(yīng)用在無(wú)人機(jī)和新興機(jī)器人設(shè)備中。

3. 高級(jí)魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)變得更聰明

機(jī)器學(xué)習(xí)的惡意用途中一個(gè)較為明顯的方面，是用語(yǔ)音朗讀、語(yǔ)音識(shí)別和自然語(yǔ)言處理(NLP)之類(lèi)的算法進(jìn)行更智能化的社會(huì)工程攻擊。畢竟，通過(guò)遞歸神經(jīng)網(wǎng)絡(luò)，人類(lèi)已經(jīng)能教此類(lèi)軟件寫(xiě)文章了，所以在理論上，網(wǎng)絡(luò)釣魚(yú)郵件也是可以變得更復(fù)雜巧妙而可信的。

尤其是，機(jī)器學(xué)習(xí)能令高級(jí)魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)郵件更針對(duì)那些位高權(quán)重的人士，而且能自動(dòng)化整個(gè)釣魚(yú)過(guò)程?？梢杂谜鎸?shí)郵件來(lái)訓(xùn)練這些系統(tǒng)，讓它們學(xué)會(huì)產(chǎn)生看起來(lái)令人信服的郵件。

邁克菲實(shí)驗(yàn)室的2017預(yù)測(cè)中曾說(shuō)，網(wǎng)絡(luò)罪犯將會(huì)更多地利用機(jī)器學(xué)習(xí)來(lái)分析大量被盜數(shù)據(jù)記錄，識(shí)別出潛在受害者，編寫(xiě)出語(yǔ)境豐富、說(shuō)服力強(qiáng)的釣魚(yú)郵件。

另外，2016年的美國(guó)黑帽大會(huì)上，研究人員提交了一篇題為《武器化數(shù)據(jù)科學(xué)的社會(huì)工程應(yīng)用：在推特上自動(dòng)化E2E魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)》的論文，其中展示了一個(gè)可以學(xué)習(xí)向目標(biāo)用戶(hù)發(fā)送釣魚(yú)推文的回歸神經(jīng)網(wǎng)絡(luò)。論文中名為SNAP_R的神經(jīng)網(wǎng)絡(luò)經(jīng)魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)滲透測(cè)試數(shù)據(jù)訓(xùn)練后，可動(dòng)態(tài)運(yùn)用從目標(biāo)用戶(hù)及其關(guān)注用戶(hù)處按時(shí)間軸抽取的推文主題，來(lái)構(gòu)造出更加可信的社會(huì)工程攻擊，增加惡意鏈接的被點(diǎn)擊率。

該系統(tǒng)相當(dāng)有效。在涉及90名用戶(hù)的測(cè)試中，此框架成功率在30%到60%之間，相比人工魚(yú)叉式網(wǎng)絡(luò)釣魚(yú)和群發(fā)網(wǎng)絡(luò)釣魚(yú)郵件可謂有了長(zhǎng)足進(jìn)步。

4. 威脅情報(bào)失去控制

涉及機(jī)器學(xué)習(xí)，威脅情報(bào)也算是禍福兼有的事物吧。一方面，在誤報(bào)橫行的時(shí)代，機(jī)器學(xué)習(xí)系統(tǒng)可幫助分析師識(shí)別出多個(gè)系統(tǒng)中的真正威脅。

機(jī)器學(xué)習(xí)帶給威脅情報(bào)的主要好處有二：

? 第一，海量數(shù)據(jù)的處理和結(jié)構(gòu)化，包括其間復(fù)雜關(guān)系的分析，是僅靠人力幾乎無(wú)法解決的問(wèn)題，而給人輔以機(jī)器的處理能力，意味著分析師可以更有效地識(shí)別并響應(yīng)新興威脅；

? 第二，自動(dòng)化可以將沒(méi)什么技術(shù)含量的瑣碎工作批量完成，極大增加分析師能處理的事務(wù)數(shù)量。

但是，網(wǎng)絡(luò)罪犯也會(huì)快速適應(yīng)，簡(jiǎn)單地再次過(guò)載警報(bào)即可。邁克菲CTO格羅布曼曾指出過(guò)一種被稱(chēng)為“提升噪音地板”的技術(shù)。黑客將使用該技術(shù)通過(guò)產(chǎn)生大量誤報(bào)來(lái)讓機(jī)器學(xué)習(xí)模型習(xí)以為常。而一旦目標(biāo)將自身系統(tǒng)重新調(diào)整到略過(guò)這些誤報(bào)，攻擊者就可發(fā)起能逃過(guò)該機(jī)器學(xué)習(xí)系統(tǒng)的真正攻擊。

5. 未授權(quán)訪問(wèn)

早在2012年，就出現(xiàn)了在安全攻擊中應(yīng)用機(jī)器學(xué)習(xí)的案例。3名研究人員使用支持向量機(jī)(SVM)攻破了reCAPTCHA驗(yàn)證碼系統(tǒng)，準(zhǔn)確率高達(dá)82%。此后，所有驗(yàn)證碼機(jī)制都經(jīng)過(guò)了改進(jìn)，直到2016年，研究人員才用深度學(xué)習(xí)再次攻破此類(lèi)系統(tǒng)。此時(shí)，用深度學(xué)習(xí)對(duì)簡(jiǎn)單驗(yàn)證碼取得的準(zhǔn)確率升到了92%。

去年的黑帽大會(huì)上，“我是機(jī)器人”的研究項(xiàng)目揭示了研究人員如何攻破最新的語(yǔ)義圖像驗(yàn)證碼，并比較了多種機(jī)器學(xué)習(xí)算法。該研究中的方法對(duì)谷歌的reCAPTCHA驗(yàn)證碼取得了98%的準(zhǔn)確率。

6. 機(jī)器學(xué)習(xí)引擎中毒

用于檢測(cè)惡意軟件的機(jī)器學(xué)習(xí)引擎也是可以被下毒致癱的，這種方法雖然簡(jiǎn)單粗暴，但依然有效，就好像網(wǎng)絡(luò)罪犯以前對(duì)殺軟引擎所做的那樣。機(jī)器學(xué)習(xí)模型從輸入數(shù)據(jù)中學(xué)習(xí)，如果該數(shù)據(jù)池就是帶毒的，那么其輸出自然也免不了有毒。紐約大學(xué)的研究人員展示了卷積神經(jīng)網(wǎng)絡(luò)(CNNs)是怎么被安插后門(mén)以產(chǎn)出錯(cuò)誤結(jié)果的，谷歌、微軟和AWS之類(lèi)CNNs都沒(méi)逃過(guò)機(jī)器學(xué)習(xí)中毒的毒手。