一段包含多個(gè)人臉的視頻中，攻擊者只對(duì)一個(gè)或者幾個(gè)人的人臉進(jìn)行偽造，這種“半真半假”的偽造情況能否被檢測(cè)識(shí)別？近日，阿里安全圖靈實(shí)驗(yàn)室宣布，其已成功打造出針對(duì)這種換臉視頻的DeepFake檢測(cè)技術(shù)，闡述該技術(shù)的論文被國(guó)際學(xué)術(shù)頂會(huì)ACM MM2020收錄。

DeepFake檢測(cè)技術(shù)具有許多現(xiàn)實(shí)應(yīng)用場(chǎng)景的價(jià)值，比如攻擊者將不雅視頻主角人臉換成目標(biāo)人臉進(jìn)行傳播等場(chǎng)景時(shí)，DeepFake檢測(cè)技術(shù)可“鑒偽求真”，追溯真相。

目前業(yè)界針對(duì)DeepFake換臉視頻的檢測(cè)方案主要分兩類：幀級(jí)檢測(cè)和視頻級(jí)檢測(cè)。幀級(jí)檢測(cè)方法標(biāo)注成本高，還要將幀級(jí)預(yù)測(cè)轉(zhuǎn)化為視頻級(jí)預(yù)測(cè)，對(duì)融合技術(shù)要求高，極易導(dǎo)致漏檢或誤檢，視頻級(jí)檢測(cè)研究過多專注于按照時(shí)序構(gòu)建的檢測(cè)模型，導(dǎo)致檢測(cè)效果受到一定限制。

阿里安全圖靈實(shí)驗(yàn)室算法工程師向溪介紹，為更好地檢測(cè)部分篡改的DeepFake視頻，阿里安全圖靈實(shí)驗(yàn)室提出了一種全新的檢測(cè)方法，這種方法標(biāo)注簡(jiǎn)單，并能幫助神經(jīng)網(wǎng)絡(luò)更好地學(xué)習(xí)人臉特征，實(shí)現(xiàn)更好的檢測(cè)效果。

阿里安全圖靈實(shí)驗(yàn)室還發(fā)現(xiàn)了攻擊者篡改視頻時(shí)露出的馬腳，由于攻擊者對(duì)視頻實(shí)行單幀篡改，導(dǎo)致同一人臉在相鄰幀上會(huì)有一些抖動(dòng)，因此研究人員設(shè)計(jì)了新檢測(cè)模塊來(lái)發(fā)現(xiàn)這些抖動(dòng)，輔助識(shí)別。

此外，此前業(yè)界提出的檢測(cè)方法多適用于針對(duì)單人視頻臉部篡改或多人視頻所有人臉篡改，阿里安全構(gòu)建了一個(gè)部分攻擊數(shù)據(jù)集，彌補(bǔ)了DeepFake檢測(cè)數(shù)據(jù)集在多人臉視頻中只對(duì)一個(gè)人臉或者幾個(gè)人臉篡改場(chǎng)景里的空白。

通過技術(shù)革新，阿里安全圖靈實(shí)驗(yàn)室DeepFake檢測(cè)技術(shù)在視頻級(jí)檢測(cè)和幀級(jí)檢測(cè)領(lǐng)域均名列前茅。該技術(shù)的共同研究者、中科院計(jì)算所副研究員王樹徽認(rèn)為，該研究成果對(duì)于一般性視頻多實(shí)例學(xué)習(xí)與標(biāo)注技術(shù)研究也具有重要啟發(fā)意義。

今年3月，阿里發(fā)布新一代安全架構(gòu)，致力于從源頭防范安全威脅，構(gòu)建安全體系，并打造數(shù)字基建安全樣板間，阿里安全研發(fā)的DeepFake檢測(cè)技術(shù)作為新一代安全架構(gòu)的核心AI技術(shù)，為數(shù)字基建的安全建設(shè)起到重要作用，并成功實(shí)現(xiàn)落地應(yīng)用。

阿里安全圖靈實(shí)驗(yàn)室資深算法專家華棠介紹稱，截止目前，阿里已經(jīng)將該檢測(cè)技術(shù)使用在內(nèi)容安全場(chǎng)景中，后續(xù)也會(huì)在直播場(chǎng)景中進(jìn)行布局。

責(zé)任編輯：gt