全球短視頻與直播社交行業(yè)在過去幾年經(jīng)歷了顯著增長，已成為當(dāng)今互聯(lián)網(wǎng)時代最具代表性與成長性的產(chǎn)業(yè)之一。2023年全球直播市場估值約606.3億美元，預(yù)計2032年將達到2565.6億美元。全球市場上，行業(yè)頭部的TikTok最新月活用戶已超15.82億，而另一代表YouTube全球月活用戶已達24.9億。而國內(nèi)市場上，最大短視頻與直播社交平臺抖音月活用戶已超8億。巨大的用戶基數(shù)與勢頭迅猛的增長趨勢，為直播社交行業(yè)創(chuàng)造了商機豐富的生態(tài)，同時也吸引了欺詐團伙的目光。

欺詐者在直播社交行業(yè)實施欺詐行為主要基于深度偽造技術(shù)，合成虛假的身份進行欺詐。例如冒充名人或網(wǎng)紅進行直播詐騙、制作虛假色情直播內(nèi)容詐騙、偽造身份注冊直播賬號進行違法活動，或冒充親友詐騙直播社交軟件用戶，以及制作虛假廣告欺騙用戶。

得益于生成式人工智能技術(shù)飛躍發(fā)展，由此衍生的深度偽造 (Deepfake)技術(shù)也越來越成熟，基于深度偽造的欺詐具有技術(shù)門檻低、生成效果逼真、應(yīng)用場景多樣化與檢測難度高等“優(yōu)點”，這無疑給直播社交行業(yè)的從業(yè)者帶來了嚴重的挑戰(zhàn)。

深度偽造是指經(jīng)過操縱或合成的媒體，通過使用人工智能和機器學(xué)習(xí)算法來創(chuàng)建令人信服的虛假內(nèi)容。這些復(fù)雜的技術(shù)使犯罪分子能夠?qū)⒁粋€人的臉部疊加到另一個人身體上，或者改變他們的面部表情、聲音或手勢。文本、圖像、音頻、視頻等各類內(nèi)容都成為了深度偽造的對象。以深度偽造視頻為例，視頻圖像主要基于生成對抗網(wǎng)絡(luò)(GAN)生成，通過訓(xùn)練大量的面部圖像數(shù)據(jù)，模型可以學(xué)習(xí)面部特征之間的潛在關(guān)系，進而生成與真實面部特征高度相似的虛假面部特征。隨著技術(shù)的演進，創(chuàng)建深度偽造視頻的成本越來越低，所需的訓(xùn)練時間越來越少，生成的視頻質(zhì)量也越來越高，更加難以辨別和檢測。

不法分子可以利用生成的深度偽造視頻等內(nèi)容，結(jié)合現(xiàn)成的偽造工具結(jié)合模擬器和特定軟件，就能繞過傳統(tǒng)的防護檢測，滲透到線上會議、社交網(wǎng)絡(luò)和工作流程中。由于沒有數(shù)字痕跡和IP地址等信息，導(dǎo)致追蹤系統(tǒng)很難察覺。

基于深度偽造AI技術(shù)的合成身份、虛假身份欺詐，因其以假亂真的逼真程度，往往讓受騙者防不勝防，因為深度偽造制作的材料是個人音頻、圖片、視頻，這些數(shù)據(jù)越多，訓(xùn)練出的視頻就越逼真，所以社交媒體上相關(guān)數(shù)據(jù)較多的博主、明星容易成為深度偽造的目標(biāo)。全球知名歌手泰勒·斯威夫特(Taylor Swift)不止一次受到深度偽造欺詐造成的困擾。今年1月她遭遇AI合成不雅照事件，其后不久一則由AI生成的斯威夫特帶貨廣告又在海外社交媒體上瘋傳。這則虛假廣告利用深度偽造技術(shù)，合成了斯威夫特的聲音，并將聲音及她的形象和Le Creuset品牌炊具廣告片段拼湊在一起，宣稱免費向粉絲贈送炊具，引導(dǎo)受害者點擊并支付運費，但炊具不會真的送出。

而即便是互聯(lián)網(wǎng)上資料痕跡少的普通人，也一樣有概率被欺詐團伙盯上，利用深度偽造技術(shù)合成虛假身份完成欺詐，造成經(jīng)濟財產(chǎn)損失。2023年福州市某公司法人郭先生就不幸遭遇了10分鐘內(nèi)被騙430萬元的經(jīng)歷。詐騙者偽裝成他的好友，通過微信視頻聯(lián)系到他，稱自己的朋友在外地競標(biāo)，需要430萬元保證金，想借用郭先生公司的賬戶走賬?；趯糜训男湃危由弦呀?jīng)視頻聊天“核實”了身份，郭先生在10分鐘內(nèi)，在收到轉(zhuǎn)賬截圖后沒有核實錢款到賬就立馬“轉(zhuǎn)回去”430萬元。事后，郭先生撥打好友電話才得知被騙。

個人案例之外，欺詐團伙針對企業(yè)的大規(guī)模合成身份欺詐行為，更是嚴重破壞直播社交行業(yè)生態(tài)發(fā)展的“頑疾”。在用戶拉新和注冊上，AI換臉技術(shù)使得創(chuàng)建虛假用戶和機器人賬號變得容易，大批量的合成虛假賬號擾亂平臺的社區(qū)生態(tài)，影響真實用戶的體驗和參與度；虛假賬號可能用于欺詐活動，如虛假打賞、將直播間觀眾導(dǎo)流到其他平臺施行詐騙等，損害平臺和用戶的利益。在資金層面，偽造身份可以通過直播間進行洗錢操作，給平臺帶來財務(wù)風(fēng)險和監(jiān)管挑戰(zhàn)。這些偽造賬戶和身份同時還可能用于發(fā)布虛假廣告和推廣，欺騙其他用戶，損害平臺的公信力和用戶體驗。

所有這些欺詐行為，都將迫使直播社交平臺投入更多的資金與人力進行欺詐檢測、用戶審核以及應(yīng)對合規(guī)層面的壓力，產(chǎn)生大量額外的支出。

加強用戶注冊與登錄環(huán)節(jié)的身份驗證和活體檢測、加強內(nèi)容層面的審核與監(jiān)測，加強員工的安全培訓(xùn)、提升對深度偽造關(guān)聯(lián)欺詐的防范意識，都是直播社交行業(yè)企業(yè)可以采取的措施，但從實際出發(fā)，要想從專業(yè)層面提升企業(yè)的反欺詐能力，同時對未來潛在難度升級的深度偽造欺詐保持對應(yīng)防范，企業(yè)應(yīng)當(dāng)與擁有先進反欺詐技術(shù)的身份驗證服務(wù)商或安全廠商進行合作。

迎接深度偽造挑戰(zhàn) ADVANCE.AI助力直播社交行業(yè)防范欺詐

針對深度偽造技術(shù)下合成身份欺詐為直播社交行業(yè)企業(yè)造成的困擾，ADVANCE.AI 著眼于客戶痛點，專注于技術(shù)創(chuàng)新，為企業(yè)提供了精準防范深度偽造欺詐的解決方案?！皵?shù)字身份驗證(E-KYC)”解決方案可用于合成身份欺詐檢測，包括證件質(zhì)量檢測（IQA）、證件識別（ID OCR）、假證檢測、活體檢測、人臉比對、人臉?biāo)阉?、身份驗證等功能。

真實人臉與真實身份證件對直播社交行業(yè)防范欺詐攻擊起到很關(guān)鍵的作用。驗證直播社交用戶賬號的身份真實性是防范合成身份欺詐的主要手段之一，可以檢測身份冒用，當(dāng)前主流解決方案以采用生物識別技術(shù)（如人臉識別、聲紋識別）為主，而欺詐份子針對此類檢測手段，通常會實施活體攻擊來繞過生物識別驗證，從而進行身份冒充和欺詐活動。在多種活體攻擊類型中，屏幕攻擊與注入攻擊占比較高。ADVANCE.AI針對活體攻擊的活體檢測解決方案可幫助直播社交企業(yè)高效率檢測此類攻擊，該解決方案可基于運動、紋理與光學(xué)的活體檢測以及多因素驗證在內(nèi)的技術(shù)手段完成檢測，并在此基礎(chǔ)上還提供了更適用于合成身份欺詐防范的3D活體檢測產(chǎn)品，擁有更強的交互性，攻擊攔截率高達99.95%。

而在直播社交行業(yè)新用戶注冊環(huán)節(jié)，要求賬號持有人提供多重身份證明材料也是防范欺詐份子注冊虛假賬號實施欺詐的另一項防范手段。然而存在于金融科技、跨境電商等行業(yè)領(lǐng)域的假證問題，在直播社交行業(yè)同樣存在，欺詐團伙會利用假證等多項資料合成虛假身份，大量注冊虛假賬戶實施欺詐。ADVANCE.AI數(shù)字身份驗證解決方案下的“ID Forgery Detection（假證檢測）全自動解決方案“支持識別多國不同證件類型，輕松解決假證識別問題。其中支持識別假證類型包括屏幕翻拍、黑白復(fù)印、彩色打印、人臉篡改、文字篡改等，可以大量減少企業(yè)繁瑣審核工作，降低運營成本支出。

采取上述防范措施解決合成身份欺詐對直播社交行業(yè)的困擾與危害，可以讓企業(yè)的平臺產(chǎn)品恢復(fù)正常的運營，讓真實用戶流暢使用產(chǎn)品與服務(wù)，企業(yè)能在符合合規(guī)要求下安全展業(yè)，還維護了平臺的公信力。

深耕反欺詐多年 ADVANCE.AI為出海企業(yè)保駕護航

合成身份欺詐是直播社交行業(yè)必須面對的問題，隨著技術(shù)的不斷發(fā)展，欺詐手段也在不斷更新。 作為全球領(lǐng)先的數(shù)字身份驗證服務(wù)公司， ADVANCE.AI 能夠為企業(yè)提供先進的深度偽造檢測解決方案，以有效降低風(fēng)險。通過結(jié)合先進的人工智能算法、機器學(xué)習(xí)模型、成熟的業(yè)務(wù)知識和落地經(jīng)驗，ADVANCE.AI使企業(yè)能夠驗證用戶身份并防范與深度偽造相關(guān)的欺詐。

ADVANCE.AI 一直致力于走在技術(shù)進步的最前沿，不斷增強自身產(chǎn)品對Deepfake深度偽造的檢測能力。通過與 ADVANCE.AI合作，企業(yè)客戶可以對用戶身份真實性進行可靠驗證，并保護自己免受不斷變化的威脅環(huán)境的影響。我們相信，借助 ADVANCE.AI 的技術(shù)力量，出海企業(yè)能夠更加輕松地應(yīng)對深度偽造欺詐的挑戰(zhàn)并贏得市場。

審核編輯 黃宇