去年，Instagram推出了一個增強的評論過濾器，該過濾器使用機器學習在具有挑戰(zhàn)性的環(huán)境中發(fā)現(xiàn)令人反感的單詞和短語。現(xiàn)在，該公司正在擴大這項功能覆蓋范圍。今天，它宣布它將使用AI“主動檢測欺凌”，然后再將內(nèi)容發(fā)送給人類審查者進行復查。新功能將在未來幾周內(nèi)推廣給用戶，并將在10月份的美國國家欺凌預防月和英國反欺凌周之前推出。同樣的技術也被添加到實時視頻中以過濾那里的評論。

這是新Instagram首席執(zhí)行官亞當·莫塞里（Adam Mosseri）在上個月聯(lián)合創(chuàng)始人凱文·西斯特羅姆（Kevin Systrom）和邁克·克里格（Mike Krieger）倉促離職后接手的第一個產(chǎn)品公告。據(jù)報道，這一分歧是由于Instagram公司和母公司Facebook之間的緊張關系引發(fā)的，該公司經(jīng)常插手Instagram的產(chǎn)品。

隨著公眾對Facebook的信任繼續(xù)下降，Instagram仍然是該公司產(chǎn)品陣容的亮點。它受歡迎，有利可圖，而且還有可能被Facebook丑聞所玷污。在這種情況下，使用人工智能來幫助清除令人反感的內(nèi)容并讓Instagram成為一個擁有良好氛圍的家園是非常重要的。

去年在Wired發(fā)表的一篇報道解釋了Instagram的機器學習評論過濾器的一些細節(jié)，但已經(jīng)確定這種技術不適合內(nèi)容審核。大規(guī)模部署人工智能是便宜的，是的，但它仍然無法處理內(nèi)容背景和細微差別。這就是為什么這些新的欺凌過濾器還向人類審核者發(fā)送內(nèi)容以執(zhí)行最終檢查，沒有監(jiān)督的自動化是一種災難。