2018 年 12 月 17 日，Tumblr(湯博樂)網(wǎng)站宣布即日起全面禁止色情內(nèi)容。當(dāng)這項(xiàng)新的政策實(shí)施了兩周后，就立馬暴露出了問題。在Tumblr的人工智能系統(tǒng)成功部署后，它對(duì)一些中立的內(nèi)容進(jìn)行了錯(cuò)誤標(biāo)記，導(dǎo)致該網(wǎng)站的4.554億個(gè)博客和1662億個(gè)帖子無(wú)辜躺槍。它們的內(nèi)容僅包含花瓶、女巫、魚類以及介于它們中間的所有內(nèi)容。

目前該公司并未對(duì)此有任何回應(yīng)，也不清楚Tumblr使用的是何種內(nèi)容過濾技術(shù)，或者是否創(chuàng)建了自己的內(nèi)容過濾系統(tǒng)，但顯然，社交網(wǎng)站在政策和技術(shù)方面都陷入了困境。例如，關(guān)于“女性乳頭”和“藝術(shù)裸體”的外延，Tumblr 認(rèn)為是取決于上下文語(yǔ)境，這透露出Tumblr自己也不確定它想要在平臺(tái)上禁止什么內(nèi)容。也難怪，站在企業(yè)的立場(chǎng)，究竟該如何定義“淫穢”內(nèi)容呢？

01

如果難以定義，就很難阻止“淫穢”內(nèi)容

首先，定義“淫穢”本是個(gè)陷阱。歷史可以追溯到1896年左右，當(dāng)時(shí)美國(guó)首次通過規(guī)范“淫穢”的法律。1964 年，“雅各貝利斯訴俄亥俄州”一案中，關(guān)于俄亥俄州是否可以禁止出演著名的路易·斯馬勒（Louis Malle）電影，最高法院給出了可能是迄今最著名的有關(guān)“硬核色情”的一句話。

“我今天不打算進(jìn)一步去定義我所理解的那種在速記中被包含的內(nèi)容，‘硬核色情片’，也許我永遠(yuǎn)也不會(huì)成功地做到這一點(diǎn)。但我知道，當(dāng)我看到它的時(shí)候，它的動(dòng)作畫面就不是這樣了?！?法官波特·斯圖爾特在他的贊同意見中如是說。

機(jī)器學(xué)習(xí)算法也處于同樣的窘境，這是Picnix（一家提供定制化AI服務(wù)的公司）的首席執(zhí)行官Brian DeLorge正試圖解決的問題。Iris是其產(chǎn)品之一，專門用于檢測(cè)色情內(nèi)容的客戶端應(yīng)用程序。正如DeLorge所說，“誰(shuí)不希望生活中有點(diǎn)色情內(nèi)容？”他指出另一個(gè)問題，色情片可以是很多不同的東西，但色情與非色情圖像會(huì)共享相似的圖像特征。

一張海灘上派對(duì)的照片可能被封殺不是因?yàn)樗厦嬲宫F(xiàn)的皮膚比一張辦公室的照片更多，而是因?yàn)樗|碰到色情圖像的邊緣線了?！斑@就是為什么很難將圖像識(shí)別算法訓(xùn)練成一種可廣泛應(yīng)用的解決方案，”DeLorge繼續(xù)說到，“如果關(guān)于“淫穢”的定義對(duì)人類來說很困難，那對(duì)機(jī)器學(xué)習(xí)技術(shù)來也同樣如此?！比绻藗儫o(wú)法就色情是什么達(dá)成一致，那么AI是否有望學(xué)習(xí)里面的差異呢？

02

教 AI 如何檢測(cè)色情片，第一件事就是收集色情片作為訓(xùn)練集

網(wǎng)上有很多的色情片。在哪里可以得到它們呢？ “人們經(jīng)常從Pornhub、XVideos等網(wǎng)站下載，”Lemay.ai的聯(lián)合創(chuàng)始人兼首席技術(shù)官Dan Shapiro說到。Lemay.ai是一家為其客戶創(chuàng)建 AI 過濾技術(shù)的初創(chuàng)公司?！斑@是一個(gè)合法的灰色地帶，但如果你正在使用其他人的內(nèi)容進(jìn)行訓(xùn)練，（訓(xùn)練）結(jié)果是否屬于你？”

從你最喜歡的色情網(wǎng)站獲得訓(xùn)練數(shù)據(jù)集之后，下一步是從色情的視頻中刪除所有不是色情內(nèi)容的幀，以確保你正在使用的幀不是像一個(gè)拿著披薩盒子的人。平臺(tái)會(huì)向大多數(shù)美國(guó)以外的人付費(fèi)，來標(biāo)注這些內(nèi)容。這通常是一個(gè)低工資的重復(fù)勞動(dòng)，就好像那些每次填一個(gè)驗(yàn)證碼的工作。Dan Shapiro說到，“他們只是標(biāo)注像‘這種色情片’或‘那種色情片’。通常你還可以再過濾一下，因?yàn)樯槠弦呀?jīng)有很多可用的標(biāo)簽了”。當(dāng)你使用不僅僅包含色情內(nèi)容的大數(shù)據(jù)集時(shí)，訓(xùn)練效果往往會(huì)更好?！?/p>

Shapiro說：“很多時(shí)候，你不僅需要過濾色情內(nèi)容，而且也需要過濾掉與色情內(nèi)容相近的東西。像人們貼出的這些虛假檔案，一張女孩的照片，一個(gè)電話號(hào)碼。”在這里，他指的是尋找客戶的性工作者，但很容易就被誤認(rèn)為是合法問題?！斑@不是色情片，但它是你不想放在平臺(tái)上的東西，對(duì)嗎？”一個(gè)好的自動(dòng)化的檢測(cè)模型至少需要在數(shù)百萬(wàn)級(jí)的內(nèi)容上進(jìn)行訓(xùn)練，這意味著需要投入大量的人力。

“這就類似于孩子和成年人間的不同，”Clarifai的創(chuàng)始人兼CEOMatt Zeiler說道，Clarifai是一家為企業(yè)客戶提供圖像過濾的計(jì)算機(jī)視覺創(chuàng)業(yè)公司?！拔铱梢哉f這是事實(shí)，幾個(gè)月前我們剛生了一個(gè)孩子。他們對(duì)這個(gè)世界一無(wú)所知，一切都是新的?！澳惚仨毾?qū)殞氄故竞芏鄸|西，以便他們學(xué)習(xí)。“你需要數(shù)以百萬(wàn)計(jì)的例子，但對(duì)于成年人，由于現(xiàn)在我們已經(jīng)擁有了很多關(guān)于世界的背景知識(shí)，并理解它是如何運(yùn)作的，我們只需要幾個(gè)例子就可以學(xué)到新東西，”他說。

上述文字解釋一遍就是：訓(xùn)練AI系統(tǒng)來過濾成人內(nèi)容，就好比向?qū)殞氄故敬罅康纳閮?nèi)容。

今天，像Clarifai這樣的人工智能技術(shù)供應(yīng)商已經(jīng)成長(zhǎng)起來了。他們對(duì)世界有很多基礎(chǔ)知識(shí)，也就是說他們知道狗是什么樣，貓是什么樣，什么是樹，什么不是樹，以及最重要的，什么是裸體，什么不是裸體。Zeiler的公司使用自己的模型為其客戶訓(xùn)練新模型，因?yàn)樵寄Ｐ鸵呀?jīng)能處理很多數(shù)據(jù)，因此定制的版本僅需要來自客戶的新訓(xùn)練數(shù)據(jù)，就能啟動(dòng)和運(yùn)行。

03

人工智能算法的判斷不一定準(zhǔn)確

對(duì)明顯是色情的內(nèi)容，分類器效果很好；但它可能會(huì)錯(cuò)誤地將內(nèi)衣廣告標(biāo)記為色情，因?yàn)閳D片中的皮膚比例更多。（例如，分類器很難正確分辨比基尼和內(nèi)衣。）這意味著做標(biāo)簽的人必須對(duì)那些模棱兩可的訓(xùn)練集更細(xì)心，需要優(yōu)先考慮模型難以分類的內(nèi)容。那其中最難的一個(gè)例子是什么呢？

“動(dòng)漫色情片。我們的第一版色情檢測(cè)算法沒有接受過任何卡通色情內(nèi)容的訓(xùn)練?！焙芏鄷r(shí)候人工智能系統(tǒng)會(huì)失敗，因?yàn)樗焕斫馐裁词亲儜B(tài)?！耙虼?，一旦我們?yōu)樵摽蛻糇鲞@樣的工作，我們就將大量數(shù)據(jù)整合到模型中，就大大的提高了檢測(cè)漫畫的準(zhǔn)確性，并同時(shí)保持了在真實(shí)照片上的檢測(cè)準(zhǔn)確率，”Zeiler說?！澳悴恢滥愕挠脩魰?huì)做什么?！?/p>

用來檢測(cè)色情片的技術(shù)也可以用來檢測(cè)其他東西。系統(tǒng)的基礎(chǔ)技術(shù)非常靈活。這個(gè)靈活度比得上動(dòng)漫里夸張的胸部。Perspective，是一個(gè)來自 Alphabet's Jigsaw的被廣泛用于報(bào)紙自動(dòng)評(píng)論的模型。

Jigsaw的溝通主管Dan Keyserling說，在Perspective之前，“紐約時(shí)報(bào)”只對(duì)大約10％的作品發(fā)表評(píng)論，因?yàn)樗麄兊陌嬷骺梢栽谝惶靸?nèi)處理的數(shù)量有限。他聲稱Jigsaw的產(chǎn)品可以使這個(gè)數(shù)字增加三倍。該軟件與圖像分類器的工作方式類似，不同之處在于它對(duì)“毒性”進(jìn)行排序，它們定義“毒性”為某人可能會(huì)根據(jù)評(píng)論而不是色情進(jìn)行的對(duì)話。（毒性在文本評(píng)論中同樣難以識(shí)別，就好比識(shí)別圖像中的色情圖像。）再比如，F(xiàn)acebook使用類似的自動(dòng)過濾技術(shù)來識(shí)別有關(guān)自殺的帖子和內(nèi)容，并試圖利用該技術(shù)在其龐大的平臺(tái)上發(fā)現(xiàn)虛假新聞。

04

整個(gè)事情仍依賴于標(biāo)記數(shù)據(jù)才能發(fā)揮作用

Zeiler并不認(rèn)為他的產(chǎn)品會(huì)讓任何人失業(yè)。它本來就是在解決互聯(lián)網(wǎng)上的“尺度問題”。一個(gè)婚禮博客Clarifai使用其產(chǎn)品來進(jìn)行自動(dòng)化的內(nèi)容審核，而以前負(fù)責(zé)審批圖像的編輯則轉(zhuǎn)向從事定性標(biāo)記的任務(wù)。這并不是要降低自動(dòng)化下真正的人力成本。人們必須對(duì)AI進(jìn)行訓(xùn)練，并對(duì)內(nèi)容進(jìn)行分類然后進(jìn)行標(biāo)記，以便AI能夠識(shí)別哪些不能或可能導(dǎo)致創(chuàng)傷后應(yīng)激障礙（PTSD）。

這才是未來應(yīng)有的樣子：公司提供個(gè)性化，現(xiàn)成的解決方案，使其全部業(yè)務(wù)能夠在越來越多的數(shù)據(jù)上訓(xùn)練更好的分類器。就像Stripe and Square為不想在內(nèi)部處理支持的企業(yè)提供現(xiàn)成的支付解決方案一樣，而AWS已經(jīng)確立了自己作為托管網(wǎng)站的地位，像Zeiler的Clarifai、DeLorge的Picnix、Shapiro的Lemay.ai等創(chuàng)業(yè)公司正在爭(zhēng)相成為在線內(nèi)容審核的一站式解決方案提供商。Clarifai已經(jīng)擁有適用于iOS和Android的軟件開發(fā)套件，Zeiler表示正在努力讓產(chǎn)品在物聯(lián)網(wǎng)設(shè)備（如安全攝像頭）上運(yùn)行，但實(shí)際上，那意味著每個(gè)設(shè)備上都需要有優(yōu)化的AI芯片或足夠的終端計(jì)算資源。

Lemay.ai的Dan Shapiro滿懷希望。“與任何技術(shù)一樣，它還沒有完全發(fā)明成功，”他說?！八赃@樣做是不合理的，就好比我對(duì)一家公司的安排不滿意，就開始想著放棄。”但無(wú)監(jiān)督學(xué)習(xí)是否是一條好的出路？這就比較費(fèi)解了。 他說：“你需要從某些地方獲得訓(xùn)練數(shù)據(jù)”，這意味著總會(huì)涉及到人的因素?！安贿^這是一件好事，因?yàn)樗鼤?huì)減輕人們的壓力?！?/p>

另一方面，Zeiler認(rèn)為AI終有一天能夠自己適應(yīng)一切。他說：“我認(rèn)為很多人的努力方向?qū)⑥D(zhuǎn)變?yōu)槿斯ぶ悄芙裉鞜o(wú)法做到的事情，比如高級(jí)推理、自我意識(shí)，就像人類所擁有的那樣。”

識(shí)別色情片就是其中的一部分。識(shí)別它對(duì)于人來說是一項(xiàng)相對(duì)簡(jiǎn)單的任務(wù)，但訓(xùn)練算法識(shí)別其中的細(xì)微差別卻要困難得多。弄清楚檢測(cè)模型將圖像標(biāo)記為色情或非色情的閾值也很困難，而且還受到數(shù)學(xué)上的限制。該函數(shù)稱為精確-召回率曲線（precision-recall curve），它描述了模型返回結(jié)果的相關(guān)關(guān)系，但是人類需要的是靈敏度。

正如Alison Adam在其1998年出版的《人工知識(shí)：性別與機(jī)器思維》一書中提到的那樣，無(wú)論是學(xué)習(xí)、在空間中移動(dòng)和互動(dòng)、推理，還是使用語(yǔ)言，AI的目的是“模擬人類智能的某些方面”。AI是我們?nèi)绾慰创澜绲囊粋€(gè)不完美的鏡子，就像色情是當(dāng)兩個(gè)人獨(dú)處時(shí)的反應(yīng)一樣：它可以說是一種片面性的真理，但卻不是整個(gè)全貌。