6月23-24日，知乎在798舉辦了一場“陰陽怪氣”主題書法展，現(xiàn)場不僅有陰陽怪氣粉碎機、“瓦力”實驗室等精彩互動，知乎社區(qū)治理團隊也首次亮相，分享了知乎在識別“陰陽怪氣”類內(nèi)容上的探索。

據(jù)了解，知乎還將在近期對該技術(shù)進(jìn)行產(chǎn)品化嘗試，向用戶提供“瓦力”陰陽怪氣智能過濾選項，同時，還將對“瓦力”進(jìn)行更多訓(xùn)練，不斷提升準(zhǔn)確率和召回率，最終將陰陽怪氣識別技術(shù)全面應(yīng)用到社區(qū)治理中。

三大算法模型引領(lǐng)，突圍復(fù)雜網(wǎng)絡(luò)語言分析困境

目前，知乎借助AI技術(shù)，并輔以人機結(jié)合和多元的產(chǎn)品舉措，多重手段加強對社區(qū)氛圍的維護(hù)。現(xiàn)階段，知乎已實現(xiàn)對95%以上的違法違規(guī)、廣告導(dǎo)流和不友善等內(nèi)容的主動打擊、覆蓋和篩查 。

知乎運營總監(jiān)孫達(dá)云表示， 過去一年，知乎全力探索對陰陽怪氣類評論的解決方案。陰陽怪氣可用“杠精”這個詞來指代，通常以“不針對發(fā)言內(nèi)容，而是批評對方的語氣”以及“提出反對意見，但不給或給出極少數(shù)論據(jù)支持”這兩類常見言論為代表，此類評論極大了傷害創(chuàng)作者和交流者的體驗，但難以解決。

解決陰陽怪氣類評論的難點核心主要在于網(wǎng)絡(luò)語言的復(fù)雜性，情感分析不同于普通文本分析，例如經(jīng)典的“呵呵”，由于雙方不同關(guān)系、說話的不同場景和時間都會帶來迥然不同的表意。即便是人工判定都存在標(biāo)準(zhǔn)化難度，算法模型的訓(xùn)練挑戰(zhàn)就更為艱辛。

知乎團隊的不懈努力下，針對陰陽怪氣評論通常表達(dá)負(fù)面情感的特點，知乎構(gòu)建了內(nèi)容情感傾向性識別的算法模型和識別用戶親密度的模型，并通過訓(xùn)練不斷迭代完善。

此外，針對陰陽怪氣評論的典型特征，知乎建立了文本識別模型不斷標(biāo)記訓(xùn)練樣本。三大模型的結(jié)合，不僅擺脫單一算法模型的局限性，也讓“瓦力”的陰陽怪氣識別準(zhǔn)確率超過了大多數(shù)人工判斷。

持續(xù)迭代技術(shù)方案 攻克情感分析前沿難題

知乎內(nèi)容質(zhì)量管理團隊技術(shù)負(fù)責(zé)人劉兆來則詳細(xì)介紹了“瓦力”最新的陰陽怪氣技術(shù)方案：首先通過知乎社區(qū)里的舉報、反對等負(fù)向用戶行為收集訓(xùn)練數(shù)據(jù)。然后通過各種同義替換、規(guī)則模版方式對訓(xùn)練數(shù)據(jù)進(jìn)行擴展，以緩解訓(xùn)練數(shù)據(jù)稀疏的問題。

同時，“瓦力”提取文本、句法、表情符等特征，并利用一個帶attention的CNN和LSTM的融合模型進(jìn)行分類，最終判斷出內(nèi)容是否為陰陽怪氣。

優(yōu)化技術(shù)方案后，“瓦力”已能實現(xiàn)對“暗藏玄機夸獎”（忍不住關(guān)注答主了，你的答案很有水平！你博士快畢業(yè)了吧?。ⅰ昂脼槿藥煛保ㄎ矣X得你挺慘，雖然長這么大了，還真應(yīng)該回小學(xué)改造）、“強行反駁”（你開心就好、請開始你的表演）等數(shù)類陰陽怪氣內(nèi)容的識別。而根據(jù)知乎社區(qū)治理團隊的調(diào)查，用戶最反感的陰陽怪氣言論大多屬于這些類型，這意味著，“瓦力”在處理網(wǎng)絡(luò)言語暴力上取得了階段性進(jìn)展。

劉兆來表示，未來將不斷優(yōu)化“瓦力”的識別能力，提高模型泛化能力，同時不斷迭代更新模型，緊跟學(xué)術(shù)前沿的同時，適應(yīng)網(wǎng)絡(luò)語言的變化潮流。

知乎著力陰陽怪氣識別技術(shù)，正是知乎“認(rèn)真、專業(yè)、友善”社區(qū)精神的一次直觀體現(xiàn)和有力踐行。日益強大的“瓦力”已能實時解決答非所問、辱罵、貼標(biāo)簽等不友善問題，而人機結(jié)合的社區(qū)治理方式，以及用戶深度參與社區(qū)自治，更讓歧視、謠言八卦、愚昧偏見等內(nèi)容在知乎難以找到立足之地。