日前，國際自然語言處理與計算語言學領(lǐng)域最高級別的學術(shù)會議ACL（Annual Meeting of the Association for Computational linguistics）錄取了京東智能廣告實驗室（JD Intelligent Advertising Lab簡稱JD IAL）和 Rensselaer Polytechnic Institute?（倫斯勒理工學院）聯(lián)合發(fā)表的題為“基于多語言多任務(wù)的低資源序列標注架構(gòu)”的學術(shù)論文。論文首次提出了一種多語言多任務(wù)的監(jiān)督學習架構(gòu)，該架構(gòu)對中文自然語言處理以及低資源語言的學習效果提升具有積極意義。

眾所周知，由于語言的多樣性和復雜性，自然語言處理（NLP）在學術(shù)和工業(yè)應(yīng)用上一直是非常具有挑戰(zhàn)的領(lǐng)域。同時由于中文語言的獨特性和高靈活特點，基于中文的自然語言處理任務(wù)會更加復雜。

京東在服務(wù)數(shù)以億計的用戶同時，積累了大量的文本信息，如商品的名稱，屬性，用戶評論和問答等。有效利用好這些文本信息，就能大幅提升京東的服務(wù)質(zhì)量和用戶滿意度。然而，由于文本形式口語化，文本內(nèi)容豐富，用以訓練模型的標注數(shù)據(jù)少等問題，工程師在實際NLP技術(shù)開發(fā)中遇到了很大的挑戰(zhàn)。

針對以上挑戰(zhàn)，京東智能廣告實驗室提出了一種多語言多任務(wù)的監(jiān)督學習架構(gòu)。該架構(gòu)結(jié)合了多種遷移學習模型，通過利用多任務(wù)訓練的方式，極大地提升了低資源語言的學習效果。例如，在標準測試數(shù)據(jù)上，相比于傳統(tǒng)的單語言、單任務(wù)的學習方法，利用新方法在實體標注任務(wù)上取得了 4.5% 到 50% 的性能提升（F值）。

據(jù)京東集團副總裁、商業(yè)提升事業(yè)部總裁，同時也是京東智能廣告實驗室負責人顏偉鵬博士介紹，針對復雜和較少標注的中文數(shù)據(jù)，通過引入大量的英文標注數(shù)據(jù)，能夠有效提升中文序列標注（Sequence Labeling）的效果。目前該技術(shù)已經(jīng)應(yīng)用到京東的商品推薦，排序和文本生成等實際應(yīng)用中。

京東智能廣告實驗室隸屬京東商城商業(yè)提升事業(yè)部，主要從事智能廣告相關(guān)的基礎(chǔ)研究和應(yīng)用研究，研究范疇涵蓋視頻圖像、NLP、大規(guī)模機器學習、深度學習、推薦技術(shù)、廣告機制等多個領(lǐng)域。實驗室成員包括有學術(shù)能力的碩士、博士研究生以及經(jīng)由實驗室招募的優(yōu)秀學者、在行業(yè)內(nèi)和學術(shù)圈內(nèi)有技術(shù)影響力的科學家。目前京東智能廣告實驗室已累計研究成果數(shù)十項，其中多個項目榮獲京東集團技術(shù)創(chuàng)新獎項，多篇論文被國內(nèi)外知名學術(shù)機構(gòu)收錄。