ACL今年要火了！根據(jù)ACL19機(jī)器學(xué)習(xí)領(lǐng)域主席王威廉(William Wang)的推文，今年論文提交數(shù)量將在2800左右。相比去年論文提交數(shù)量，暴增81%——史上最大規(guī)模NLP會(huì)議誕生了！

歷史上最大規(guī)模NLP會(huì)議要來(lái)了！

3月4日是ACL 2019論文提交截止日期：

而在離截止時(shí)間僅剩5.5小時(shí)的時(shí)候，ACL 2019機(jī)器學(xué)習(xí)領(lǐng)域主席、加州大學(xué)圣塔芭芭拉計(jì)算機(jī)科學(xué)系王威廉(Wliiliam Wang)老師發(fā)出推特表示：

離ACL 2019提交論文截止時(shí)間僅剩5.5小時(shí)了，論文ID已經(jīng)超過(guò)了2100。本次大會(huì)將會(huì)是史上規(guī)模最大的一次嗎？就剩幾個(gè)小時(shí)了，讓我們拭目以待。

而就在這條推特發(fā)出1小時(shí)后，網(wǎng)友回復(fù)說(shuō)：

現(xiàn)在已經(jīng)2300了！

最后，王威廉老師再次發(fā)推文表示：

今年ACL論文編號(hào)應(yīng)該到了2800篇左右。

今年ACL的論文提交數(shù)，又將打破歷史記錄！

提交論文數(shù)暴增81%，最大規(guī)模NLP會(huì)議誕生

ACL 2018的論文提交數(shù)為1544篇，而今年若是超過(guò)了2800篇，那么增量將超過(guò)81%。

無(wú)疑將成為近年來(lái)最火、規(guī)模最大的一次NLP會(huì)議。

而“增長(zhǎng)”趨勢(shì)不僅僅是體現(xiàn)在今年：

從上面的折線圖來(lái)看，ACL近幾年投稿量從大體發(fā)展呈現(xiàn)出增長(zhǎng)趨勢(shì)。而較高的投稿量也反映了自然語(yǔ)言處理領(lǐng)域在人工智能浪潮下的火熱。

2017年共收到1419篇投稿（包括829篇長(zhǎng)文投稿和590篇短文投稿），錄用長(zhǎng)文195篇、短文149篇，長(zhǎng)文錄用率為23.5%。

2018年共收到投稿1544篇，最終錄用381篇，其中長(zhǎng)文256篇，短文125篇，長(zhǎng)文錄取率為25.1%。

從長(zhǎng)文錄取率上來(lái)看，近兩年也是呈現(xiàn)增長(zhǎng)趨勢(shì)。相信ACL 2019的錄取率應(yīng)該也會(huì)保持上升態(tài)勢(shì)。

往屆熱詞匯總，今年的關(guān)鍵詞，你預(yù)測(cè)到了嗎？

每年ACL基本上都會(huì)對(duì)進(jìn)行詞云分析：

接收論文標(biāo)題關(guān)鍵詞（左：ACL 2017獨(dú)有，中：ACL 2017和ACL 2018共有，右：ACL 2018獨(dú)有）

根據(jù)對(duì)接收論文標(biāo)題的詞云分析，在ACL 2017和2018上持續(xù)熱門的關(guān)鍵詞有：

注意力機(jī)制（attention）

網(wǎng)絡(luò)（network）

知識(shí)（knowledge）

序列（sequence）

語(yǔ)言（language）

而在2018的ACL中：

句子（sentence）

詞嵌入（embedding）

情感（sentiment）

受到了更多的關(guān)注。

交叉（cross）、領(lǐng)域（domain）、無(wú)監(jiān)督（unsupervised）等關(guān)鍵詞也在去年上榜，可以看到17-18年，業(yè)界有更多的人著手不同領(lǐng)域之間的交叉遷移，以及無(wú)監(jiān)督學(xué)習(xí)的工作。

而2018-2019年，應(yīng)該屬于NLP的大年。

NLP領(lǐng)域大事不斷：

谷歌提出BERT模型：證明了一個(gè)非常深的模型可以顯著提高NLP任務(wù)的準(zhǔn)確率，而這個(gè)模型可以從無(wú)標(biāo)記數(shù)據(jù)集中預(yù)訓(xùn)練得到；

OpenAI提出GPT-2模型：號(hào)稱史上最強(qiáng)通用NLP模型，狂攬7大數(shù)據(jù)集最佳紀(jì)錄。

......

未來(lái)兩年，NLP可能會(huì)不斷爆出類似的刷屏新聞，真的進(jìn)入一個(gè)技術(shù)快速發(fā)展期。這是NLP研發(fā)者的黃金期，這種時(shí)期最容易出好的成果。

當(dāng)然，除了上述兩個(gè)最醒目的模型外，愛(ài)爾蘭的NLP研究科學(xué)家Sebastian Ruder對(duì)2018年NLP領(lǐng)域令人激動(dòng)的十大想法進(jìn)行了大盤點(diǎn)。

總結(jié)一下便是：

⑴無(wú)監(jiān)督的機(jī)器翻譯翻譯（Unsupervised MT）

代表論文：

《基于短語(yǔ)和神經(jīng)的無(wú)監(jiān)督機(jī)器翻譯》（EMNLP 2018）

https://arxiv.org/abs/1804.0775

⑵預(yù)訓(xùn)練的語(yǔ)言模型（Pretrained language models）

代表論文：

《深度的語(yǔ)境化詞語(yǔ)表示》（NAACL-HLT 2018）

https://arxiv.org/abs/1802.05365

⑶常識(shí)推理數(shù)據(jù)集（Common sense inference datasets）

代表論文：

《視覺(jué)常識(shí)推理》（arXiv 2018）

http://visualcommonsense.com/

⑷元學(xué)習(xí)（Meta-learning）

代表論文：

《低資源神經(jīng)機(jī)器翻譯的元學(xué)習(xí)》（EMNLP 2018）

http://aclweb.org/anthology/D18-1398

⑸穩(wěn)健的無(wú)監(jiān)督方法（Robust unsupervised methods）

代表論文：

《用于完全無(wú)監(jiān)督的跨語(yǔ)言詞向量的穩(wěn)健自學(xué)習(xí)方法》（ACL 2018）

http://www.aclweb.org/anthology/P18-1073

⑹理解表示（Understanding representations）

代表論文：

《語(yǔ)境化詞向量解析：架構(gòu)和表示》（EMNLP 2018）

http://aclweb.org/anthology/D18-1179

⑺巧妙的輔助任務(wù)（Clever auxiliary tasks）

代表論文：

《語(yǔ)義結(jié)構(gòu)的句法框架》(EMNLP 2018)

http://aclweb.org/anthology/D18-1412

⑻半監(jiān)督學(xué)習(xí)和遷移學(xué)習(xí)相結(jié)合（Combining semi-supervised learning with transfer learning）

代表論文：

《基于交叉視點(diǎn)訓(xùn)練的半監(jiān)督序列建模》(EMNLP 2018)

http://aclweb.org/anthology/D18-1217

⑼大型文檔的問(wèn)答和推理（QA and reasoning with large documents）

代表論文：

《敘述答閱讀理解挑戰(zhàn)》（TACL 2018）

http://aclweb.org/anthology/Q18-1023

⑽歸納偏差（Inductive bias）

代表論文：

《基于人類注意力的序列分類》（CoNLL 2018）

http://aclweb.org/anthology/K18-1030

《語(yǔ)義角色標(biāo)注的語(yǔ)言學(xué)信息的自我注意力》(EMNLP 2018)

http://aclweb.org/anthology/D18-1548

今年熱夏，史上最大規(guī)模NLP頂會(huì)——ACL，即將拉開(kāi)序幕。那么你覺(jué)得今年的關(guān)鍵詞會(huì)是哪些呢？