Google Assistant的新功能——Duplex雙工技術(shù)

利用 Duplex 雙工技術(shù)，谷歌的智能助理能用非常類似人聲的角色完成真實世界的任務(wù)。在 demo 中，谷歌 CEO Pichai 告訴聽眾，“你將要聽...

2018-07-03 標簽：Google神經(jīng)網(wǎng)絡(luò)機器學習 5988 0

反向傳播算法的工作原理

反向傳播算法（BP算法）是目前用來訓練人工神經(jīng)網(wǎng)絡(luò)的最常用且最有效的算法。作為谷歌機器學習速成課程的配套材料，谷歌推出一個演示網(wǎng)站，直觀地介紹了反向傳...

2018-07-02 標簽：神經(jīng)網(wǎng)絡(luò)算法 1.0萬 0

LSTM的核心構(gòu)成,實際中“門”的效果如何？

門是否真的具有我們上述描述的意義呢？這也是我們這篇論文的出發(fā)點。為了探究這個問題，我們分析了IWSLT14德語-英語的翻譯任務(wù)，這個翻譯任務(wù)的模型是基于...

2018-07-02 標簽：神經(jīng)網(wǎng)絡(luò)機器翻譯自然語言 1.0萬 0

基于文本語料推斷含義及使用外部含義清單的含義表示模型

Johansson和Pina在2015年提出，后處理預(yù)訓練詞嵌入可以看起一個優(yōu)化問題：多義詞嵌入可以分解為其含義嵌入的組合，同時含義嵌入應(yīng)該靠近其語義網(wǎng)...

2018-07-02 標簽：神經(jīng)網(wǎng)絡(luò)函數(shù)自然語言 3829 0

2018年的“最佳論文獎”和“最佳論文提名獎”的論文分享

破碎梯度（shattered gradients）是當防御不可微分時產(chǎn)生的，它會引起數(shù)值不穩(wěn)定或者導致真正的梯度信號發(fā)生錯誤。造成梯度破碎的防御措施往往...

2018-07-02 標簽：神經(jīng)網(wǎng)絡(luò)圖像分類機器學習 6466 0

基于權(quán)重系聯(lián)的線性自動編碼器

研究人員證明了，如果矩陣U是以上目標的全局最優(yōu)解，那么U的所有列范數(shù)相等。這意味著，dropout傾向于給所有隱藏節(jié)點分配相等的權(quán)重，也就是說，drop...

2018-07-02 標簽：編碼器神經(jīng)網(wǎng)絡(luò)dropout 3162 0

一種思考數(shù)學表達式的輕松方法——計算圖

如果要理解計算圖上的導數(shù)，一個關(guān)鍵在于我們?nèi)绾卫斫饷恳粭l帶箭頭的線（下稱“邊”）上的導數(shù)。以之前的連接a節(jié)點和c=a+b節(jié)點的邊為例，如果a對c有影響，...

2018-07-02 標簽：神經(jīng)網(wǎng)絡(luò)計算圖深度學習 3868 0

基于卷積神經(jīng)網(wǎng)絡(luò)的組合模型處理NLP任務(wù)諷刺檢測

數(shù)據(jù)為均衡和失衡的諷刺推文數(shù)據(jù)集，取自Ptacek等2014年的工作和The Sarcasm Detector。移除了用戶名、URL、#標記，使用了NL...

2018-07-02 標簽：神經(jīng)網(wǎng)絡(luò)數(shù)據(jù)集深度學習 6430 0

RNN及其變體LSTM和GRU

下圖為一個雙層LSTM對三個不同的單詞的反應(yīng)分布。該LSTM每層有600個細胞狀態(tài)單元，基于Penn Tree Bank（PTB）數(shù)據(jù)集訓練。我們可以看...

2018-06-30 標簽：神經(jīng)網(wǎng)絡(luò)深度學習自然語言 1.7萬 0

CNN是怎么幫助進行圖像分類的

但計算機不同。我們把圖像輸入計算機后，它“看”到的其實是一組像素值。這些像素值的數(shù)量會根據(jù)圖像的大小和分辨率發(fā)生改變，如果輸入圖像是一張JPG格式的彩色...

2018-06-30 標簽：神經(jīng)網(wǎng)絡(luò)機器學習CNN 1.8萬 0

從AlexNet到ResNet的網(wǎng)絡(luò)架構(gòu)進步

自從2012年AlexNet在競賽中成功“超神”后，參加ILSVRC 2013的CNN模型數(shù)量大幅提升，其中紐約大學的Matthew Zeiler和Ro...

2018-06-30 標簽：神經(jīng)網(wǎng)絡(luò)計算機視覺深度學習 2.3萬 0