如何使用Numpy搭建神經(jīng)網(wǎng)絡(luò)

很多同學(xué)入門機(jī)器學(xué)習(xí)之后，直接用TensorFlow調(diào)包實現(xiàn)神經(jīng)網(wǎng)絡(luò)，對于神經(jīng)網(wǎng)絡(luò)內(nèi)在機(jī)理知之甚少。

2019-05-18 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)函數(shù)機(jī)器學(xué)習(xí) 3809 0

PA利用Tesla V100 GPU Tensor核心的強(qiáng)大計算力縮短模型訓(xùn)練時間、提升模型迭代速度

阿里巴巴PAI團(tuán)隊的自動混合精度轉(zhuǎn)換在PAI平臺深度定制的Tensorflow框架PAI-TensorFlow的計算圖優(yōu)化引擎中實現(xiàn)。雖然相比于模型代碼...

2019-05-16 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)gpu阿里巴巴 7820 0

深度學(xué)習(xí)最常見的26個模型匯總

前饋神經(jīng)網(wǎng)絡(luò)和感知機(jī)，信息從前（輸入）往后（輸出）流動，一般用反向傳播（BP）來訓(xùn)練。算是一種監(jiān)督學(xué)習(xí)。

2019-05-15 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)模型深度學(xué)習(xí) 4.1萬 0

如何有效地對神經(jīng)網(wǎng)絡(luò)參數(shù)進(jìn)行初始化

確保均值為零，并保持每層輸入方差值不變，可以保證信號不會爆炸或消失。該方法既適用于前向傳播（用于激活），也適用于向后傳播（用于關(guān)于激活的成本梯度）。這里...

2019-05-15 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)函數(shù)機(jī)器學(xué)習(xí) 4447 0

僅會一點點python就能自己搭建一個神經(jīng)網(wǎng)絡(luò)！

我們將在本實驗中使用的 Tensor Processing Unit（TPU）硬件加速器。Google 云端存儲（GCS）能夠保持極高的吞吐量，但與所有...

2019-05-15 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)python遷移學(xué)習(xí) 4622 0

通過Python就能讀懂機(jī)器學(xué)習(xí)

具體來說有四個方面的介紹，包括機(jī)器學(xué)習(xí)的定義、機(jī)器學(xué)習(xí)的起源，以及進(jìn)化反向、機(jī)器學(xué)習(xí)的分類和類別、最常用的機(jī)器學(xué)習(xí)算法，如何實現(xiàn)。

2019-05-14 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)python 2832 0

AAAI 2019 Gaussian Transformer 一種自然語言推理方法

自然語言推理 (Natural Language Inference, NLI) 是一個活躍的研究領(lǐng)域，許多基于循環(huán)神經(jīng)網(wǎng)絡(luò)(RNNs)，卷積神經(jīng)網(wǎng)絡(luò)(...

2019-05-14 標(biāo)簽：神經(jīng)網(wǎng)絡(luò) 3327 0

IBM新研究，使用光學(xué)器件打造的“全光學(xué)”深度神經(jīng)網(wǎng)絡(luò)

DNN在計算精度較低時仍能正常工作。因此，DNN網(wǎng)絡(luò)代表了非傳統(tǒng)計算技術(shù)的潛在機(jī)會。研究人員正在努力打造基于新型非易失性存儲器件的DNN加速器。這類設(shè)備...

2019-05-11 標(biāo)簽：加速器神經(jīng)網(wǎng)絡(luò)光學(xué)器件 3608 0

對抗樣本真的是bug嗎？對抗樣本不是Bug, 它們是特征

過去幾年里，對抗樣本在機(jī)器學(xué)習(xí)社區(qū)中得到了極大的關(guān)注。關(guān)于如何訓(xùn)練模型使它們不易受到對抗樣本攻擊的工作有很多，但所有這些研究都沒有真正地面對這樣一個基本...

2019-05-10 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)機(jī)器學(xué)習(xí)數(shù)據(jù)集 4886 0

RNN存在的問題及其改進(jìn)方法，并介紹更多復(fù)雜的RNN變體

梯度爆炸/消失不僅僅是RNN存在的問題。由于鏈?zhǔn)椒▌t和非線性激活函數(shù)，所有神經(jīng)網(wǎng)絡(luò)（包括前向和卷積神經(jīng)網(wǎng)絡(luò)），尤其是深度神經(jīng)網(wǎng)絡(luò)，都會出現(xiàn)梯度消失/爆炸...

2019-05-05 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)梯度rnn 1.7萬 0

一種新的、更精細(xì)的對象表示方法 ——RepPoints ，比邊界框更好用的目標(biāo)檢測方法

雖然邊界框便于計算，但它們僅提供目標(biāo)的粗略定位，并不完全擬合對象的形狀和姿態(tài)。因此，從邊界框的規(guī)則單元格中提取的特征可能會受到包含少量語義信息的背景內(nèi)容...

2019-05-05 標(biāo)簽：神經(jīng)網(wǎng)絡(luò)目標(biāo)檢測計算機(jī)視覺 7668 0