**1 **問題
我們在深度學習的過程中,開始對模型進行在測試集的精度進行預(yù)測時,最開始是全連接網(wǎng)絡(luò)進行模型的精度預(yù)測,最后發(fā)現(xiàn)測試集的精度預(yù)測值不是很理想,就在想能不能換一種網(wǎng)絡(luò)層提高測試集的精度?
**2 **方法
在后續(xù)的學習中,我們學習和了解了卷積網(wǎng)絡(luò),卷積神經(jīng)網(wǎng)絡(luò)也是通過一層一層的節(jié)點組織起來的。和全連接神經(jīng)網(wǎng)絡(luò)一樣,卷積神經(jīng)網(wǎng)絡(luò)中的每一個節(jié)點就是一個神經(jīng)元。在全連接神經(jīng)網(wǎng)絡(luò)中,每相鄰兩層之間的節(jié)點都有邊相連,于是會將每一層的全連接層中的節(jié)點組織成一列,這樣方便顯示連接結(jié)構(gòu)。而對于卷積神經(jīng)網(wǎng)絡(luò),相鄰兩層之間只有部分節(jié)點相連,為了展示每一層神經(jīng)元的維度,一般會將每一層卷積層的節(jié)點組織成一個三維矩陣。
全連接層的參數(shù)太多,對于MNIST數(shù)據(jù),每一張圖片的大小是28281,其中28*28代表的是圖片的大小,*1表示圖像是黑白的,有一個色彩通道。有的圖片會更大或者是彩色的圖片,這時候參數(shù)將會更多。參數(shù)增多除了導致計算速度減慢,還很容易導致過擬合的問題。所以需要一個合理的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)來有效的減少神經(jīng)網(wǎng)絡(luò)中參數(shù)的個數(shù)。卷積神經(jīng)網(wǎng)絡(luò)就可以更好的達到這個目的。于是我們就用卷積神經(jīng)網(wǎng)絡(luò)替代了全連接神經(jīng)網(wǎng)絡(luò)進行測試,發(fā)現(xiàn)確實提高了測試集的精度。
這是全連接網(wǎng)絡(luò)的網(wǎng)絡(luò)層
這是卷積網(wǎng)絡(luò)的網(wǎng)絡(luò)層:
最后我們訓練了五十個周期,得出對比:
這是卷積網(wǎng)絡(luò)測試集的精度
這是全連接網(wǎng)絡(luò)測試集的精度
**3 **結(jié)語
我們通過訓練發(fā)現(xiàn)卷積網(wǎng)絡(luò)確實提高了網(wǎng)絡(luò)測試集的精度,而從中也發(fā)現(xiàn)了卷積神經(jīng)網(wǎng)絡(luò)的輸入輸出以及訓練的流程和全連接神經(jīng)網(wǎng)絡(luò)基本一致,而他們兩種網(wǎng)絡(luò)唯一區(qū)別就是神經(jīng)網(wǎng)絡(luò)相鄰兩層的連接方式。
-
深度學習
+關(guān)注
關(guān)注
73文章
5561瀏覽量
122805 -
MNIST
+關(guān)注
關(guān)注
0文章
10瀏覽量
3541 -
卷積網(wǎng)絡(luò)
+關(guān)注
關(guān)注
0文章
43瀏覽量
2561
發(fā)布評論請先 登錄
全連接神經(jīng)網(wǎng)絡(luò)和卷積神經(jīng)網(wǎng)絡(luò)有什么區(qū)別
全卷積網(wǎng)絡(luò)FCN進行圖像分割
詳解卷積神經(jīng)網(wǎng)絡(luò)卷積過程

卷積神經(jīng)網(wǎng)絡(luò)中全連接層作用理解總結(jié)
如何區(qū)分卷積網(wǎng)絡(luò)與全連接網(wǎng)絡(luò)

PyTorch教程14.11之全卷積網(wǎng)絡(luò)

評論