一区二区三区三上|欧美在线视频五区|国产午夜无码在线观看视频|亚洲国产裸体网站|无码成年人影视|亚洲AV亚洲AV|成人开心激情五月|欧美性爱内射视频|超碰人人干人人上|一区二区无码三区亚洲人区久久精品

0
  • 聊天消息
  • 系統(tǒng)消息
  • 評論與回復
登錄后你可以
  • 下載海量資料
  • 學習在線課程
  • 觀看技術(shù)視頻
  • 寫文章/發(fā)帖/加入社區(qū)
會員中心
創(chuàng)作中心

完善資料讓更多小伙伴認識你,還能領(lǐng)取20積分哦,立即完善>

3天內(nèi)不再提示

卷積網(wǎng)絡(luò)和全連接網(wǎng)絡(luò)的比較

jf_78858299 ? 來源:算法與編程之美 ? 作者:算法與編程之美 ? 2023-03-24 14:49 ? 次閱讀
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

**1 **問題

我們在深度學習的過程中,開始對模型進行在測試集的精度進行預(yù)測時,最開始是全連接網(wǎng)絡(luò)進行模型的精度預(yù)測,最后發(fā)現(xiàn)測試集的精度預(yù)測值不是很理想,就在想能不能換一種網(wǎng)絡(luò)層提高測試集的精度?

**2 **方法

在后續(xù)的學習中,我們學習和了解了卷積網(wǎng)絡(luò),卷積神經(jīng)網(wǎng)絡(luò)也是通過一層一層的節(jié)點組織起來的。和全連接神經(jīng)網(wǎng)絡(luò)一樣,卷積神經(jīng)網(wǎng)絡(luò)中的每一個節(jié)點就是一個神經(jīng)元。在全連接神經(jīng)網(wǎng)絡(luò)中,每相鄰兩層之間的節(jié)點都有邊相連,于是會將每一層的全連接層中的節(jié)點組織成一列,這樣方便顯示連接結(jié)構(gòu)。而對于卷積神經(jīng)網(wǎng)絡(luò),相鄰兩層之間只有部分節(jié)點相連,為了展示每一層神經(jīng)元的維度,一般會將每一層卷積層的節(jié)點組織成一個三維矩陣。

全連接層的參數(shù)太多,對于MNIST數(shù)據(jù),每一張圖片的大小是28281,其中28*28代表的是圖片的大小,*1表示圖像是黑白的,有一個色彩通道。有的圖片會更大或者是彩色的圖片,這時候參數(shù)將會更多。參數(shù)增多除了導致計算速度減慢,還很容易導致過擬合的問題。所以需要一個合理的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)來有效的減少神經(jīng)網(wǎng)絡(luò)中參數(shù)的個數(shù)。卷積神經(jīng)網(wǎng)絡(luò)就可以更好的達到這個目的。于是我們就用卷積神經(jīng)網(wǎng)絡(luò)替代了全連接神經(jīng)網(wǎng)絡(luò)進行測試,發(fā)現(xiàn)確實提高了測試集的精度。

這是全連接網(wǎng)絡(luò)的網(wǎng)絡(luò)層

圖片

這是卷積網(wǎng)絡(luò)的網(wǎng)絡(luò)層:

圖片

最后我們訓練了五十個周期,得出對比:

這是卷積網(wǎng)絡(luò)測試集的精度

圖片

這是全連接網(wǎng)絡(luò)測試集的精度

圖片

**3 **結(jié)語

我們通過訓練發(fā)現(xiàn)卷積網(wǎng)絡(luò)確實提高了網(wǎng)絡(luò)測試集的精度,而從中也發(fā)現(xiàn)了卷積神經(jīng)網(wǎng)絡(luò)的輸入輸出以及訓練的流程和全連接神經(jīng)網(wǎng)絡(luò)基本一致,而他們兩種網(wǎng)絡(luò)唯一區(qū)別就是神經(jīng)網(wǎng)絡(luò)相鄰兩層的連接方式。

聲明:本文內(nèi)容及配圖由入駐作者撰寫或者入駐合作網(wǎng)站授權(quán)轉(zhuǎn)載。文章觀點僅代表作者本人,不代表電子發(fā)燒友網(wǎng)立場。文章及其配圖僅供工程師學習之用,如有內(nèi)容侵權(quán)或者其他違規(guī)問題,請聯(lián)系本站處理。 舉報投訴
  • 深度學習
    +關(guān)注

    關(guān)注

    73

    文章

    5561

    瀏覽量

    122805
  • MNIST
    +關(guān)注

    關(guān)注

    0

    文章

    10

    瀏覽量

    3541
  • 卷積網(wǎng)絡(luò)
    +關(guān)注

    關(guān)注

    0

    文章

    43

    瀏覽量

    2561
收藏 人收藏
加入交流群
微信小助手二維碼

掃碼添加小助手

加入工程師交流群

    評論

    相關(guān)推薦
    熱點推薦

    連接神經(jīng)網(wǎng)絡(luò)卷積神經(jīng)網(wǎng)絡(luò)有什么區(qū)別

    連接神經(jīng)網(wǎng)絡(luò)卷積神經(jīng)網(wǎng)絡(luò)的區(qū)別
    發(fā)表于 06-06 14:21

    卷積網(wǎng)絡(luò)FCN進行圖像分割

    與 FCN 通常CNN網(wǎng)絡(luò)卷積層之后會接上若干個連接層, 將卷積層產(chǎn)生的特征圖(feature map)映射成一個固定長度的特征向量。
    發(fā)表于 09-26 17:22 ?776次閱讀

    詳解卷積神經(jīng)網(wǎng)絡(luò)卷積過程

    卷積過程是卷積神經(jīng)網(wǎng)絡(luò)最主要的特征。然而卷積過程有比較多的細節(jié),初學者常會有比較多的問題,這篇文
    的頭像 發(fā)表于 05-02 15:39 ?1.9w次閱讀
    詳解<b class='flag-5'>卷積</b>神經(jīng)<b class='flag-5'>網(wǎng)絡(luò)</b><b class='flag-5'>卷積</b>過程

    卷積神經(jīng)網(wǎng)絡(luò)連接層作用理解總結(jié)

    一般來說,卷積神經(jīng)網(wǎng)絡(luò)會有三種類型的隱藏層——卷積層、池化層、連接層。卷積層和池化層
    的頭像 發(fā)表于 01-30 17:23 ?2.1w次閱讀

    如何區(qū)分卷積網(wǎng)絡(luò)連接網(wǎng)絡(luò)

    卷積神經(jīng)網(wǎng)絡(luò)是一類包含卷積計算且具有深度結(jié)構(gòu)的前饋神經(jīng)網(wǎng)絡(luò),是深度學習。卷積神經(jīng)網(wǎng)絡(luò)具有表征學習
    的頭像 發(fā)表于 02-21 15:05 ?2011次閱讀
    如何區(qū)分<b class='flag-5'>卷積</b><b class='flag-5'>網(wǎng)絡(luò)</b>與<b class='flag-5'>全</b><b class='flag-5'>連接</b><b class='flag-5'>網(wǎng)絡(luò)</b>

    PyTorch教程14.11之卷積網(wǎng)絡(luò)

    電子發(fā)燒友網(wǎng)站提供《PyTorch教程14.11之卷積網(wǎng)絡(luò).pdf》資料免費下載
    發(fā)表于 06-05 11:19 ?0次下載
    PyTorch教程14.11之<b class='flag-5'>全</b><b class='flag-5'>卷積</b><b class='flag-5'>網(wǎng)絡(luò)</b>

    卷積神經(jīng)網(wǎng)絡(luò)的基本原理 卷積神經(jīng)網(wǎng)絡(luò)發(fā)展 卷積神經(jīng)網(wǎng)絡(luò)三大特點

    中最重要的神經(jīng)網(wǎng)絡(luò)之一。它是一種由多個卷積層和池化層(也可稱為下采樣層)組成的神經(jīng)網(wǎng)絡(luò)。CNN 的基本思想是以圖像為輸入,通過網(wǎng)絡(luò)卷積、下
    的頭像 發(fā)表于 08-21 16:49 ?3139次閱讀

    卷積神經(jīng)網(wǎng)絡(luò)基本結(jié)構(gòu) 卷積神經(jīng)網(wǎng)絡(luò)主要包括什么

    。它的基本結(jié)構(gòu)由卷積層、池化層和連接層三部分組成,其中卷積層是核心部分,用于提取圖像的特征,池化層用于降低特征圖的大小,
    的頭像 發(fā)表于 08-21 16:57 ?1w次閱讀

    卷積神經(jīng)網(wǎng)絡(luò)層級結(jié)構(gòu) 卷積神經(jīng)網(wǎng)絡(luò)卷積層講解

    像分類、目標檢測、人臉識別等。卷積神經(jīng)網(wǎng)絡(luò)的核心是卷積層和池化層,它們構(gòu)成了網(wǎng)絡(luò)的主干,實現(xiàn)了對圖像特征的提取和抽象。 一、卷積神經(jīng)
    的頭像 發(fā)表于 08-21 16:49 ?9876次閱讀

    卷積神經(jīng)網(wǎng)絡(luò)的介紹 什么是卷積神經(jīng)網(wǎng)絡(luò)算法

    的深度學習算法。CNN模型最早被提出是為了處理圖像,其模型結(jié)構(gòu)中包含卷積層、池化層和連接層等關(guān)鍵技術(shù),經(jīng)過多個卷積層和池化層的處理,CNN可以提取出圖像中的特征信息,從而對圖像進行分
    的頭像 發(fā)表于 08-21 16:49 ?2347次閱讀

    常見的卷積神經(jīng)網(wǎng)絡(luò)模型 典型的卷積神經(jīng)網(wǎng)絡(luò)模型

    LeNet是卷積神經(jīng)網(wǎng)絡(luò)的開山祖師,是由Yan LeCunn在1998年提出的經(jīng)典卷積神經(jīng)網(wǎng)絡(luò)模型。它最初是為手寫體數(shù)字識別而設(shè)計的,由卷積
    的頭像 發(fā)表于 08-21 17:11 ?4529次閱讀

    卷積神經(jīng)網(wǎng)絡(luò)的工作原理和應(yīng)用

    卷積神經(jīng)網(wǎng)絡(luò)(FCN)是深度學習領(lǐng)域中的一種特殊類型的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu),尤其在計算機視覺領(lǐng)域表現(xiàn)出色。它通過全局平均池化或轉(zhuǎn)置卷積處理任意尺寸
    的頭像 發(fā)表于 07-11 11:50 ?1886次閱讀

    神經(jīng)網(wǎng)絡(luò)中的卷積層、池化層與連接

    在深度學習中,卷積神經(jīng)網(wǎng)絡(luò)(Convolutional Neural Network, CNN)是一種特別適用于處理圖像數(shù)據(jù)的神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)。它通過卷積層、池化層和
    的頭像 發(fā)表于 07-11 14:18 ?1w次閱讀

    卷積神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)比較

    神經(jīng)網(wǎng)絡(luò),也稱為連接神經(jīng)網(wǎng)絡(luò)(Fully Connected Neural Networks,F(xiàn)CNs),其特點是每一層的每個神經(jīng)元都與下一層的所有神經(jīng)元相連。這種結(jié)構(gòu)簡單直觀,但在處理圖像等高維數(shù)據(jù)時會遇到顯著的問題,如參數(shù)
    的頭像 發(fā)表于 11-15 14:53 ?1879次閱讀

    BP神經(jīng)網(wǎng)絡(luò)卷積神經(jīng)網(wǎng)絡(luò)比較

    多層。 每一層都由若干個神經(jīng)元構(gòu)成,神經(jīng)元之間通過權(quán)重連接。信號在神經(jīng)網(wǎng)絡(luò)中是前向傳播的,而誤差是反向傳播的。 卷積神經(jīng)網(wǎng)絡(luò)(CNN) : CNN主要由
    的頭像 發(fā)表于 02-12 15:53 ?673次閱讀