(文章來源:云端高科)
人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Networks)(簡稱ANN)系統(tǒng)從20 世紀(jì)40 年代末誕生至今僅短短半個多世紀(jì),但由于他具有信息的分布存儲、并行處理以及自學(xué)習(xí)能力等優(yōu)點,已經(jīng)在信息處理、模式識別、智能控制及系統(tǒng)建模等領(lǐng)域得到越來越廣泛的應(yīng)用。尤其是基于誤差反向傳播(Error Back Propagation)算法的多層前饋網(wǎng)絡(luò)(Multiple-Layer Feedforward Network)(簡稱BP 網(wǎng)絡(luò)),可以以任意精度逼近任意的連續(xù)函數(shù),所以廣泛應(yīng)用于非線性建模、函數(shù)逼近、模式分類等方面。
目標(biāo)識別是模式識別領(lǐng)域的一項傳統(tǒng)的課題,這是因為目標(biāo)識別不是一個孤立的問題,而是模式識別領(lǐng)域中大多數(shù)課題都會遇到的基本問題,并且在不同的課題中,由于具體的條件不同,解決的方法也不盡相同,因而目標(biāo)識別的研究仍具有理論和實踐意義。這里討論的是將要識別的目標(biāo)物體用成像頭(紅外或可見光等)攝入后形成的圖像信號序列送入計算機,用神經(jīng)網(wǎng)絡(luò)識別圖像的問題。
一、BP 神經(jīng)網(wǎng)絡(luò),BP 網(wǎng)絡(luò)是采用Widrow-Hoff 學(xué)習(xí)算法和非線性可微轉(zhuǎn)移函數(shù)的多層網(wǎng)絡(luò)。一個典型的BP 網(wǎng)絡(luò)采用的是梯度下降算法,也就是Widrow-Hoff 算法所規(guī)定的。backpropagation 就是指的為非線性多層網(wǎng)絡(luò)計算梯度的方法。一個典型的BP 網(wǎng)絡(luò)結(jié)構(gòu)如圖所示。
我們將它用向量圖表示如下圖所示。
其算法描述如下:
(1)初始化網(wǎng)絡(luò)及學(xué)習(xí)參數(shù),如設(shè)置網(wǎng)絡(luò)初始權(quán)矩陣、學(xué)習(xí)因子等。
(2)提供訓(xùn)練模式,訓(xùn)練網(wǎng)絡(luò),直到滿足學(xué)習(xí)要求。
(3)前向傳播過程:對給定訓(xùn)練模式輸入,計算網(wǎng)絡(luò)的輸出模式,并與期望模式比較,若有誤差,則執(zhí)行(4);否則,返回(2)。
(4)后向傳播過程:a. 計算同一層單元的誤差;b. 修正權(quán)值和閾值;c. 返回(2)
二、 BP 網(wǎng)絡(luò)隱層個數(shù)的選擇,對于含有一個隱層的三層BP 網(wǎng)絡(luò)可以實現(xiàn)輸入到輸出的任何非線性映射。增加網(wǎng)絡(luò)隱層數(shù)可以降低誤差,提高精度,但同時也使網(wǎng)絡(luò)復(fù)雜化,增加網(wǎng)絡(luò)的訓(xùn)練時間。誤差精度的提高也可以通過增加隱層結(jié)點數(shù)來實現(xiàn)。一般情況下,應(yīng)優(yōu)先考慮增加隱含層的結(jié)點數(shù)。
三、隱含層神經(jīng)元個數(shù)的選擇,當(dāng)用神經(jīng)網(wǎng)絡(luò)實現(xiàn)網(wǎng)絡(luò)映射時,隱含層神經(jīng)元個數(shù)直接影響著神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)能力和歸納能力。隱含層神經(jīng)元數(shù)目較少時,網(wǎng)絡(luò)每次學(xué)習(xí)的時間較短,但有可能因為學(xué)習(xí)不足導(dǎo)致網(wǎng)絡(luò)無法記住全部學(xué)習(xí)內(nèi)容;隱含層神經(jīng)元數(shù)目較大時,學(xué)習(xí)能力增強,網(wǎng)絡(luò)每次學(xué)習(xí)的時間較長,網(wǎng)絡(luò)的存儲容量隨之變大,導(dǎo)致網(wǎng)絡(luò)對未知輸入的歸納能力下降,因為對隱含層神經(jīng)元個數(shù)的選擇尚無理論上的指導(dǎo),一般憑經(jīng)驗確定。
(責(zé)任編輯:fqj)
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4814瀏覽量
103647 -
圖像識別
+關(guān)注
關(guān)注
9文章
527瀏覽量
39117
發(fā)布評論請先 登錄
BP神經(jīng)網(wǎng)絡(luò)的優(yōu)缺點分析
BP神經(jīng)網(wǎng)絡(luò)在圖像識別中的應(yīng)用
人工神經(jīng)網(wǎng)絡(luò)的原理和多種神經(jīng)網(wǎng)絡(luò)架構(gòu)方法

卷積神經(jīng)網(wǎng)絡(luò)在自然語言處理中的應(yīng)用
卷積神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的比較
深度學(xué)習(xí)中的卷積神經(jīng)網(wǎng)絡(luò)模型
LSTM神經(jīng)網(wǎng)絡(luò)在圖像處理中的應(yīng)用
LSTM神經(jīng)網(wǎng)絡(luò)在語音識別中的應(yīng)用實例
AI圖像識別攝像機

Moku人工神經(jīng)網(wǎng)絡(luò)101

評論