(文章來(lái)源:云端高科)
人工神經(jīng)網(wǎng)絡(luò)(Artificial Neural Networks)(簡(jiǎn)稱ANN)系統(tǒng)從20 世紀(jì)40 年代末誕生至今僅短短半個(gè)多世紀(jì),但由于他具有信息的分布存儲(chǔ)、并行處理以及自學(xué)習(xí)能力等優(yōu)點(diǎn),已經(jīng)在信息處理、模式識(shí)別、智能控制及系統(tǒng)建模等領(lǐng)域得到越來(lái)越廣泛的應(yīng)用。尤其是基于誤差反向傳播(Error Back Propagation)算法的多層前饋網(wǎng)絡(luò)(Multiple-Layer Feedforward Network)(簡(jiǎn)稱BP 網(wǎng)絡(luò)),可以以任意精度逼近任意的連續(xù)函數(shù),所以廣泛應(yīng)用于非線性建模、函數(shù)逼近、模式分類等方面。
目標(biāo)識(shí)別是模式識(shí)別領(lǐng)域的一項(xiàng)傳統(tǒng)的課題,這是因?yàn)槟繕?biāo)識(shí)別不是一個(gè)孤立的問(wèn)題,而是模式識(shí)別領(lǐng)域中大多數(shù)課題都會(huì)遇到的基本問(wèn)題,并且在不同的課題中,由于具體的條件不同,解決的方法也不盡相同,因而目標(biāo)識(shí)別的研究仍具有理論和實(shí)踐意義。這里討論的是將要識(shí)別的目標(biāo)物體用成像頭(紅外或可見光等)攝入后形成的圖像信號(hào)序列送入計(jì)算機(jī),用神經(jīng)網(wǎng)絡(luò)識(shí)別圖像的問(wèn)題。
一、BP 神經(jīng)網(wǎng)絡(luò),BP 網(wǎng)絡(luò)是采用Widrow-Hoff 學(xué)習(xí)算法和非線性可微轉(zhuǎn)移函數(shù)的多層網(wǎng)絡(luò)。一個(gè)典型的BP 網(wǎng)絡(luò)采用的是梯度下降算法,也就是Widrow-Hoff 算法所規(guī)定的。backpropagation 就是指的為非線性多層網(wǎng)絡(luò)計(jì)算梯度的方法。一個(gè)典型的BP 網(wǎng)絡(luò)結(jié)構(gòu)如圖所示。
我們將它用向量圖表示如下圖所示。
其算法描述如下:
(1)初始化網(wǎng)絡(luò)及學(xué)習(xí)參數(shù),如設(shè)置網(wǎng)絡(luò)初始權(quán)矩陣、學(xué)習(xí)因子等。
(2)提供訓(xùn)練模式,訓(xùn)練網(wǎng)絡(luò),直到滿足學(xué)習(xí)要求。
(3)前向傳播過(guò)程:對(duì)給定訓(xùn)練模式輸入,計(jì)算網(wǎng)絡(luò)的輸出模式,并與期望模式比較,若有誤差,則執(zhí)行(4);否則,返回(2)。
(4)后向傳播過(guò)程:a. 計(jì)算同一層單元的誤差;b. 修正權(quán)值和閾值;c. 返回(2)
二、 BP 網(wǎng)絡(luò)隱層個(gè)數(shù)的選擇,對(duì)于含有一個(gè)隱層的三層BP 網(wǎng)絡(luò)可以實(shí)現(xiàn)輸入到輸出的任何非線性映射。增加網(wǎng)絡(luò)隱層數(shù)可以降低誤差,提高精度,但同時(shí)也使網(wǎng)絡(luò)復(fù)雜化,增加網(wǎng)絡(luò)的訓(xùn)練時(shí)間。誤差精度的提高也可以通過(guò)增加隱層結(jié)點(diǎn)數(shù)來(lái)實(shí)現(xiàn)。一般情況下,應(yīng)優(yōu)先考慮增加隱含層的結(jié)點(diǎn)數(shù)。
三、隱含層神經(jīng)元個(gè)數(shù)的選擇,當(dāng)用神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)網(wǎng)絡(luò)映射時(shí),隱含層神經(jīng)元個(gè)數(shù)直接影響著神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)能力和歸納能力。隱含層神經(jīng)元數(shù)目較少時(shí),網(wǎng)絡(luò)每次學(xué)習(xí)的時(shí)間較短,但有可能因?yàn)閷W(xué)習(xí)不足導(dǎo)致網(wǎng)絡(luò)無(wú)法記住全部學(xué)習(xí)內(nèi)容;隱含層神經(jīng)元數(shù)目較大時(shí),學(xué)習(xí)能力增強(qiáng),網(wǎng)絡(luò)每次學(xué)習(xí)的時(shí)間較長(zhǎng),網(wǎng)絡(luò)的存儲(chǔ)容量隨之變大,導(dǎo)致網(wǎng)絡(luò)對(duì)未知輸入的歸納能力下降,因?yàn)閷?duì)隱含層神經(jīng)元個(gè)數(shù)的選擇尚無(wú)理論上的指導(dǎo),一般憑經(jīng)驗(yàn)確定。
(責(zé)任編輯:fqj)
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4814瀏覽量
103668 -
圖像識(shí)別
+關(guān)注
關(guān)注
9文章
527瀏覽量
39120
發(fā)布評(píng)論請(qǐng)先 登錄
BP神經(jīng)網(wǎng)絡(luò)與卷積神經(jīng)網(wǎng)絡(luò)的比較
BP神經(jīng)網(wǎng)絡(luò)的優(yōu)缺點(diǎn)分析
BP神經(jīng)網(wǎng)絡(luò)在圖像識(shí)別中的應(yīng)用
人工神經(jīng)網(wǎng)絡(luò)的原理和多種神經(jīng)網(wǎng)絡(luò)架構(gòu)方法

卷積神經(jīng)網(wǎng)絡(luò)在自然語(yǔ)言處理中的應(yīng)用
卷積神經(jīng)網(wǎng)絡(luò)與傳統(tǒng)神經(jīng)網(wǎng)絡(luò)的比較
深度學(xué)習(xí)中的卷積神經(jīng)網(wǎng)絡(luò)模型
LSTM神經(jīng)網(wǎng)絡(luò)在圖像處理中的應(yīng)用
LSTM神經(jīng)網(wǎng)絡(luò)在語(yǔ)音識(shí)別中的應(yīng)用實(shí)例
AI圖像識(shí)別攝像機(jī)

Moku人工神經(jīng)網(wǎng)絡(luò)101

評(píng)論