1、卷積神經(jīng)網(wǎng)絡(luò)的概念

計算機視覺和 CNN 發(fā)展十一座里程碑

上世紀60年代，Hubel等人通過對貓視覺皮層細胞的研究，提出了感受野這個概念，到80年代，F(xiàn)ukushima在感受野概念的基礎(chǔ)之上提出了神經(jīng)認知機的概念，可以看作是卷積神經(jīng)網(wǎng)絡(luò)的第一個實現(xiàn)網(wǎng)絡(luò)，神經(jīng)認知機將一個視覺模式分解成許多子模式（特征），然后進入分層遞階式相連的特征平面進行處理，它試圖將視覺系統(tǒng)模型化，使其能夠在即使物體有位移或輕微變形的時候，也能完成識別。

卷積神經(jīng)網(wǎng)絡(luò)是多層感知機（MLP）的變種，由生物學(xué)家休博爾和維瑟爾在早期關(guān)于貓視覺皮層的研究發(fā)展而來，視覺皮層的細胞存在一個復(fù)雜的構(gòu)造，這些細胞對視覺輸入空間的子區(qū)域非常敏感，稱之為感受野。

CNN由紐約大學(xué)的Yann Lecun于1998年提出，其本質(zhì)是一個多層感知機，成功的原因在于其所采用的局部連接和權(quán)值共享的方式：

一方面減少了權(quán)值的數(shù)量使得網(wǎng)絡(luò)易于優(yōu)化

另一方面降低了模型的復(fù)雜度，也就是減小了過擬合的風(fēng)險

該優(yōu)點在網(wǎng)絡(luò)的輸入是圖像時表現(xiàn)的更為明顯，使得圖像可以直接作為網(wǎng)絡(luò)的輸入，避免了傳統(tǒng)識別算法中復(fù)雜的特征提取和數(shù)據(jù)重建的過程，在二維圖像的處理過程中有很大的優(yōu)勢，如網(wǎng)絡(luò)能夠自行抽取圖像的特征包括顏色、紋理、形狀及圖像的拓撲結(jié)構(gòu)，在處理二維圖像的問題上，特別是識別位移、縮放及其他形式扭曲不變性的應(yīng)用上具有良好的魯棒性和運算效率等。