本章給大家介紹一種用于預(yù)測的算法——邏輯回歸(logistic regression)
給定一個輸入特征向量x(例如你想要識別的圖像——是否有貓),你需要一個算法進行計算之后進行結(jié)果輸出(在這里我們用的是邏輯回歸算法)。這個被輸出的預(yù)測結(jié)果我們稱為y^y^,假設(shè)y是1,如果預(yù)測得很準(zhǔn)的話y^y^可能會是0.99)。
上圖第一個公式中的x是個(n,1)維的矩陣,表示一個訓(xùn)練樣本,里面的n表示一個訓(xùn)練樣本中的特征數(shù)量,例如一張圖片就是一個訓(xùn)練樣本,圖片中每個顏色強度值就是一個特征;w也是一個(n,1)維的矩陣,它表示權(quán)重(weight),它一一對應(yīng)于每個輸入的特征,也可以說它指示了某個特征的重要程度;b是一個實數(shù),在這里可以將其看作為一個閥值。
如何理解w和b呢?
我舉個例子來幫助大家理解??梢园焉厦娴乃惴ㄟ^程看作是一種通過權(quán)衡輸入然后再做出決定的一個過程。假設(shè)周末即將到來,你聽說在你的城市將會有一個音樂節(jié)。你要決定是否去參加這個節(jié)日。你需要通過權(quán)衡3個因素(3個特征)來做出決定:1、天氣好嗎 2、你的女友是否愿意陪你去 3、舉辦地點離地鐵近嗎 這3個因素就對應(yīng)著上圖中的x1、x2,x3(它們是x這個訓(xùn)練樣本中的3個特征)。
我們可以給它們賦個值,如果天氣好,那么x1為1,否則為0,x2和x3雷同;假設(shè)你很討厭壞天氣,如果天氣不好,你就不會去參加這個節(jié)日,對其它兩個因素要求不高(這里假設(shè)你是個老司機,女人多得是,不怕冷落了女友)。那么我們分別給3個權(quán)重賦值為7,2,2。w1的值大很多,這表明天氣對你來說很重要,比你的女友是否愿意去,以及交通的便利性更重要。而b我們可以看作一個閥值,假設(shè)我們給b賦值為-5,那么也就是說,只要天氣好,即使女友不陪你去、交通也不方便,你也會去參加這個節(jié)日——x1 * w1 + x2 * w2 + x3 * w3 = 1 * 7 + 0 * 2 + 0 * 2 = 7(這里的*代表乘法)(我們這里先不考慮σ函數(shù)),而7 +(-5)> 0,結(jié)果是你會去那個音樂節(jié)。如果我們選擇不同的w和b值,那么對于同一個輸入x,會有不同的結(jié)果輸出。
訓(xùn)練神經(jīng)網(wǎng)絡(luò)的目的就是通過訓(xùn)練過程來得到這些w和b值(后面會教大家如何來訓(xùn)練得到它們)。這些w和b值可以讓神經(jīng)網(wǎng)絡(luò)得到一項判斷能力,一項預(yù)測能力——輸入一張圖片,神經(jīng)網(wǎng)絡(luò)根據(jù)訓(xùn)練好的w和b,通過上面的公式根據(jù)每個像素的值以及與其對應(yīng)的權(quán)重值以及閾值來判定這張圖里是否有貓。神經(jīng)網(wǎng)絡(luò)就是這樣來進行預(yù)測的。它和我們?nèi)祟惖乃伎挤绞绞且粯拥?。雖然我們?nèi)丝梢宰龀龇浅?fù)雜的判斷,但是基本原理是很簡單的。
人為什么能輕松分辨出一個圖片中是否有貓?因為我們?nèi)司褪且粋€巨型的神經(jīng)網(wǎng)絡(luò),這個神經(jīng)網(wǎng)絡(luò)里面包含了數(shù)億甚至更多的神經(jīng)元(上圖藍(lán)色的圓圈就表示一個神經(jīng)元),每個神經(jīng)元都可以接受多個輸入,在日常生活中,小孩子通過大人的教導(dǎo),不斷的看見貓,我們的神經(jīng)元對于這個輸入就形成了很多特定的w(權(quán)重),所以當(dāng)再次看見一個貓時,這個輸入(這個貓)與相應(yīng)的w聯(lián)合起來進行運算后,其結(jié)果就指示了這個輸入是一個貓。
下面再來說一下σ,它代表了sigmoid函數(shù),上面是它的定義公式以及圖形。我們?yōu)槭裁葱枰??在上面我們舉的去參加節(jié)日的例子中,我們得出的結(jié)果為2,其實對于不同的x和w值,結(jié)果可能會更大。所以這并不適用于二元分類問題,因為在二元分類問題中你想要得到的y^y^應(yīng)該表示一個概率,一個輸入是否等于它真實標(biāo)簽的概率(例如輸入的圖像里面是否有貓)。所以y^y^的值應(yīng)該在0和1之間。sigmoid函數(shù)的作用就是把計算結(jié)果轉(zhuǎn)換為0和1之間的值。通過看它的圖形就可以明白,往sigmoid函數(shù)里輸入的值z越大,那么y^y^就越靠近1,也就是里面有貓的概率就越大。
以上就是神經(jīng)網(wǎng)絡(luò)為什么能夠給出預(yù)測結(jié)果的大致原理。其實就像jack床長所說,“每個人都是一個巨型的神經(jīng)網(wǎng)絡(luò)”,只要我們善于反思、善于總結(jié)、善于學(xué)習(xí),每個人都會變得越來越強大,都能成就更好的自己。
-
神經(jīng)網(wǎng)絡(luò)
+關(guān)注
關(guān)注
42文章
4814瀏覽量
103648 -
算法
+關(guān)注
關(guān)注
23文章
4710瀏覽量
95405
原文標(biāo)題:神經(jīng)網(wǎng)絡(luò)是如何給出預(yù)測結(jié)果的?
文章出處:【微信號:Imgtec,微信公眾號:Imagination Tech】歡迎添加關(guān)注!文章轉(zhuǎn)載請注明出處。
發(fā)布評論請先 登錄
評論