來源 | 《趣學(xué)貝葉斯統(tǒng)計：橡皮鴨、樂高和星球大戰(zhàn)中的統(tǒng)計學(xué)》 作者 | [美] 威爾·庫爾特（Will Kurt） 譯者 |王凌云

本章將概述貝葉斯推理。所謂貝葉斯推理，是指我們在觀察到一些數(shù)據(jù)后，更新自己對這個世界的信念的過程。我們將通過一個場景來探討如何將日常經(jīng)驗映射到貝葉斯推理中。

好消息是，在拿起本書之前，你就已經(jīng)是一個貝葉斯主義者了！貝葉斯統(tǒng)計其實與人們?nèi)绾巫匀坏乩脭?shù)據(jù)創(chuàng)造新的信念、如何進行日常問題的推理密切相關(guān)。壞消息是，將這種自然的思維過程分解為嚴(yán)謹(jǐn)?shù)臄?shù)學(xué)過程很難。

在統(tǒng)計學(xué)中，我們通過使用特定的計算和模型來更準(zhǔn)確地量化概率。不過，本章不會使用任何數(shù)學(xué)計算或模型，我們只需要熟悉基本概念，并利用直覺來確定概率。我們才會精確地計算概率。在本書的剩余部分，你將學(xué)習(xí)如何使用嚴(yán)格的數(shù)學(xué)方法對本章涉及的概念進行形式化的建模和推理。

1 對奇怪經(jīng)歷的推理

一天晚上，你突然被窗外的一道亮光驚醒。你從床上跳起來，向外望去，發(fā)現(xiàn)天空中有一個碟形的龐然大物。你從來都不相信會遇見外星人，但現(xiàn)在你完全被外面的景象迷惑了。你發(fā)現(xiàn)自己在想：這難道是不明飛行物（unidentified flying object，UFO）嗎？！

貝葉斯推理就是這樣一種思維過程：在遇到一種情況時，你會做出概率假設(shè)，然后根據(jù)這些假設(shè)更新你對這個世界的信念。在UFO這個情景中，你已經(jīng)經(jīng)歷了一個完整的貝葉斯分析過程，因為你：

(1) 觀察到了數(shù)據(jù)；

(2) 做出了一個假設(shè)；

(3) 根據(jù)觀察到的數(shù)據(jù)更新了自己的信念。

這種推理往往發(fā)生得太快，以至于你沒有時間分析自己的思維過程。你在沒有任何質(zhì)疑的情況下建立了一個新的信念：之前你不相信UFO的存在，在事件發(fā)生之后你更新了自己的信念，你認(rèn)為自己看到了UFO。

本章主要關(guān)注信念的產(chǎn)生及其構(gòu)建過程，這樣你就可以更規(guī)范地研究它。此外，后面的章節(jié)還將研究如何量化這個過程。

讓我們從觀察數(shù)據(jù)開始，依次分析這個推理過程的每一個步驟。

（1）觀察數(shù)據(jù)

將信念建立在數(shù)據(jù)上，是貝葉斯推理的一個關(guān)鍵組成部分。在對場景得出任何結(jié)論之前（比如說你聲稱自己看到了UFO），你需要理解所觀察到的數(shù)據(jù)。在這個例子中，數(shù)據(jù)是：

窗外的一道亮光；

一個碟形物體在空中盤旋。

根據(jù)經(jīng)驗，你會把窗外的景象描述為“令人驚訝的場景”，用概率的術(shù)語表示，可以將它寫為：

(窗外出現(xiàn)亮光, 天空中有碟形物體)??很小

其中?表示概率，括號內(nèi)列出的是兩條數(shù)據(jù)。你可以將這個等式理解為“窗外出現(xiàn)亮光且天空中有碟形物體的概率很小”。在概率論中，當(dāng)要表示多個事件的聯(lián)合概率（combined probability）時，用逗號分隔事件。請注意，這兩條數(shù)據(jù)并不包含任何關(guān)于UFO的具體內(nèi)容，它只由你的觀察結(jié)果組成——這一點在后面會很重要。

也可以考查單個事件的概率，并將其寫為：

(下雨)??很可能

這個等式的意思是，“下雨的概率比較大”。

對剛才提到的UFO場景，我們要確定的是兩個事件一起發(fā)生的概率。這與兩個事件單獨發(fā)生的概率完全不同。例如，單獨出現(xiàn)亮光很容易，一輛路過的汽車就會發(fā)出亮光，所以就出現(xiàn)亮光這個事件而言，它發(fā)生的概率要遠遠大于它和碟形物體同時出現(xiàn)的概率（不過碟形物體單獨出現(xiàn)也同樣讓人驚訝）。

如何確定這個概率呢？現(xiàn)在，我們使用的是直覺，也就是自我感覺到的這件事發(fā)生的可能性。第2章將介紹如何得出概率的精確數(shù)值。

（2）先驗信念和條件概率

早晨醒來，煮杯咖啡喝，然后開車去上班。在這個過程中，你不需要做很多分析，這是因為你對這個世界如何運轉(zhuǎn)有著先驗信念（prior belief）。先驗信念是我們根據(jù)一生的經(jīng)驗（也就是觀察到的數(shù)據(jù)）建立起來的信念集合。你相信太陽會升起，因為自你出生以來太陽每天都會升起（當(dāng)然，在陰雨天，你看不見太陽升起）。如果沒有先驗信念，我們每天晚上睡覺時都會害怕明天的太陽可能不會升起。

先驗信念表示，在看到窗外有明亮燈光的同時看到一個碟形物體，這在地球上很少見。但如果你生活在一個遙遠的星球上，那里有大量的飛碟且經(jīng)常有星際訪客，那么在天空中同時看到亮光和碟形物體的概率就會大很多。

在公式中，先驗信念寫在數(shù)據(jù)后面并用“|”與數(shù)據(jù)隔開，就像下面這樣：

(窗外出現(xiàn)亮光，天空中有碟形物體 | 地球上的經(jīng)驗)??很小

這個等式可以理解為：“根據(jù)我們在地球上的經(jīng)驗，在天空中同時看到亮光和碟形物體的概率很小?！?/p>

這個概率結(jié)果被稱為條件概率（conditional probability），因為計算某一個事件發(fā)生的概率時，以另一個事件的存在為條件。在這種情況下，我們會根據(jù)經(jīng)驗來調(diào)整觀察到的事件的概率。

正如用?表示概率一樣，我們通常用另外的變量來表示事件和條件，這樣更簡潔。如果你不太熟悉等式，一開始可能覺得它們顯得過于簡潔。但過一段時間你就會發(fā)現(xiàn)，簡潔的變量名既有助于提高可讀性，也有助于你了解等式如何推廣到更大的問題類別上。我們將把所有的數(shù)據(jù)賦給一個變量?：

?窗外出現(xiàn)亮光，天空中有碟形物體

所以從現(xiàn)在開始，當(dāng)提到這組數(shù)據(jù)集的概率時，我們會直接用?來表示。

同樣，我們會用變量?來表示先驗信念，像下面這樣：

?地球上的經(jīng)驗

現(xiàn)在可以將上文中等式的左邊寫為。這樣寫更為簡單且意思保持不變。

以多重信念為條件

如果有一個以上的變量會顯著影響概率，那么我們可以添加一個以上的先驗信念。假設(shè)今天是特定節(jié)日，根據(jù)經(jīng)驗，你知道在這天放煙花很常見。根據(jù)你在地球上的經(jīng)驗和今天是特殊的日子，在天空中看到亮光的概率不是完全沒有，甚至那個碟形物體也可能與某個煙花表演有關(guān)。因此，你可以將這個等式改寫為：

(窗外出現(xiàn)亮光, 天空中有碟形物體 | 特定節(jié)日, 地球上的經(jīng)驗)??小

對比這兩種情況可以發(fā)現(xiàn)，條件概率從“很小”變成了“小”。

在實踐中假設(shè)存在先驗信念

在統(tǒng)計學(xué)中，通常不會明確地為所有的現(xiàn)有經(jīng)驗附加條件，因為它是可以假設(shè)的。出于這個原因，在本書中，我們不會在這種情況下單獨增加變量。然而在貝葉斯分析中，我們必須記住，我們對這個世界的理解總是以自己在這個世界上的經(jīng)驗為條件的。本章的其余部分會保留“地球上的經(jīng)驗”這個變量以提醒這一點。

（3）形成假設(shè)

到目前為止，我們已經(jīng)有了數(shù)據(jù)（看到了一道亮光和一個碟形物體）和先驗信念?。為了解釋所看到的情況，我們需要形成某種假設(shè)（hypothesis），即形成一個關(guān)于世界如何運作的模型，從而做出預(yù)測。假設(shè)可以有多種形式，我們對這個世界的所有基本信念都可以是假設(shè)。

如果相信地球自轉(zhuǎn)，那么你就可以預(yù)測太陽會在某個時間升起和落下。

如果認(rèn)為你最喜歡的棒球隊是最好的，那么你就可以預(yù)測他們會比其他球隊贏得更多。

假設(shè)也可以更正式、更復(fù)雜。

科學(xué)家可能會假設(shè)某種治療方法能減緩癌癥惡化。

金融領(lǐng)域的定量分析師會構(gòu)建市場行為模型。

深度神經(jīng)網(wǎng)絡(luò)可以預(yù)測哪些圖像展示的是動物，哪些圖像展示的是植物。

所有這些例子都是假設(shè)，因為它們都包含對這個世界的某種理解，并利用這種理解來預(yù)測世界將如何運作。當(dāng)提到貝葉斯統(tǒng)計中的假設(shè)時，通常關(guān)注的是它對我們觀察到的數(shù)據(jù)的預(yù)測能力。

當(dāng)看到數(shù)據(jù)并認(rèn)為自己看到了UFO時，你就在形成一個假設(shè)。UFO的假設(shè)很可能是基于你以前看過的電影和電視節(jié)目。將第一個假設(shè)定義為：

?在我家的后院里有一個UFO！

但這個假設(shè)預(yù)測的又是什么呢？如果將問題倒過來想，我們可能會問：“如果在你家的后院里有一個UFO，那么你預(yù)期會看到什么呢？”你可能會回答：“亮光和碟形物體?！币驗?img src="https://file1.elecfans.com/web2/M00/A8/FD/wKgaomUvSNyAO_NDAAABSohrb2s078.png" alt="a5a17f3e-6cd0-11ee-939d-92fbcf53809c.png" />?預(yù)測了數(shù)據(jù)?，所以當(dāng)我們在給定的假設(shè)下觀察到數(shù)據(jù)時，數(shù)據(jù)的概率就會增加。這樣的結(jié)果可以規(guī)范地表示為：

這個式子的意思是：“如果相信這是UFO并根據(jù)經(jīng)驗，在天空中看到亮光和碟形物體的概率要遠遠大于只看到亮光和碟形物體而無法解釋的概率（這里用兩個大于號?表示遠遠大于）?！边@里用概率的語言證明了我們的假設(shè)可以解釋數(shù)據(jù)。

（4）在日常語言中發(fā)現(xiàn)假設(shè)

很容易看出，日常語言和概率之間有著某種關(guān)系。例如，說某事“令人驚訝”，其實就等于說，根據(jù)我們的經(jīng)驗，它發(fā)生的概率比較??；而說某件事“很合理”，其實是說，基于經(jīng)驗，它發(fā)生的概率比較大。一旦指出，這種關(guān)系似乎就變得很明顯了，但概率推理的關(guān)鍵在于仔細思考如何解釋數(shù)據(jù)、形成假設(shè)并改變你自己的信念，即使面對的是一個普通的日常場景。如果沒有假設(shè)，那么你就會感到疑惑，因為你無法解釋所觀察到的數(shù)據(jù)。

2 收集更多的數(shù)據(jù)以更新信念

現(xiàn)在你有了數(shù)據(jù)和假設(shè)，然而由于之前你一直對UFO事件持懷疑態(tài)度，因此這個假設(shè)看起來還是很離譜。為了進一步提高知識水平以得出更可靠的結(jié)論，你需要收集更多的數(shù)據(jù)。這是統(tǒng)計推理的下一個步驟，也是直覺思維的下一個步驟。

為了收集更多的數(shù)據(jù)，需要進行更多的觀察。具體到UFO這個場景，你需要向窗外看看還能觀察到什么。

當(dāng)去看外面的亮光時，你注意到這個區(qū)域還有更多的燈光，還看到那個巨大的碟形物體用電線吊著，并留意到一個攝像人員。你聽到一聲巨響，有人喊了一聲“停”。

你很有可能會瞬間改變對這個場景中所發(fā)生事情的看法。之前，你的推斷是自己可能看到了一個UFO，現(xiàn)在有了一些新數(shù)據(jù)，你意識到這看起來更像是有人在附近拍電影。

在這一思維過程中，你的大腦又一次瞬間完成了一次復(fù)雜的貝葉斯分析！為了更仔細地分析這一事件，下面來分解這一思維過程。

最初，你的假設(shè)是：

?有UFO著陸！

根據(jù)你的經(jīng)驗，這個假設(shè)單獨發(fā)生的可能性非常小：

?非常小

這是在現(xiàn)有數(shù)據(jù)下，你能想到的唯一可能的解釋。但是，當(dāng)觀察到更多的數(shù)據(jù)后，你立刻意識到還有一個可能的假設(shè)——附近有人正在拍攝電影：

?有人正在窗外拍攝電影

這個假設(shè)單獨發(fā)生的概率從直覺上來說也很?。ǔ悄闩銮勺≡陔娪爸破瑥S附近）：

?很小

請注意，這里將?的概率設(shè)為“非常小”，并將??的概率設(shè)為“很小”。這與我們的直覺相符。假設(shè)在沒有任何數(shù)據(jù)的情況下有人走過來詢問：“你認(rèn)為哪一種可能性更大——是UFO夜間出現(xiàn)在你家附近，還是剛好有電影在你家附近拍攝？”你會回答拍攝電影的可能性要比出現(xiàn)UFO的可能性更大。

當(dāng)改變信念時，我們需要用一種方法將新得到的數(shù)據(jù)考慮進去。

3 對比假設(shè)

最開始，盡管不太相信，但你接受了出現(xiàn)UFO的假設(shè)，因為除此之外你想不出任何其他解釋。然而現(xiàn)在出現(xiàn)了另一種可能的解釋——正在拍攝電影，由此產(chǎn)生了備擇假設(shè)（alternative hypothesis）。思考備擇假設(shè)的過程，就是利用你所掌握的數(shù)據(jù)對多種假設(shè)進行比較的過程。

當(dāng)看到電線、電影攝制組和額外的燈光時，你所掌握的數(shù)據(jù)就發(fā)生了變化。更新后的數(shù)據(jù)是：

更新后??亮光, 碟形物體, 電線, 攝制組, 其他燈光等

在觀察到這些額外的數(shù)據(jù)后，你改變了對所發(fā)生事情的結(jié)論。下面將這個過程分解成貝葉斯推理過程。第一種假設(shè)?給了一種解釋數(shù)據(jù)的方法，讓你不再困惑；然而隨著觀察的進一步深入，?已經(jīng)不能很恰當(dāng)?shù)亟忉寯?shù)據(jù)了。用概率的方法表示就是：

更新后??非常小

現(xiàn)在你有了一種新的假設(shè)，它可以更恰當(dāng)?shù)亟忉寯?shù)據(jù)，用概率的方法表示就是：

更新后?更新后?

這里的關(guān)鍵是，要理解我們是在比較這些假設(shè)對觀測數(shù)據(jù)的解釋程度。當(dāng)說“在第二種假設(shè)中，數(shù)據(jù)的出現(xiàn)概率要遠遠大于第一種假設(shè)”時，我們的意思是，第二種假設(shè)可以更恰當(dāng)?shù)亟忉屗^察到的數(shù)據(jù)。由此，我們就觸及了貝葉斯分析的真正核心：檢驗信念的標(biāo)準(zhǔn)是它們解釋世界的能力。我們說一種信念要比另一種信念更準(zhǔn)確，是因為它能更恰當(dāng)?shù)亟忉屛覀兯^察到的世界。

數(shù)學(xué)上用這兩種概率的比值來表達這個想法：

當(dāng)這個比值是一個很大的數(shù)時，比如1000，它意味著“?對數(shù)據(jù)的解釋要比??恰當(dāng)1000倍”。因為??對數(shù)據(jù)的解釋要比??好很多，所以我們將信念從??改變?yōu)?。這正是當(dāng)你改變對所觀察情況的看法時所發(fā)生的事情?，F(xiàn)在你之所以相信自己看到的是窗外正在拍攝電影，是因為它更能解釋你所觀察到的所有數(shù)據(jù)。

4 數(shù)據(jù)影響信念，信念不應(yīng)該影響數(shù)據(jù)

最后值得強調(diào)的一點是，所有這些示例中唯一不變的是數(shù)據(jù)。你的假設(shè)可以改變，你在這個世界上的經(jīng)驗?也可以與別人不同，但是數(shù)據(jù)??則是所有人共享的。

思考下面這兩個公式。第一個已經(jīng)在本章中多次使用：

它可以理解為“根據(jù)給定的假設(shè)和我的經(jīng)驗所得出的數(shù)據(jù)概率”，或者更直白地說，“我的信念對所觀察到的數(shù)據(jù)解釋得如何”。

但在日常思維中，有一種反過來的情況，那就是：

它可以理解為“根據(jù)數(shù)據(jù)和在這個世界上的經(jīng)驗，我的信念的概率”，或者“我觀察到的情況對我的信念的支持程度”。

在第一種情況下，我們會根據(jù)所收集到的數(shù)據(jù)和對世界的觀察來改變自己的信念，從而更恰當(dāng)?shù)孛枋鲞@個世界。在第二種情況下，我們收集數(shù)據(jù)來支持自己當(dāng)前的信念。貝葉斯思維就是改變你的想法，更新你對世界的理解。我們觀察到的數(shù)據(jù)都是真實的，所以我們的信念終歸需要轉(zhuǎn)變，直到與數(shù)據(jù)一致。

在生活中，你的信念也應(yīng)該是始終可變的。

當(dāng)攝制組收工時，你注意到所有的面包車上都有同一個徽章圖案。你隱約聽到有人說：“嗯，這應(yīng)該騙過了所有看到這一場景的人……真是好主意。”

有了這些新數(shù)據(jù)后，你的信念可能會再次改變！

5 小結(jié)

下面來回顧一下本章所介紹的內(nèi)容。你根據(jù)現(xiàn)有的經(jīng)驗?形成了最初的信念。而觀察到的數(shù)據(jù)?，要么與你的經(jīng)驗一致，即??很大；要么讓你感到驚訝，即??很小。為了理解這個世界，你信賴根據(jù)觀察所形成的信念，或者說假設(shè)?。很多時候，一種新的假設(shè)可以解釋讓你感到驚訝的數(shù)據(jù)，用概率的語言表示就是?。當(dāng)收集到新的數(shù)據(jù)或產(chǎn)生新的想法時，你可以形成更多的假設(shè)，如?、、?等。當(dāng)一種新的假設(shè)要比舊的假設(shè)更能解釋收集到的數(shù)據(jù)時，即當(dāng)出現(xiàn)下面這種情況時，你會改變自己的信念。

?較大數(shù)值

最后，你應(yīng)該更關(guān)注那些改變你的信念的數(shù)據(jù)，而不是確保數(shù)據(jù)支持你的信念，即?的值。

有了這些基礎(chǔ)，就可以往其中添加數(shù)值了。你將用數(shù)學(xué)方法模擬自己的信念，從而精確地決定你應(yīng)該如何以及何時改變自己的信念。

6 練習(xí)

試著回答以下問題，檢驗一下你對貝葉斯推理的理解程度。

(1) 使用本章介紹的數(shù)學(xué)符號，將下列表述改寫為數(shù)學(xué)表達式：

下雨的概率較小；

在陰天，下雨的概率較大；

下雨時，你帶傘的概率要遠遠大于通常情況下帶傘的概率。

(2) 使用本章介紹的方法，將你在下述場景中觀察到的數(shù)據(jù)整理為數(shù)學(xué)表達式，然后提出假設(shè)來解釋這些數(shù)據(jù)。

你下班回到家，看到正門是開著的且側(cè)窗壞了。走進門后，你很快發(fā)現(xiàn)自己的筆記本計算機不見了。

(3) 下述場景在第2題的基礎(chǔ)上增加了一些數(shù)據(jù)。使用本章介紹的數(shù)學(xué)符號演示這些新信息如何改變你的信念，并提出第2個假設(shè)來解釋這些數(shù)據(jù)。

鄰居家的孩子跑過來向你道歉，他不小心將石頭扔到你家的窗戶上，打碎了玻璃。同時他還說，他看見了你的筆記本計算機，因為不想讓它被偷，所以他打開正門將它拿回了家。現(xiàn)在你的筆記本計算機在他家，很安全。

編輯：黃飛