從神經(jīng)網(wǎng)絡(luò)被學(xué)術(shù)界排擠，到計(jì)算機(jī)科學(xué)界三句話(huà)不離人工智能、各種建模和預(yù)測(cè)任務(wù)被深度學(xué)習(xí)大包大攬，只不過(guò)短短十年時(shí)間。這十年里我們目睹了 dropout、SGD+動(dòng)量、殘差連接、預(yù)訓(xùn)練等等深度學(xué)習(xí)技術(shù)的大爆發(fā)，見(jiàn)證了學(xué)術(shù)研究全面擁抱深度學(xué)習(xí)，也聽(tīng)到了對(duì)深度學(xué)習(xí)不足之處的質(zhì)疑之聲、感受到了很多人對(duì)非深度學(xué)習(xí)方法「復(fù)興」的期盼。

reddit 上近期就出現(xiàn)了一個(gè)帖子，把網(wǎng)友們聚起來(lái)聊聊除了神經(jīng)網(wǎng)絡(luò)之外的機(jī)器學(xué)習(xí)方法的新發(fā)展，以及可以和各種模型配合、不僅限于改善神經(jīng)網(wǎng)絡(luò)的概念和模型。也許這些現(xiàn)在并不熱門(mén)的研究里就埋下了下一次機(jī)器學(xué)習(xí)革命的種子，就像十年前研究神經(jīng)網(wǎng)絡(luò)的學(xué)者們?cè)诶渎渲杏瓉?lái)了革命的黎明一樣。

下面雷鋒網(wǎng) AI 科技評(píng)論整理了一些言之有物的網(wǎng)友回答。

高斯過(guò)程 Gaussian Processes

高斯過(guò)程并不是近期新發(fā)明的技術(shù)，但它近幾年有重大發(fā)展，尤其是在技術(shù)的實(shí)現(xiàn)和拓展性方面。相比于神經(jīng)網(wǎng)絡(luò)，高斯過(guò)程的特點(diǎn)在于：

更直觀，可解釋性更好（有句調(diào)侃是「高斯過(guò)程就是一組平滑器」），有更多的數(shù)學(xué)工具描述它的行為；

很高效，只需要很少的樣本和計(jì)算資源就可以學(xué)習(xí)；

可以方便地融合先驗(yàn)知識(shí)，憑直覺(jué)設(shè)定一組參數(shù)之后，很可能不需要訓(xùn)練就可以得到不錯(cuò)的預(yù)測(cè)結(jié)果；

天然地符合貝葉斯法則。

高斯過(guò)程的研究里也融入了許多有價(jià)值的數(shù)學(xué)發(fā)現(xiàn)，涉及線(xiàn)性代數(shù)、概率、諧波分析等等。GPytorch 是一個(gè)了解高斯過(guò)程領(lǐng)域最優(yōu)秀模型的好去處。

高斯過(guò)程的主要不足在計(jì)算方面，訓(xùn)練和推理過(guò)程中一般都需要計(jì)算行列式和軌跡，或者從很大的矩陣中解算系統(tǒng)，存儲(chǔ)空間的需求按列長(zhǎng)度的平方增長(zhǎng)，而計(jì)算的時(shí)間復(fù)雜度為 O（n^3）。近幾年的進(jìn)展也主要來(lái)自于更高效的算法或者近似計(jì)算方法（比如 KISS-GP、SKI、LOVE 等等）

基因算法&演化策略 Genetic Algorithms & Evolution Strategies

離散演化訓(xùn)練是用基因算法配置網(wǎng)絡(luò)結(jié)構(gòu)，然后讓得到的模型學(xué)習(xí)。它的一個(gè)動(dòng)機(jī)來(lái)自于，在復(fù)雜環(huán)境中為稀疏的回報(bào)歸因是非常困難的，所以不如完全拋棄梯度，轉(zhuǎn)而采用計(jì)算更高效的演化策略，反倒可以在模型設(shè)計(jì)和參數(shù)搜索方面獲得更大的靈活度、取得更好的結(jié)果。其中采用的和大自然中的生物演化類(lèi)似的「隨機(jī)突變+方向性選擇」的做法也規(guī)避了當(dāng)前的強(qiáng)化學(xué)習(xí)中的一些問(wèn)題。

谷歌大腦的研究員 David Ha 在這個(gè)領(lǐng)域做了許多研究，他也撰寫(xiě)了易懂的介紹博客、配上了生動(dòng)有趣的動(dòng)圖，可以點(diǎn)擊 這里 詳細(xì)閱讀。

因果推理 Causal Inference

Judea Pearl 是這條路線(xiàn)的代表人物，Yoshua Bengio 等學(xué)者也加入了探索當(dāng)中，并且在想辦法把它和現(xiàn)代機(jī)器學(xué)習(xí)結(jié)合到一起。提到這個(gè)方向的這位網(wǎng)友表示，他的一位做數(shù)據(jù)科學(xué)的好朋友的工作內(nèi)容里就已經(jīng)越來(lái)越多地涉及到因果推理，而且他認(rèn)為因果推理帶來(lái)的革命在日后看來(lái)可能會(huì)比深度學(xué)習(xí)革命的影響更為深遠(yuǎn)。接著他做了詳細(xì)的解釋?zhuān)?/p>

首先要知道的是貝葉斯網(wǎng)絡(luò)。1980 年代的時(shí)候，Judea Pearl 正在探索各種能對(duì)人工智能領(lǐng)域的發(fā)展起到幫助的路線(xiàn)，貝葉斯網(wǎng)絡(luò)的發(fā)明就有一部分功勞是他的。但是貝葉斯網(wǎng)絡(luò)也有一些限制，它能在低維空間高效地捕捉聯(lián)合概率分布，但是說(shuō)到底它也只能回答一些可觀測(cè)的問(wèn)題。比如，給定了一些消費(fèi)者的屬性，基于其它消費(fèi)者的行為，預(yù)測(cè)這些消費(fèi)者在未來(lái)六個(gè)月內(nèi)不再繼續(xù)使用某個(gè)服務(wù)的概率。

但值得研究的問(wèn)題還有很多。理想情況下，如果你要采取一些行動(dòng)干預(yù)某個(gè)系統(tǒng)，你會(huì)希望能夠了解系統(tǒng)會(huì)發(fā)生哪些變化（由于行動(dòng)干預(yù)）。沿著剛才消費(fèi)者的例子說(shuō)，如果把他們加入一個(gè)為了提高顧客忠實(shí)度和互動(dòng)程度而設(shè)計(jì)的自動(dòng)發(fā)送促銷(xiāo)郵件的清單里，他們不再繼續(xù)使用服務(wù)的概率會(huì)如何變化？這時(shí)候你需要思考的就是，給定了已知的消費(fèi)者信息，也指定了要不要用某種方式干預(yù)之后，得到的結(jié)果會(huì)如何變化。這是因果關(guān)系運(yùn)動(dòng)的一個(gè)方面，目前看來(lái) Rubin 和 Imbens 是這一方面的權(quán)威人物。詳細(xì)了解可以參考這篇文獻(xiàn)綜述 http://proceedings.mlr.press/v67/gutierrez17a.html 。

另一方面，你相當(dāng)于在估計(jì)這個(gè)量 E［Y|X， do（T）］，這里的 Y 是得到的結(jié)果、X 是觀察到的條件、T 是你要采取的措施。有沒(méi)有更通用的理解因果關(guān)系的方式呢？我很欣賞 Pearl 的分解方式，他展示了超越貝葉斯網(wǎng)絡(luò)之外的處理方式，而且可以把過(guò)程表示為一個(gè)因果圖模型。他的思路是，圖模型里的箭頭方向可以編碼因果關(guān)系的方向，而干擾某個(gè)系統(tǒng)就可以看作是破壞圖里的幾個(gè)邊。 繼續(xù)消費(fèi)者的例子，也許你手里有一些曾經(jīng)收到促銷(xiāo)郵件的消費(fèi)者的數(shù)據(jù)，但他們的情況不一樣，你想知道其它情況的消費(fèi)者看到促銷(xiāo)郵件以后的反應(yīng)如何；而且，你手里現(xiàn)有的數(shù)據(jù)肯定不是雙盲的（因?yàn)槭前l(fā)現(xiàn)消費(fèi)者有不再使用的意向之后才給他們發(fā)送促銷(xiāo)郵件）。所以，本來(lái)會(huì)根據(jù)客戶(hù)表現(xiàn)出的某些信號(hào)來(lái)決定是否給他們發(fā)送促銷(xiāo)郵件，但真的發(fā)了以后又會(huì)干擾這些信號(hào)；而且，對(duì)于不同來(lái)源的用戶(hù)，引發(fā)“要發(fā)送郵件”決定的具體信號(hào)又會(huì)各自不同…… 所以要怎么辦呢？在圖上做這些分析計(jì)算就可以幫助回答這些問(wèn)題，或者，最起碼也可以知道哪些問(wèn)題是可以回答的、哪些是回答不了的，以及想要回答現(xiàn)在回答不了的問(wèn)題的話(huà)還需要哪些信息。

Judea Pearl 在 2017 年寫(xiě)的《Book of Why》是一本非常棒的入門(mén)書(shū)籍，這個(gè)領(lǐng)域的每個(gè)研究者都應(yīng)該讀一讀這本書(shū)，它很容易讀懂，只不過(guò)對(duì)于喜歡聽(tīng)音頻書(shū)的人來(lái)說(shuō)，里面談圖元素的部分還是最好用看的。如果你想做更深入的研究，Pearl 2009 年的學(xué)術(shù)專(zhuān)著《Causality》數(shù)學(xué)性更強(qiáng)，也更嚴(yán)謹(jǐn)，不過(guò)書(shū)里的習(xí)題和例子都很少，所以想要理解里面的所有內(nèi)容還很需要花一些功夫。

《A Meta-Transfer Objective for Learning to Disentangle Causal Mechanisms》（https://arxiv.org/abs/1901.10912）論文講解了因果推理和深度學(xué)習(xí)之間的聯(lián)系，最起碼也要讀讀開(kāi)頭的幾小節(jié)。更大更全的綜述可以讀讀 Pearl 的《Theoretical Impediments to Machine Learning With Seven Sparks from the Causal Revolution》（https://arxiv.org/abs/1801.04016），不過(guò)它實(shí)際涵蓋的內(nèi)容和《Book of Why》有很多重合，先讀讀這篇論文再?zèng)Q定要不要買(mǎi)書(shū)來(lái)讀也挺好的。

反向強(qiáng)化學(xué)習(xí) Inverse Reinforcement Learning

反向強(qiáng)化學(xué)習(xí)采用了和傳統(tǒng)強(qiáng)化學(xué)習(xí)相同的基礎(chǔ)設(shè)定，然后做相反的事。在強(qiáng)化學(xué)習(xí)里，給定一個(gè)回報(bào)函數(shù)，讓模型找到會(huì)得到最大回報(bào)的策略；在反向強(qiáng)化學(xué)習(xí)里，給定一個(gè)策略，然后模型找到可以被這個(gè)策略最大化的回報(bào)函數(shù)。

它的關(guān)鍵在于從對(duì)行為的觀察中學(xué)習(xí)，即便你可能無(wú)法訪問(wèn)回報(bào)函數(shù)，或者無(wú)法模仿特定的執(zhí)行器的行為。反向強(qiáng)化學(xué)習(xí)已經(jīng)成功訓(xùn)練出了和人的行為很類(lèi)似的玩第一人稱(chēng)射擊游戲的 AI。

反向強(qiáng)化學(xué)習(xí)中有一個(gè)重大的開(kāi)放問(wèn)題是如何從并非最優(yōu)的演示中學(xué)習(xí)。目前的系統(tǒng)能很好地模仿人類(lèi)，以至于它們體現(xiàn)出的失效模式也和人類(lèi)相似。想要從人類(lèi)身上學(xué)習(xí)，但是得到比人類(lèi)更高的表現(xiàn)，理論上看起來(lái)是可行的，但做起來(lái)非常困難。近期的文獻(xiàn)綜述可以參考 https://arxiv.org/abs/1806.06877。

自動(dòng)機(jī)器學(xué)習(xí) AutoML

這個(gè)自領(lǐng)域很重要，也很酷?？梢园阉醋鲆粋€(gè)決策樹(shù)，在給定數(shù)據(jù)集以后幫你決定什么樣的數(shù)據(jù)處理流水線(xiàn)是最好的。它很有用，也會(huì)在整個(gè)機(jī)器學(xué)習(xí)領(lǐng)域中占據(jù)更多位置。谷歌目前就已經(jīng)面向商業(yè)用戶(hù)提供 AutoML 服務(wù)，不過(guò)顯然這是面向自己沒(méi)有編程能力的客戶(hù)的。

目前最熱門(mén)的自動(dòng)機(jī)器學(xué)習(xí)算法是 Auto-sklearn（https://automl.github.io/auto-sklearn/master/ ），還有基于它進(jìn)一步改進(jìn)的 Mosaic。AutoML 也有一些比賽，排名前幾的算法都有很高的參考價(jià)值。

除了上面這些之外，網(wǎng)友們還提到了最優(yōu)傳輸理論 Optimal Transport Theory、符號(hào)回歸 Symbolic Regression、脈沖神經(jīng)網(wǎng)絡(luò) Spiking neural networks、隨機(jī)優(yōu)化 Stochastic optimization，還有一些從生物學(xué)中得到啟發(fā)的方法等等。如果你也知道一些有趣的、近幾年有重大進(jìn)展的機(jī)器學(xué)習(xí)方法，歡迎留言和我們討論。