特斯拉最近曝光“行為克隆”技術(shù)，系統(tǒng)研究人類在各種場景中的駕駛動作并加以模仿。巧合的是，自動駕駛第一大廠Waymo不久前也在公布了模仿學(xué)習(xí)中的技術(shù)細(xì)節(jié)。模仿學(xué)習(xí)會成為全自動駕駛的一條捷徑嗎？

全自動駕駛的“捷徑”來了？

知情人士表示，特斯拉汽車收集了大量的來自攝像頭和其他傳感器的數(shù)據(jù)，即使Autopilot系統(tǒng)沒有開啟，開發(fā)團(tuán)隊(duì)也可以研究傳統(tǒng)的人類在各種場景中的駕駛動作并加以模仿。

這種技術(shù)被稱為“行為克隆”，實(shí)際上是一種模仿學(xué)習(xí)（imitation learning）。

系統(tǒng)使用模仿的信息作為車輛在特定情況下決定駕駛方式，比如，行駛彎道或避開前方目標(biāo)等。

無獨(dú)有偶，為了模仿專家駕駛，自動駕駛大廠Waymo不久前也創(chuàng)建了一個名為ChauffeurNet的深度RNN，該網(wǎng)絡(luò)通過觀察場景的中層表示作為輸入，訓(xùn)練它發(fā)出駕駛軌跡，最終的結(jié)果能超越純粹的模仿。

此外值得注意的是，上周AlphaStar戰(zhàn)勝人類選手之，就涉及到模仿學(xué)習(xí)。AlphaStar只通過觀察人類如何玩游戲，就能模仿學(xué)習(xí)策略，最后將信息用于訓(xùn)練各種智能體。

現(xiàn)在，自動駕駛界的兩只領(lǐng)頭羊都在嘗試做模仿學(xué)習(xí)，這會成為全自動駕駛的一條捷徑嗎？

特斯拉行為克?。何磥砣藗儾恍枰獙懘a了

特斯拉的自動駕駛系統(tǒng)Autopilot的核心功能與其他半自動駕駛系統(tǒng)和全自動駕駛系統(tǒng)類似：在Autopilot可以運(yùn)行之前，特斯拉從汽車的傳感器（如前置攝像頭）收集數(shù)據(jù)。

之后公司雇人對圖像中的汽車和其他物體進(jìn)行數(shù)字標(biāo)記，然后將一些圖像輸入神經(jīng)網(wǎng)絡(luò)計(jì)算系統(tǒng)，該系統(tǒng)會對其他車輛及其行進(jìn)方式進(jìn)行模式識別，并且隨著時間的推移提高車速。

通過神經(jīng)網(wǎng)絡(luò)提供足夠的真人駕駛數(shù)據(jù)，網(wǎng)絡(luò)就可以學(xué)習(xí)如何在大多數(shù)情況下直接預(yù)測正確的轉(zhuǎn)向、制動和加速行為。

但特斯拉不同的地方在于，“行為克隆”讓Autopilot開發(fā)團(tuán)隊(duì)也可以研究傳統(tǒng)的人類駕駛在各種場景中的動作，從而加以模仿。

這樣做的結(jié)果是，你不需要任何其他東西來教系統(tǒng)如何自主駕駛，在未來，人們不需要編寫代碼來告訴汽車在遇到特定情況時該怎么做，因?yàn)槠囎詴涝撛趺醋觥?/p>

這個概念被特斯拉的一些工程師稱為“軟件2.0”。

深度理解模仿學(xué)習(xí)：未來或能交叉預(yù)測其他智能體的反應(yīng)

“軟件2.0”可能是一種產(chǎn)品概念，“行為克隆”的背后是技（學(xué)）術(shù)概念——模仿學(xué)習(xí)。

目前，特斯拉對于模仿學(xué)習(xí)的詳細(xì)介紹資料比較少，但是Waymo去年11月發(fā)的一篇論文，可以窺見模仿學(xué)習(xí)的部分技術(shù)原理。

Waymo創(chuàng)建的ChauffeurNet的深度遞歸神經(jīng)網(wǎng)絡(luò)（RNN），通過觀察場景的中級表示作為輸入來訓(xùn)練該網(wǎng)絡(luò)生成駕駛路線的軌跡。中級表示不直接使用來自傳感器的原始數(shù)據(jù)，從而可以將感知任務(wù)分解出來，能夠?qū)⒄鎸?shí)數(shù)據(jù)和模擬數(shù)據(jù)相結(jié)合，更容易地進(jìn)行遷移學(xué)習(xí)。

如下圖所示，輸入表示包括一個自上而下（鳥瞰）環(huán)境視圖，其中包括地圖、周圍物體、交通信號燈狀態(tài)、車輛過往的運(yùn)動等信息。該網(wǎng)絡(luò)還能夠給出谷歌地圖風(fēng)格的路線，引導(dǎo)車輛前往目的地。

為駕駛模型渲染輸入和輸出。上排從左至右：路線圖、紅綠燈，限速和路線。下排從左至右：當(dāng)前智能體框、動態(tài)框、過往智能體姿勢，未來智能體姿勢輸出。

ChauffeurNet在每次迭代期間會沿著未來的駕駛軌跡輸出一個點(diǎn)，同時將預(yù)測點(diǎn)寫入在下一次迭代期間使用的存儲器中。從這個意義上講，這個RNN并不是傳統(tǒng)式的，因?yàn)榇鎯δＰ褪嵌ㄖ苹摹?/p>

接著，ChauffeurNet將由十個未來的點(diǎn)組成的軌跡輸出到一個低級控制器，該控制器將這個軌跡轉(zhuǎn)換為對車輛的控制命令，比如轉(zhuǎn)向和加速，來驅(qū)動汽車。

此外，Waymo還采用了一個單獨(dú)的“感知RNN”頭，能夠迭代式地預(yù)測環(huán)境中其他移動物體的未來軌跡，并且這個網(wǎng)絡(luò)與預(yù)測車輛駕駛的RNN共享特征。

ChauffeurNet內(nèi)部分為兩個部分，F(xiàn)eatureNet和AgentRNN。 AgentRNN使用過去智能體姿勢的渲染圖像、由渲染輸入的卷積網(wǎng)絡(luò)“FeatureNet”計(jì)算出的一組特征、具有最后一個智能體框渲染的圖像，以及具有預(yù)測渲染的顯式存儲器，來預(yù)測下一個智能體姿勢和自上而下視圖中的下一個智能體框。這些預(yù)測用于更新AgentRNN的輸入，以預(yù)測下一個時間步長。

未來的一種可能是，車輛可以在選擇自己的駕駛軌跡的同時，更深入地交叉預(yù)測其他智能體的反應(yīng)過程。

模仿學(xué)習(xí)是“捷徑”還是“普通路徑”？

“行為克隆”也好，“軟件2.0也好”，利用神經(jīng)網(wǎng)絡(luò)編寫代碼來自動駕駛，從而取代人類編寫的代碼，看上去可能是未來全自動駕駛的捷徑之一。

不過，特斯拉“行為克隆”的也有其局限性：這種方法不能教Autopilot系統(tǒng)處理無法輕易預(yù)測的危險情景。比如，老司機(jī)看到飄在前方的塑料袋時不會轉(zhuǎn)向，但自動駕駛系統(tǒng)可能就會。

這也是自動駕駛存在的識別訓(xùn)練數(shù)據(jù)相關(guān)性問題，它不能通過純粹觀察相關(guān)性來構(gòu)建因果模型，并且無法在模擬中主動測試反事實(shí)。

另外，傳統(tǒng)方法實(shí)現(xiàn)完全自動駕駛系統(tǒng)，需要能夠處理現(xiàn)實(shí)世界中發(fā)生的長尾事件。

長尾事件的解決需要深度學(xué)習(xí)訓(xùn)練盡可能多的數(shù)據(jù)，但現(xiàn)實(shí)情況往往是缺少有效訓(xùn)練數(shù)據(jù)。

一位長期從事自動駕駛的業(yè)內(nèi)人士告訴新智元，“行為克隆”是快速收集大量數(shù)據(jù)的捷徑，但網(wǎng)絡(luò)傳輸速度和計(jì)算量都太大了?！爸劣谑遣皇菍?shí)現(xiàn)無人駕駛的捷徑，要看能不能搞出真正能用的系統(tǒng)?！?/p>

馭勢科技CEO吳甘沙告訴新智元，模仿學(xué)習(xí)的主要局限是數(shù)據(jù)的可獲得性和有效性，比如影子模式可能解決了可獲得性，但也包括了不值得提倡的司機(jī)行為。另一方面，它還是端到端的，在可解釋性上才剛剛有些進(jìn)展。同時，因?yàn)槭嵌说蕉?，比較難在中間過程中接受其他的信息或指令。

吳甘沙認(rèn)為，模仿學(xué)習(xí)“肯定是路徑之一，或者是決策的一個來源，但目前來看還不能作為唯一決策方法?！?/p>

One more thing：特斯拉AI芯片專利曝光

據(jù)Hot Hardware報道，特斯拉向美國專利商標(biāo)局提交的專利中提到，傳統(tǒng)處理器可以快速執(zhí)行單個數(shù)學(xué)運(yùn)算，但它有一個限制：這樣的處理器一次只能處理少量數(shù)據(jù)。

雖然GPU可以使用更大的數(shù)據(jù)集執(zhí)行多個任務(wù)，但它們最初并不是為機(jī)器學(xué)習(xí)和AI開發(fā)的。

特斯拉的AI芯片專利內(nèi)容如下：

“用于機(jī)器學(xué)習(xí)和人工智能的處理通常需要對大量數(shù)據(jù)集執(zhí)行數(shù)學(xué)運(yùn)算，并且通常涉及求解多個卷積層和匯集層?！?/p>

為了解決這個問題，特斯拉必須開發(fā)一種新的神經(jīng)AI，可以進(jìn)行“機(jī)器學(xué)習(xí)和人工智能特定的處理操作”。

因此，特斯拉提交了一些專利：

加速的數(shù)學(xué)引擎

具有可變延遲存儲器訪問的計(jì)算陣列微處理器系統(tǒng)

使用非連續(xù)數(shù)據(jù)格式的計(jì)算陣列微處理器系統(tǒng)

矢量計(jì)算單位。

目前，Autopilot 2.0的計(jì)算機(jī)組件由英偉達(dá)GPU提供支持。

同時，即將推出的升級版本將取代特斯拉目前使用的Autopilot 2.0平臺，使用AI芯片的Autopilot 3.0能夠在汽車中實(shí)現(xiàn)全自動駕駛功能。