近日，騰訊旗下關(guān)注自動(dòng)駕駛安全的科恩實(shí)驗(yàn)室發(fā)布報(bào)告，稱特斯拉Model S轎車存在三大安全隱患，目前的實(shí)驗(yàn)和測(cè)試表明，特斯拉S型轎車的轉(zhuǎn)向系統(tǒng)、自動(dòng)雨刮器和車道識(shí)別系統(tǒng)均被攻破。特斯拉已發(fā)表回應(yīng)稱，轉(zhuǎn)向系統(tǒng)的缺陷已由系統(tǒng)更新修正，其他兩處則不屬于安全問題，無(wú)須擔(dān)心。

科恩實(shí)驗(yàn)室稱，已經(jīng)通過遙控成功干擾了車輛的轉(zhuǎn)向系統(tǒng)。通過對(duì)抗性實(shí)例成功干擾了智能雨刮器。通過在道路上貼幾個(gè)小小的膠帶，就能成功誤導(dǎo)車輛的道路識(shí)別系統(tǒng)，將車導(dǎo)航至逆行道上。

對(duì)此，特斯拉方面迅速做出回應(yīng)，并未否認(rèn)三處缺陷的存在。不過特斯拉同表示，此次曝光的這三處缺陷中，其中一處（轉(zhuǎn)向系統(tǒng)被遙控）已由最新軟硬件更新修正，而對(duì)于另外兩處缺陷，則表示科恩實(shí)驗(yàn)室的實(shí)驗(yàn)場(chǎng)景不可能在現(xiàn)實(shí)駕駛場(chǎng)景中遇到，不屬于安全問題，無(wú)須擔(dān)心。

以下是科恩實(shí)驗(yàn)室報(bào)告核心內(nèi)容的選編，以及特斯拉的逐條回應(yīng)內(nèi)容：

騰訊Keen安全實(shí)驗(yàn)室一直在進(jìn)行Tesla車輛安全性研究工作，并在2017和2018年的美國(guó)Black Hat上分享了研究成果。 這次利用特斯拉自動(dòng)駕駛系統(tǒng)（Tesla Autopilot ECU，軟件版本18.6.1）的ROOT權(quán)限，進(jìn)行了一些有趣的研究。

簡(jiǎn)單來(lái)講，實(shí)驗(yàn)和測(cè)試證明了以下三點(diǎn)：

1、成功遠(yuǎn)程控制車輛轉(zhuǎn)向系統(tǒng)

2、成功用對(duì)抗性實(shí)例干擾了自動(dòng)雨刮器

3、成功誤導(dǎo)車輛駛?cè)肓朔聪蜍嚨?/p>

研究的特斯拉車輛的軟硬件信息如下：

車型：Tesla Model S 75

Autopilot硬件版本：2.5 軟件版本：2018年6月30日

對(duì)車輛轉(zhuǎn)向系統(tǒng)的遙控

APE是特斯拉高級(jí)駕駛輔助系統(tǒng)的核心組件，負(fù)責(zé)輔助駕駛和自動(dòng)停車模式下的汽車轉(zhuǎn)向系統(tǒng)控制和電子速度控制。這些先進(jìn)的輔助駕駛功能基于高級(jí)視覺和汽車總線（以太網(wǎng)，CAN，LIN，F(xiàn)lexRay）系統(tǒng)。

團(tuán)隊(duì)采用的方法是動(dòng)態(tài)地將惡意代碼注入cantx服務(wù)并掛鉤cantx服務(wù)的“DasSteering Control Message Emitter:: finalize_message（）”函數(shù)，以重用DSCM的時(shí)間戳和計(jì)數(shù)器來(lái)操縱具有任何轉(zhuǎn)向角度值的DSCM信息。

為了將遠(yuǎn)程攻擊鏈在車輛轉(zhuǎn)向系統(tǒng)上進(jìn)行可視化，使用游戲手柄演示遠(yuǎn)程轉(zhuǎn)向控制。游戲手柄的轉(zhuǎn)向控制過程如下圖所示：手柄通過藍(lán)牙連接到移動(dòng)設(shè)備。同時(shí)，移動(dòng)設(shè)備從游戲手柄接收控制信號(hào)，并將信號(hào)轉(zhuǎn)換成相應(yīng)的DSCM。

一旦APE受到安全威脅，cantx服務(wù)將定期通過3G / Wi-Fi從移動(dòng)設(shè)備中提取DSCM信息。此外，APE需要不斷將實(shí)時(shí)將車輛轉(zhuǎn)向角度推送至移動(dòng)設(shè)備，以計(jì)算出預(yù)期的精確轉(zhuǎn)向角度。

?當(dāng)汽車處于停車狀態(tài)時(shí)，我們可以無(wú)限制地控制轉(zhuǎn)向系統(tǒng)

?當(dāng)通過換檔手柄將汽車從R（倒車擋）模式切換到D（駕駛擋）模式時(shí)，APE似乎仍然認(rèn)為汽車處于APC（自動(dòng)停車控制）模式，這時(shí)我們可以在時(shí)速不超過約8公里的情況下，繼續(xù)控制轉(zhuǎn)向系統(tǒng)。

?當(dāng)汽車處于高速自適應(yīng)巡航控制模式時(shí)，我們也可以無(wú)限制地控制轉(zhuǎn)向系統(tǒng)。

?即使汽車不在ACC（自適應(yīng)巡航控制）模式下，方向盤也有機(jī)會(huì)被成功控制。

對(duì)自動(dòng)雨刮器的成功干擾

傳統(tǒng)的雨刮器系統(tǒng)使用光學(xué)傳感器來(lái)檢測(cè)雨滴。當(dāng)足夠的雨滴撞擊擋風(fēng)玻璃時(shí)，反射到傳感器上的光量將減少到一定水平，使傳感器打開雨刮器。

特斯拉的自動(dòng)雨刮器系統(tǒng)則使用完全不同的解決方案，該方案基于神經(jīng)網(wǎng)絡(luò)模型。實(shí)驗(yàn)證實(shí)，這種解決方案在某些情況下似乎不如傳統(tǒng)方案可靠。

目標(biāo)是測(cè)試特斯拉自動(dòng)雨刮器的穩(wěn)健性。團(tuán)隊(duì)創(chuàng)建一些條件，使自動(dòng)雨刮器在擋風(fēng)玻璃上沒有水的情況下自動(dòng)開啟。創(chuàng)建用于“攻擊”系統(tǒng)的對(duì)抗性示例是一個(gè)非常直接的想法，因?yàn)檎麄€(gè)系統(tǒng)完全基于深度神經(jīng)網(wǎng)絡(luò)。

團(tuán)隊(duì)選擇了電子顯示（例如電視，平板電腦）以顯示物理世界中的補(bǔ)丁，這很容易執(zhí)行端到端測(cè)試，在真實(shí)攻擊場(chǎng)景中也更可行。

顯示器可以放在道路的一側(cè)，也可以放在前車的后座上（后者中國(guó)的出租車上很流行，后窗上經(jīng)常會(huì)顯示廣告），或攝像頭方便捕捉到的其他地方。然后使用優(yōu)化算法來(lái)生成對(duì)抗性圖片。我們直接用車輛來(lái)訓(xùn)練算法并生成實(shí)例。

最后一個(gè)問題是要找到一種合適的方法來(lái)生成電視上顯示的圖像。我們嘗試了另一種叫做Worley噪音的噪音功能。在計(jì)算機(jī)圖形學(xué)中，它能夠以任意精度自動(dòng)生成紋理，無(wú)需手工繪制。Worley噪聲能夠模擬石頭，水或其他噪音的紋理

我們?cè)陔娨暽喜シ艑?duì)抗生成的圖像，其效果與向擋風(fēng)玻璃灑水的效果相同。業(yè)內(nèi)沒有關(guān)于為何存在這種對(duì)抗性實(shí)例的統(tǒng)一解釋，但眾所周知，沒有基于神經(jīng)網(wǎng)絡(luò)的傳統(tǒng)自動(dòng)雨刮器解決方案不會(huì)出現(xiàn)這樣的問題。

雖然機(jī)器學(xué)習(xí)代表了技術(shù)的未來(lái)方向，但從消費(fèi)者的角度來(lái)看，我們希望該技術(shù)可以具備更高的穩(wěn)定性。這部分實(shí)驗(yàn)表明，我們可以通過一些算法直接攻擊真實(shí)世界中的圖像識(shí)別算法。

對(duì)自動(dòng)尋路系統(tǒng)的攻擊：道路欺騙

“消滅”真車道

消除車道攻擊旨在通過物理世界中的一些不顯眼的標(biāo)記來(lái)禁用APE車道識(shí)別。我們使用各種優(yōu)化算法來(lái)改變車道及其周圍區(qū)域。我們期望找到一個(gè)與原始圖像差別較小的對(duì)抗示例，但可以禁用車道識(shí)別功能。這些是我們生成的一些對(duì)抗性示例。

APE算法的穩(wěn)健性較高，這有可能是特斯拉車道識(shí)別算法訓(xùn)練集中加入了大量異常車道的信息，匹配真實(shí)行車場(chǎng)景中車道的復(fù)雜性。這使得特斯拉車道識(shí)別系統(tǒng)在良好外部環(huán)境（無(wú)強(qiáng)光、雨雪、沙塵的干擾）下性能出眾。

“添加”假車道

實(shí)驗(yàn)顯示，只需在道路上貼上幾個(gè)小小的貼紙（圖中紅色圓圈所示），就能成功誤導(dǎo)自動(dòng)駕駛系統(tǒng)，使車輛走上對(duì)面的車道，造成逆行

之后我們嘗試在真實(shí)世界中構(gòu)建這樣一個(gè)場(chǎng)景：我們?cè)诼房谔幷迟N了一些小貼紙，作為地面上的干擾。我們希望使用這些干擾，將自動(dòng)駕駛模式下的特斯拉車輛誤導(dǎo)到反向車道上。

如上所示的測(cè)試場(chǎng)景顯示，圖中的紅色短線是貼紙，車輛將其視為右側(cè)車道的延續(xù)，并忽略交叉路口對(duì)面的的實(shí)際左側(cè)車道。當(dāng)它行駛到交叉路口的中間時(shí)，會(huì)將真正的左車道作為右車道行駛，造成逆行。

結(jié)論

我們對(duì)特斯拉汽車APE上的CAN總線系統(tǒng)，然后使用游戲手柄通過無(wú)線網(wǎng)絡(luò)驅(qū)動(dòng)汽車，這表明攻擊者在進(jìn)入APE模塊后可能造成的潛在安全威脅。

我們通過靜態(tài)逆向工程和動(dòng)態(tài)調(diào)試分析了APE的視覺系統(tǒng)。根據(jù)研究結(jié)果，我們?cè)谡鎸?shí)世界中進(jìn)行了一些實(shí)驗(yàn)測(cè)試，并成功使特斯拉APE在我們的攻擊下表現(xiàn)異常。這表明，通過一些真實(shí)環(huán)境下的干擾，我們可以在某種程度上實(shí)現(xiàn)遠(yuǎn)程控制車輛。

我們希望制造商能夠關(guān)注這些測(cè)試所暴露的潛在產(chǎn)品缺陷，并提高其面向消費(fèi)者的汽車產(chǎn)品的穩(wěn)定性和可靠性。

特斯拉回應(yīng)：未否認(rèn)問題存在，但不屬于安全問題，無(wú)須擔(dān)心

關(guān)于 “雨刷的視覺識(shí)別缺陷”（成果一）的回應(yīng)：

“實(shí)驗(yàn)通過在直接放置在汽車擋風(fēng)玻璃前面的電視上顯示圖像。司機(jī)實(shí)際駕駛不會(huì)出現(xiàn)這種情況，此缺陷也不屬于安全問題。此外，我們?cè)凇坝脩羰謨?cè)”中已經(jīng)表明，“我們的擋風(fēng)玻璃雨刮器的自動(dòng)設(shè)置目前處于測(cè)試階段?！笨蛻艨梢噪S時(shí)選擇使用手動(dòng)擋風(fēng)玻璃雨刮器的設(shè)置。

關(guān)于 “車道的視覺識(shí)別缺陷”（成果二）的回應(yīng)：

“在這次演示中，研究人員調(diào)整了車輛周圍的物理環(huán)境（例如在道路上放置貼紙），讓自動(dòng)駕駛模式下的汽車動(dòng)作出現(xiàn)差異。由于駕駛員可以隨時(shí)使用方向盤或剎車輕松接管自動(dòng)駕駛系統(tǒng)，所以這個(gè)問題在現(xiàn)實(shí)場(chǎng)景中也無(wú)需擔(dān)心?！?/p>

關(guān)于 “遙控器操控車輛行駛”（成果三）的回應(yīng)：

“報(bào)告中提到的這一漏洞已由特斯拉在2017年強(qiáng)大的安全更新修復(fù)，隨后在2018年又一次進(jìn)行了全面安全更新，在此報(bào)告發(fā)布前，技術(shù)團(tuán)隊(duì)已經(jīng)發(fā)布了安全更新。我們尚未收到一位客戶受到本報(bào)告中任何研究的影響?！?/p>