自動(dòng)駕駛的不斷發(fā)展，也加大了我們對(duì)未來的擔(dān)憂和倫理探討。畢竟在高速行駛的汽車上，一旦面對(duì)最糟糕的結(jié)果選擇，人類并不信任機(jī)器能做出合適的判斷。

7月初，李彥宏在百度AI開發(fā)者大會(huì)上實(shí)現(xiàn)了“吹過的牛B”，L4級(jí)自動(dòng)駕駛商用車阿波龍的商業(yè)化量產(chǎn)，成為自動(dòng)駕駛領(lǐng)域最新的重磅新聞。

同時(shí)發(fā)布的還有AI芯片“昆侖”，李彥宏也對(duì)“昆侖”不惜溢美之詞，聲稱其能在100W的功耗上實(shí)現(xiàn)260Tops性能?？梢灶A(yù)見，無論被視為一套系統(tǒng)的自動(dòng)駕駛技術(shù)，還是其中作為“駕駛員”這個(gè)關(guān)鍵決策角色的AI技術(shù)，將以超出公眾想象的速度快速迭代進(jìn)化。

但也引起更多對(duì)未來的擔(dān)憂和倫理探討。畢竟在高速行駛的汽車上，一旦面對(duì)最糟糕的結(jié)果選擇，人類并不信任機(jī)器能做出合適的判斷。

推理至上與快速迭代

眾所周知，L4級(jí)被視為自動(dòng)駕駛的一個(gè)關(guān)鍵節(jié)點(diǎn)，AI全面接管駕駛工作，人類對(duì)駕駛行為的干預(yù)不再是必須而實(shí)時(shí)的。

昆侖芯片在自動(dòng)駕駛場(chǎng)景中，最重要的工作就是根據(jù)傳感器數(shù)據(jù)，滿足訓(xùn)練和推斷的需求，根據(jù)路況不斷預(yù)測(cè)未來0.1-10秒的路面局勢(shì)變化，這是高等級(jí)自動(dòng)駕駛獨(dú)特的能力。

換言之，只有經(jīng)過訓(xùn)練的強(qiáng)AI才能獨(dú)立處理未知局勢(shì)。

例如谷歌的AlphaGo，在CPU之外采用了用于評(píng)估局面的4TPU。實(shí)際上是卷積神經(jīng)網(wǎng)絡(luò)的應(yīng)用。它的分支有兩個(gè)：價(jià)值和策略。不必每一步都窮舉到最后，它就能推斷每一步的價(jià)值和對(duì)最終獲勝的影響。

按照谷歌首席工程師的說法，在任何一步，AlphaGo都會(huì)準(zhǔn)確預(yù)測(cè)如何能贏。

這不是在跳大神，而是自我監(jiān)督下的AI展現(xiàn)出強(qiáng)大的推理和預(yù)測(cè)能力。如果采用云端算法，很可能實(shí)現(xiàn)強(qiáng)AI。

現(xiàn)在的AlphaGo，已經(jīng)沒有任何一個(gè)活著的人類可以匹敵了。它擁有40層神經(jīng)網(wǎng)絡(luò)和“足夠視野的前瞻性”，能夠看到未來的危險(xiǎn)和價(jià)值，并采取最優(yōu)策略。

盡管因?yàn)閼?yīng)用場(chǎng)景只局限于園區(qū)等固定區(qū)域，阿波龍的L4級(jí)自動(dòng)駕駛?cè)杂袪?zhēng)議，但在開放道路上的L4級(jí)自動(dòng)駕駛，強(qiáng)化AI是其中最可能的途徑。它可以避免優(yōu)步在今年早些時(shí)候、在鳳凰城路測(cè)發(fā)生的悲劇。

此前，在量產(chǎn)車上搭載的行車電腦ECU可以做之前人類才能做的事。在它的指揮下，自動(dòng)變速箱輕松換擋。在高速行駛中遇到變道行駛或側(cè)風(fēng)、路面傾斜等外部干擾時(shí)，駕駛?cè)丝梢宰匀绮倏v方向。低速轉(zhuǎn)彎時(shí)前后輪轉(zhuǎn)動(dòng)方向相反，可以輕松通過以前需要多次轉(zhuǎn)彎才能通過的小彎。

如何滿足不知滿足的人類呢？AI需要超越現(xiàn)有人類認(rèn)知水平和能力，如同圍棋比賽中那樣，被驚倒的人們自然將王冠奉上，并日益依賴更聰明的AI。

通用AI的再進(jìn)化

如果計(jì)算機(jī)有情感，它會(huì)發(fā)現(xiàn)人類的推理能力實(shí)在是弱爆了。邏輯的層級(jí)和旁路拓展多到一定地步，人類就無法記住眾多的信息和它們彼此的關(guān)聯(lián)，更別提放在一起分析了。

但人類也有AI無法企及的地方，人類的直覺值得肅然起敬，并善于將復(fù)雜問題簡(jiǎn)化，然后用直觀判斷的方式直趨答案。隱藏的信息是否足以支持做出精準(zhǔn)的判斷？雖然不總是正確，但這樣耗費(fèi)的時(shí)間和精力都是可接受的。我們放棄了一些表象，捕捉隱含信息（學(xué)術(shù)上稱為“次表征”），從而追求更快地解決問題。

人們期待計(jì)算機(jī)的“思考”方式能夠模擬大腦結(jié)構(gòu)。但是，無論谷歌的TPU，還是百度的昆侖，都只能針對(duì)限定輸入給出結(jié)論。

如果圍棋的棋盤變成20×19，人類棋手穩(wěn)贏，而AlphaGo則可能不知所措。如果道路標(biāo)線模糊不清，AI可能選擇讓汽車停下來，而人類駕駛員則可以大致“循跡”行駛，基本不受影響。

那么如何讓計(jì)算機(jī)看起來不那么蠢呢？

這樣的AI必然立足于“機(jī)器學(xué)習(xí)”。本地算法無法涵蓋所有路況，設(shè)計(jì)者必須賦予無人駕駛系統(tǒng)一定的自主權(quán)，避免在特殊路況下該系統(tǒng)不知所措。和人類一樣，計(jì)算機(jī)仍然要先搜集大量數(shù)據(jù)樣本，也就是各種路況下的駕駛行為，就像人類也需要反復(fù)練習(xí)駕駛技能，鍛煉預(yù)見性和形成固定的肌肉記憶。

機(jī)器學(xué)習(xí)，實(shí)際上是將人類學(xué)習(xí)過程“外化”。選擇合適的模型，讓模型學(xué)習(xí)樣本，從而找出數(shù)據(jù)的內(nèi)在規(guī)律，從而形成對(duì)未知路況的“經(jīng)驗(yàn)”。

面對(duì)復(fù)雜外界條件，AI仍然需要基本的預(yù)設(shè)應(yīng)對(duì)策略。在人類無法厘清復(fù)雜的因果關(guān)系時(shí)，不需要也無法為AI設(shè)立先決條件和成熟策略。事實(shí)證明，機(jī)器學(xué)習(xí)，更善于從海量數(shù)據(jù)中抽象出若干有價(jià)值的因素，同時(shí)確定因素之間的相關(guān)性。從而確立應(yīng)對(duì)策略。

比如，在城市快速路上行駛的駕駛員，主觀上對(duì)突然出現(xiàn)的行人缺乏預(yù)期，因?yàn)榉缮辖剐腥舜┬?。AI也同樣很難從樣本中學(xué)到，如何在封閉道路上應(yīng)對(duì)突然出現(xiàn)的障礙。

這也就是“逾規(guī)則”狀態(tài)下的應(yīng)對(duì)能力。理論上，自動(dòng)駕駛系統(tǒng)的傳感器（比如激光雷達(dá)）可以比人類駕駛員更早地發(fā)現(xiàn)違規(guī)行人，即環(huán)境感知。

假設(shè)行人采取不明智的做法，如加速奔跑、快速從車前穿行等。人類駕駛員如果發(fā)現(xiàn)剎車距離不夠，將面臨兩難，如果直接將剎車踩到底，有很大概率發(fā)生碰撞；如果一邊變線一邊剎車，很可能與同向車輛發(fā)生碰撞，引發(fā)更嚴(yán)重的事故。而觀察相鄰車道的情況則導(dǎo)致更多的時(shí)間延遲，這種情況下，人類很難做出最佳選擇。

AI系統(tǒng)則會(huì)對(duì)行人行為模式建立模型，根據(jù)其肢體動(dòng)作，預(yù)估其下一步的位置，同時(shí)收集相鄰車道和交通標(biāo)志線信息。在20ms內(nèi)計(jì)算出，多少轉(zhuǎn)向力度和剎車力，才能保證自身安全和避免碰撞，即決策協(xié)同。

最后的動(dòng)作，則驅(qū)動(dòng)車輛完全實(shí)現(xiàn)此前的計(jì)算，即控制執(zhí)行。

其中的核心在于預(yù)估對(duì)方的行為。只有“強(qiáng)AI”才有可能做到這一點(diǎn)。賦權(quán)不夠或者學(xué)習(xí)能力不足的本地計(jì)算機(jī)，將無法勝任。這也是未來的無人駕駛系統(tǒng)必然是“強(qiáng)AI”的原因，雖然這個(gè)概念備受爭(zhēng)議。

未知導(dǎo)致恐懼

但由此帶來的問題是，在汽車自動(dòng)駕駛這個(gè)關(guān)于人類生命安全的應(yīng)用場(chǎng)景中，如果交通網(wǎng)絡(luò)完全由無人駕駛車輛組成，AI本身將形成另一套交通規(guī)則，無須而且排斥人類的參與。

這樣的強(qiáng)AI應(yīng)用場(chǎng)景一旦實(shí)現(xiàn)，人類將陷入更深的擔(dān)憂。因?yàn)槠鋸?qiáng)大的學(xué)習(xí)能力，自我進(jìn)化速度極快，很可能產(chǎn)生自我意識(shí)，不愿意被人類束縛。而人類對(duì)其思維和執(zhí)行缺乏預(yù)見，一旦失控，相比于人類駕駛的場(chǎng)景，后果更加是災(zāi)難性的。

無知導(dǎo)致恐懼，即便可以執(zhí)行完全無害的任務(wù)，也會(huì)因?yàn)椴豢深A(yù)知性而讓人類害怕。因?yàn)閺?qiáng)AI的決策過程，基本上是個(gè)“黑盒子”。

馬斯克和今年去世的霍金都曾發(fā)出嚴(yán)厲警告，強(qiáng)AI實(shí)現(xiàn)之日，被稱為“奇點(diǎn)”，可能會(huì)導(dǎo)致凱文·凱利所稱的“失控”。這也是被視為科學(xué)前瞻的科幻小說中，幾乎永遠(yuǎn)對(duì)人工智能表達(dá)出憂患意識(shí)甚至末日情緒的根本來源。

但在現(xiàn)實(shí)中，面對(duì)AI可能的自我意識(shí)覺醒，拉里·佩奇表示并不擔(dān)心，他認(rèn)為AI的善惡取決于創(chuàng)造者，眼下的科技公司們?nèi)匀黄毡橹铝τ谠鰪?qiáng)型AI的研究。

毫無疑問，自動(dòng)駕駛的終極解決方案是強(qiáng)AI，但有遠(yuǎn)見的學(xué)者都對(duì)此表示強(qiáng)烈的擔(dān)憂。這是否意味著我們應(yīng)該在此之前“踩剎車”或者另辟蹊徑？一條風(fēng)景極佳的道路盡頭是否深淵？

最糟糕的預(yù)期，很可能來自我們恐懼的源頭——人類從未面對(duì)過比自己更聰明的實(shí)體。

從上帝視角來看，我們是否正不遺余力地奔向懸崖？強(qiáng)AI能解決自動(dòng)駕駛場(chǎng)景的誘惑，讓我們無暇顧忌可怕的后果。實(shí)在不行，拔掉電源插頭總可以吧？