特斯拉 CEO 馬斯克對全自動駕駛的短期實現(xiàn)，有著近乎瘋狂的執(zhí)念。最近，他又在第四季度財報的電話會議上表示，特斯拉汽車在今年年底前能實現(xiàn)全自動駕駛，無需人類干預(yù)。

馬斯克還表示，特斯拉在高速公路上已經(jīng)可以實現(xiàn)全自動駕駛。然而，早在 2015 年，馬斯克曾吹牛特斯拉有望在未來兩年擁有完全自動駕駛技術(shù)。

數(shù)據(jù)科學和機器學習的進展讓不少創(chuàng)業(yè)公司「相信」（背后動機各異）所謂的通用人工智能距離我們并不遙遠，成功案例都被不當夸大，由此衍生出很多不負責任的言論甚至不顧惜大眾利益（隱私、安全甚至生命）的舉措，比如自動駕駛公司先推出軟件，卻沒有驗證。

在這篇文章寫于去年 8 月的文章中，作者 Vijay Kumar 以非常簡練而又不失洞見的文字刻畫出當前有關(guān) AI 種種「非理性繁榮」，并分析出導致這些現(xiàn)象的主要原因。

作者在文章最后指出，當我們賦予物理系統(tǒng)智能，當涉及社會大眾的信息和數(shù)據(jù)時，真正的核心問題到底是什么。

Vijay Kumar 是誰？他是美國賓夕法尼亞大學工程學院的 Nemirovsky Family 院長，同時也任職于機械工程與應(yīng)用機械學系、計算機與信息科學系以及電子與系統(tǒng)工程系。

作為機器人與無人機領(lǐng)域的權(quán)威學者，Kumar 也是美國機械工程師學會會士、美國電氣和電子工程師協(xié)會會士、國家工程院會士。

我相信許多人還記得 1995 年的 Netscape IPO，以及四個月內(nèi)股價漲了五倍的情景。人們對技術(shù)及其影響的期望仍然很高。

而時任美聯(lián)儲主席的格林斯潘在美國企業(yè)研究所發(fā)表演講時，對市場和科技中的「非理性繁榮」提出了質(zhì)疑。

我相信，今天的科技領(lǐng)域也出現(xiàn)了類似的「非理性繁榮」。

用于癌癥篩查的革命性技術(shù)——僅刺破手指抽取千分之一的正常血量——真的可行嗎？

當然，Theranos 讓每個人都相信這種革命性的進步的可能性，不是因為化學領(lǐng)域的新技術(shù)，而是因為他們開發(fā)了新的軟件和自動化技術(shù)！

我們真的能用馬斯克 Boring 公司挖的地下通道取代洛杉磯的 800 萬輛汽車嗎？

這種「自動化」能讓我們以遠低于正常的成本實現(xiàn)這種高速吊艙，其時速將達到 150 英里/小時，運行費用每次僅 1 美元——這就是 Boring 公司向洛杉磯市出售產(chǎn)品的廣告語。

數(shù)據(jù)科學和機器學習的最新進展，真的意味著通用人工智能即將到來嗎？這是今天許多創(chuàng)業(yè)公司所堅信的。

實際上，統(tǒng)計機器學習已經(jīng)取得顯著進步，尤其是在計算機視覺和語音識別等領(lǐng)域，因為基礎(chǔ)神經(jīng)網(wǎng)絡(luò)可以通過足夠大、有代表性的數(shù)據(jù)集進行訓練。

「足夠大」意味著什么？我們還不知道。我們也不知道何為有代表性的數(shù)據(jù)集，很多有趣的案例證明了深度學習「有效」。

但是，這些成功案例都被夸大了。

在我自己的機器人技術(shù)領(lǐng)域，自動化十分具有挑戰(zhàn)性，特別是在操作和感知-動作循環(huán)的任務(wù)中。然而，盡管說的天花亂墜，但現(xiàn)在最好的機器人都不如一個三歲孩子靈活。

在無人駕駛領(lǐng)域，這種非理性繁榮無處不在。

沒有多少人知道，無人駕駛汽車的首次演示是在 20 世紀 80 年代后期，在慕尼黑聯(lián)邦國防軍大學和卡內(nèi)基梅隆大學進行的。毫無疑問，無人駕駛會產(chǎn)生巨大的社會、經(jīng)濟和環(huán)境影響。

在過去 30 年里，這一事實以及實現(xiàn)這一愿景的技術(shù)挑戰(zhàn)吸引了一群頂尖的科學和工程人才。然而，有一個歷史問題我們都忽略了，因為三十年都未能解決的問題不太可能吸引到大量的私人投資。

根據(jù)最近的預(yù)測，全自動駕駛汽車即將問市。奧迪和特斯拉幾年前承諾說到 2018 年可實現(xiàn)完全自主。

優(yōu)步甚至承諾，2023 年能推出由清潔能源驅(qū)動的汽車，盡管電池技術(shù)背后的基本物理和化學知識告訴我們事實并非如此。

當工程師提出這類想法時，令人擔憂；當企業(yè)家利用這些想法籌集巨額資金時，更令人擔憂。

然而，最大的問題是在如何將自動化軟件嵌入安全系統(tǒng)當中。

測試與日志數(shù)據(jù)、以及保證不會產(chǎn)生不必要和不安全行為的軟件驗證之間，存在差異。我們能否只因為底層軟件已經(jīng)通過十億英里的數(shù)據(jù)測試，就宣稱無人駕駛車輛安全呢？

美國國家安全委員會的統(tǒng)計數(shù)據(jù)顯示，人類平均駕駛十億英里會導致 12.5 人死亡。十億英里的數(shù)據(jù)集不可能被視為「足夠大」，或「有代表性」，被用來訓練軟件以防止人員死亡。

Uber-Waymo 的案件披露了一系列文件。

這些文件揭示了一種現(xiàn)象，它優(yōu)先發(fā)布了軟件，而沒有經(jīng)過測試和驗證。對于可以后續(xù)修正的手機系統(tǒng)，這樣可以接受，但對于汽車軟件來說，這完全不能接受。

這種非理性繁榮，可能源于五十年前摩爾預(yù)測的計算和存儲技術(shù)的指數(shù)增長。

十多年前，智能手機、云計算和共享汽車似乎是科幻小說的情景，3D 打印和 DNA 測序等技術(shù)也難于登天。而如今，這些正在成為事實。

指數(shù)增長的事實滋生出一種外推（extrapolation）文化。

比如，最近 Alpha Go 和 Alpha Zero 在國際象棋等棋盤游戲中取得的進步令人難以置信。

但不幸的是，我們由此外推出這樣的結(jié)論：征服這類通用智能，只是一個時間問題。

至少有一個觀點認為，盡管摩爾定律帶來了計算力指數(shù)增長，事實上，我們在智能理解方面，并沒有取得重大進展。

雖然計算機在國際象棋中取得了驚人的表現(xiàn)，但在過去 30 年里，國際象棋程序的 Elo 評級只是呈線性增長而已。

如果我們能夠充分利用摩爾定律，那么，國際象棋程序的表現(xiàn)應(yīng)該比 30 年前好十億倍，而不是僅僅好 30 倍。

這表明，技術(shù)的指數(shù)增長可能不適用于人工智能領(lǐng)域，更不用說能源存儲、生物技術(shù)、自動化和制造業(yè)了。

不幸的是，科技上的非理性繁榮還導致了一個更大的問題——學術(shù)與產(chǎn)品欺詐，這是每個工程師和計算機科學家都要警惕的。

作為專業(yè)人士，我們有責任揭露這種學術(shù)不端的行為。

當賦予物理系統(tǒng)智能時，驗證、安全性和責任必須是核心問題。

事實上，對于社會中的數(shù)據(jù)和信息，公平、問責、透明度和道德問題（fairness、accountability、transparency、ethics，F(xiàn)ATE）也需要被解決。

好在這些好風氣在業(yè)界和學術(shù)界中正在逐漸形成。

作為教師，我們肩負著更大的責任，因為技術(shù)不再僅限于計算機科學家或工程師。

事實上，技術(shù)現(xiàn)在已成為一門新興學科。但這門學科的關(guān)鍵是要闡明技術(shù)的邊界，并警惕外推帶來的真實危險。

對于每個具有創(chuàng)造性的大學生，無論是物理方面還是軟件工具，都必須對問責制，透明度和道德責任的基本問題保持高度警惕。

重要的是，我們要解決技術(shù)中的 FATE，不僅要在數(shù)據(jù)科學的背景下，更要通過技術(shù)實踐的設(shè)計、綜合和簡化。