通用人工智能的出現(xiàn)是一個(gè)轉(zhuǎn)折點(diǎn)，但它也可能是危險(xiǎn)的。

改變我們生活方式的技術(shù)一直受到質(zhì)疑，特別是信息技術(shù)。當(dāng)新技術(shù)取代了效率低下的方式與世界接軌時(shí)，鼓吹技術(shù)將如何對(duì)人類(lèi)產(chǎn)生負(fù)面影響的末日宣言便甚囂塵上。曾經(jīng)甚至都有人說(shuō)，印刷機(jī)是我們文化滅亡的預(yù)兆。然而，從長(zhǎng)遠(yuǎn)來(lái)看，許多信息技術(shù)對(duì)現(xiàn)代世界做出了積極貢獻(xiàn)。

人工智能尚處于起步階段，因此從某種意義上說(shuō)，人類(lèi)對(duì)它的不信任與任何其他改變游戲規(guī)則的技術(shù)沒(méi)有什么不同。在未來(lái)25到50年內(nèi)，人工智能可能會(huì)重蹈印刷機(jī)、早期計(jì)算機(jī)或汽車(chē)的覆轍：初始應(yīng)用將變得越來(lái)越強(qiáng)大。各界權(quán)威人士都會(huì)警告人們其巨大的潛力和潛在的災(zāi)難。而一旦爭(zhēng)議平息，人工智能可能將為社會(huì)貢獻(xiàn)凈正增益。

需要明確的是，對(duì)狹義人工智能的短期視角認(rèn)為它們只擅長(zhǎng)于特定任務(wù)。今天的人工智能仍然很簡(jiǎn)陋，一般只擅長(zhǎng)完成一件事。我認(rèn)為狹義人工智能在未來(lái)十年能力已被高估，但我仍然相信我們將在不久的將來(lái)大受裨益。

通用人工智能能讓事情變得更加有趣，但它也可能是危險(xiǎn)的。那時(shí)我們會(huì)看到機(jī)器學(xué)習(xí)達(dá)到與人類(lèi)旗鼓相當(dāng)甚至超越人類(lèi)的程度，那時(shí)的程序可以執(zhí)行一系列認(rèn)知任務(wù)，也可以做得比人類(lèi)更好。通用人工智能的出現(xiàn)意味著以前的增產(chǎn)技術(shù)已不再重要，因?yàn)槲覀兏緹o(wú)法預(yù)測(cè)人工智能可以將產(chǎn)量提高多少。

即使人工智能在短期內(nèi)對(duì)社會(huì)有益，但它也會(huì)產(chǎn)生一些消極影響。除非我們認(rèn)真對(duì)待風(fēng)險(xiǎn)和收益，否則在我們的有生之年，可能將面臨安全、信息和生存方面的威脅，因?yàn)槿斯ぶ悄茏兊酶斆鳌?/p>

不久的將來(lái)

迄今為止，人工智能的實(shí)際應(yīng)用主要表現(xiàn)在在自然語(yǔ)言和圖像處理上，而傳統(tǒng)計(jì)算機(jī)很難做到這一點(diǎn)。狹義的人工智能能提高工作效率，否則這些完成這些任務(wù)的過(guò)程就會(huì)被減緩或使人類(lèi)感到厭煩。所以如果能正確使用人工智能，將對(duì)商業(yè)產(chǎn)生全面的積極影響。

更重要的是，人工智能將在不久的將來(lái)帶來(lái)兩項(xiàng)重大進(jìn)步，挽救數(shù)百萬(wàn)人的生命：自動(dòng)駕駛汽車(chē)和人工智能驅(qū)動(dòng)的醫(yī)學(xué)。

每年全世界有超過(guò)100萬(wàn)人死于汽車(chē)事故，其中絕大多數(shù)是由于人為錯(cuò)誤，包括酒駕。自動(dòng)駕駛汽車(chē)可以使駕駛死亡率降低10倍。我們已經(jīng)看到像Uber這樣的公司在努力制止自動(dòng)駕駛汽車(chē)上路(盡管它們投入了數(shù)十億美元)，但即使從最悲觀(guān)的角度看，自動(dòng)駕駛汽車(chē)也將在未來(lái)20年內(nèi)上路，供私人使用。

人工智能驅(qū)動(dòng)的醫(yī)學(xué)也能帶來(lái)令人難以置信的潛在好處。人工智能在醫(yī)療領(lǐng)域的應(yīng)用證明它將在醫(yī)藥工業(yè)中發(fā)揮革命性的作用。目前，將一種藥物投放到美國(guó)市場(chǎng)的成本遠(yuǎn)遠(yuǎn)超過(guò)十億美元。這迫使制藥公司必須優(yōu)先考慮大眾藥和所謂的救命藥，因?yàn)橄M(fèi)者可能會(huì)想法設(shè)法為這些藥物買(mǎi)單。人工智能可以預(yù)測(cè)哪些藥物對(duì)某一特定疾病有效，這將大幅降低公藥物研發(fā)成本和風(fēng)險(xiǎn)，同時(shí)還能減少在人類(lèi)和動(dòng)物身上進(jìn)行藥物測(cè)試。此外，人工智能引導(dǎo)的DNA分析可能會(huì)掀開(kāi)個(gè)性化醫(yī)療時(shí)代的序幕。

怨恨與錯(cuò)誤信息危機(jī)

隨著技術(shù)的發(fā)展，挑戰(zhàn)也將隨之增加。第一個(gè)關(guān)鍵挑戰(zhàn)在于，人們對(duì)人工智能越來(lái)越不滿(mǎn)，因?yàn)樗趽寠Z人類(lèi)的工作，例如駕駛卡車(chē)或照顧病人。機(jī)器人正從人類(lèi)身上搶飯碗，這并不是一個(gè)新的問(wèn)題。這一負(fù)面作用的影響程度將取決于社會(huì)重新分配資源和調(diào)整工作崗位的能力。

第二個(gè)挑戰(zhàn)是一個(gè)錯(cuò)誤的信息生態(tài)系統(tǒng)，致使人類(lèi)不可能對(duì)其做出正確的判斷。當(dāng)機(jī)器學(xué)習(xí)能創(chuàng)造更好、更細(xì)致的信息時(shí)，人類(lèi)將需要數(shù)字驗(yàn)證信息是真實(shí)的——或者至少不是假的。但幾乎可以肯定的是，它將變成一場(chǎng)貓鼠游戲：隨著驗(yàn)證變得越來(lái)越嚴(yán)格，造假行為也會(huì)變得更完善。

我相信在我們的有生之年，人工智能驅(qū)動(dòng)的錯(cuò)誤信息危機(jī)有可能發(fā)生。人工智能已經(jīng)可以令人信服地操縱圖像和視頻。如女明星的面孔被疊加在***照片和視頻上而難辨真假。世界各國(guó)領(lǐng)導(dǎo)人也正“被”說(shuō)出荒謬或煽動(dòng)性的言論。

假新聞只是其中一個(gè)例子。個(gè)人將面臨聲譽(yù)(偽造裸照發(fā)送給同事或網(wǎng)上發(fā)布的虛假的報(bào)復(fù)性***照片)、財(cái)務(wù)(影響信用的偽造銀行文件)和法律地位(虛假音頻、視頻或其他犯罪證據(jù))上的風(fēng)險(xiǎn)。這并不是危言聳聽(tīng)，這很有可能成為常態(tài)。

如果人們無(wú)法分辨什么是真實(shí)的或什么是假的，那么個(gè)人責(zé)任就會(huì)被拋到九霄云外。即便在現(xiàn)在，戰(zhàn)略人員也在使用人工智能創(chuàng)建的媒體作為躲避公眾輿論的一種方式。例如，如果一個(gè)人被錄下了帶有性別歧視言論的錄音帶，他可以說(shuō)這盤(pán)磁帶是假的。當(dāng)人工智能足夠好時(shí)，那就很難證明他說(shuō)的話(huà)了。在某種程度上，先進(jìn)技術(shù)的簡(jiǎn)單存在將足以使人們對(duì)幾乎任何信息產(chǎn)生懷疑。

除了對(duì)個(gè)人及其家人的風(fēng)險(xiǎn)外，人工智能還會(huì)構(gòu)成全球安全隱患。人工智能創(chuàng)造的情報(bào)或媒體可用于制造一場(chǎng)政治風(fēng)暴、引發(fā)騷亂，甚至掀起第三次世界大戰(zhàn)。

長(zhǎng)期來(lái)看：超級(jí)人工智能

到目前為止，最大的威脅是由通用人工智能構(gòu)成的。像人類(lèi)一樣聰明的人工智能(或更高級(jí))是否可能被創(chuàng)造出來(lái)也是一個(gè)問(wèn)題。但是，除非我們找到證據(jù)證明人類(lèi)無(wú)法弄清楚人類(lèi)智能的產(chǎn)生方式，否則超級(jí)人工智能的開(kāi)發(fā)只是時(shí)間問(wèn)題。然而，盡管雷·庫(kù)茲韋爾說(shuō)過(guò)，但我不相信在我們的有生之年會(huì)創(chuàng)造出超人類(lèi)的人工智能。

人工智能在大多數(shù)任務(wù)中達(dá)到甚至超多人類(lèi)水平的合理時(shí)間線(xiàn)約為250年。任何歷史上需要利用人類(lèi)智慧來(lái)做的任何事情——建立機(jī)器、解決問(wèn)題、做出重要決策——都將由機(jī)器更有效地處理。也許會(huì)有一些杰出的數(shù)學(xué)家來(lái)計(jì)算宇宙的方程式，但我們其余的人將無(wú)法給社會(huì)貢獻(xiàn)太多。

在這個(gè)世界上，大多數(shù)人可能會(huì)依靠普遍基本收入。我們可以自由地與自己、朋友和家人一起學(xué)習(xí)和享受時(shí)光。但我認(rèn)為這更可能使我們變得懶惰、無(wú)心向?qū)W，成為非理性的人，形成一層社會(huì)的外殼，就像在《美麗新世界》一樣。對(duì)普遍基礎(chǔ)收入的持續(xù)長(zhǎng)期研究可能揭示這將如何影響我們。

我同意已故斯蒂芬·霍金的觀(guān)點(diǎn)，他認(rèn)為人工智能的誕生可能是“我們文明史上最糟糕的事件。”因?yàn)槲覀兏静恢绖?chuàng)造超級(jí)人工智能的結(jié)果，我們需要對(duì)這種可能性保持高度謹(jǐn)慎，因?yàn)檫@可能是人類(lèi)歷史上最好或最糟糕的事件之一。

還有待觀(guān)察的是，這種好處是否會(huì)超過(guò)人工智能和機(jī)器學(xué)習(xí)帶來(lái)的負(fù)面影響。人工智能已經(jīng)打開(kāi)了通往可能由錯(cuò)誤信息統(tǒng)治時(shí)代的大門(mén)。從偽造的銀行對(duì)賬單到世界領(lǐng)導(dǎo)人宣布虛假戰(zhàn)爭(zhēng)，人工智能創(chuàng)造的媒體將使我們對(duì)我們所讀、所看和聽(tīng)到的東西產(chǎn)生懷疑。一旦我們深入研究這項(xiàng)技術(shù)的可能性，就會(huì)得出“人類(lèi)會(huì)被機(jī)器取代”的結(jié)論。而這些也將是需要解決的大問(wèn)題，能解決這些問(wèn)題的公司也將是那些價(jià)值數(shù)百億美元的巨頭們。除了技術(shù)，我沒(méi)有看到任何其他解決方案。

我們能做的最重要的事情就是開(kāi)始討論如何處理通用人工智能。我們需要了解，我們是否能夠建立有效的保障措施，例如阿西莫夫的三大機(jī)器人法則，以控制任何可以想象的超級(jí)人工智能。

我希望我錯(cuò)了，但我是懷疑主義者。