本文專訪了著名機器人專家 Hod Lipson，討論如何定義機器人的自我意識，為什么機器人的自我意識很重要，以及它可能帶來什么。你認為 AI 會有意識嗎？擁有自我意識的機器人離我們還有多遠？

“我想在有生之年見到一個外星人，”哥倫比亞大學(xué)創(chuàng)意機器實驗室的機器人專家霍德·利普森(Hod Lipson)說：“我想認識一些非人類的智慧生物?！?/p>

但是，Lipson并不是坐等這些外星生物的到來，而是想親自打造它們——以具有自我意識的機器的形式。

為了達到這個目的，Lipson公開地面對一個棘手的概念——意識——這在他的同事中常常被視為禁忌。他說：“在機器人和人工智能領(lǐng)域，我們曾經(jīng)視意識為禁忌，我們不允許觸及這個話題?！薄暗谖铱磥?，意識可以說是一個懸而未決的大問題，與生命起源和宇宙起源一樣。什么是感知，什么是創(chuàng)造力？什么是情感？我們想知道人之所以為人的意義，我們也想知道如何人為地創(chuàng)造出這些東西。是時候直面這些問題了?！?/p>

根據(jù)Lipson的觀點，感知或自我意識的基本構(gòu)建塊之一是“自我模擬”(self-simulation)：建立一個人的身體及其在物理空間中如何運動的內(nèi)在表征，然后使用該模型來指導(dǎo)行為。早在2006年，Lipson就開始研究人工自模擬(artificial self-simulation)，他設(shè)計了一個海星形狀的機器人，利用進化算法(以及一些預(yù)先加載的“物理學(xué)提示”)自學(xué)如何在桌面上向前翻轉(zhuǎn)。但他表示，2012年現(xiàn)代人工智能技術(shù)的興起(包括卷積神經(jīng)網(wǎng)絡(luò)和深度學(xué)習(xí))“給整個研究領(lǐng)域帶來了新的活力”。

Lipson團隊開發(fā)的“仿生物細胞群體機器人”

參考閱讀：中國籍博士一作登Nature封面：仿生群體機器人問世，工程學(xué)重大突破！

在2019年初，Lipson的實驗室開發(fā)了一個機器人手臂，它利用深度學(xué)習(xí)完全從零開始生成自己的內(nèi)部自我模型——Lipson形容這個過程“就像一個咿呀學(xué)語的嬰兒觀察自己的手”。機器人的自我模型可以讓它準確地執(zhí)行兩項不同的任務(wù)——撿起小球并把它們放進杯子里，以及用記號筆寫字——而不需要對其中任何一項進行專門的訓(xùn)練。此外，當研究人員通過添加一個變形部件來模擬機器人身體受到的損傷時，機器人能檢測到這種變化，并相應(yīng)地更新其自我模型(self-model)，從而能夠恢復(fù)其任務(wù)。

Lipson實驗室開發(fā)的機器人手臂

這與有深層思考的機器人相去甚遠。但Lipson斷言，這種差異只是程度上的一種差異?！爱斦劦阶晕乙庾R時，人們認為機器人會突然醒來，說，‘你好，我為什么在這里?’”Lipson說?！暗晕乙庾R并不是黑白分明的。它是從一些非?，嵥榈氖虑殚_始的，比如，‘我的手要往哪里移動?’這是同一個問題，只是時間跨度更短?！?/p>

Quanta與Lipson討論了如何定義機器人的自我意識，為什么機器人的自我意識很重要，以及它可能帶來什么。

自我意識就是自我模擬嗎？

你顯然對意識本質(zhì)這個大問題很感興趣，但你為什么要通過研究機器人來研究這個問題？為什么你不當哲學(xué)家或神經(jīng)科學(xué)家?

對我來說，機器人的好處在于它會迫使你把你的理解轉(zhuǎn)化為算法和機械裝置。你不能拐彎抹角，你不能說空話，不能說諸如“現(xiàn)實的畫布”這類的東西，它們對不同的人來說有不同的含義，因為它們太模糊了，無法翻譯給機器。機器人迫使你關(guān)注具體的東西。

Lipson在哥倫比亞大學(xué)的辦公室

我想做一個這樣的東西。我不想只是說說而已。哲學(xué)家們，恕我直言，在這個問題上已經(jīng)有一千年沒有取得什么進展了。不是因為缺乏興趣，也不是因為缺乏聰明的人——自上而下地研究意識這個問題太難了。神經(jīng)科學(xué)家已經(jīng)用一種更為定量的方法來研究這個問題。不過，我認為，他們采取的仍然是自上而下的方式，這阻礙了他們?nèi)〉眠M展。

如果你想了解意識，為什么要從最復(fù)雜的意識開始——為什么要從人類開始？這就像走上坡路，這是最困難的開始方式。讓我們來看看可能更容易理解的更簡單的系統(tǒng)。這就是我們要做的事情：我們觀察了一些非常瑣碎的東西，一個有四個自由度的機器人，并試圖回答，“我們能讓這個東西自我模擬嗎?”

自我模擬和自我意識是一回事嗎?

一個能夠自我模擬的系統(tǒng)在某種程度上是具有自我意識的。它能在多大程度上模擬自己——模擬的逼真程度，模擬的時間范圍——所有這些不同的因素都影響到它有多少自我意識。這是一個基本假設(shè)。

所以，你把“自我意識”這個術(shù)語簡化為一個關(guān)于自我模擬的更為技術(shù)性的定義——在空間中為自己的身體構(gòu)建一個虛擬模型的能力？

是的，我們有不同的定義，我們使用的定義是非常具體的。這個定義是數(shù)學(xué)的，你可以測量它，你也可以量化它，可以計算誤差的程度。哲學(xué)家可能會說，“這不是我們看待自我意識的方式?！比缓笏麄兊挠懻撏ǔ兊梅浅Ｄ：?。你可以說我們的定義并不是真正的自我意識。但是我們有一些非?；A(chǔ)的東西，而且很容易量化，我們有一個基準(benchmark)。基準是工程師為機器人提供的傳統(tǒng)手工編碼的自我模型。通過我們的機器人，我們想看看AI算法能否學(xué)習(xí)一個與傳統(tǒng)手工編碼模型相同或更好的自我模型。

單個機器人(左)只能伸展和收縮，但它們可以作為團隊一起移動并完成任務(wù)。這個機器人的設(shè)計旨在探索自我復(fù)制(右)，并可以變形成多種形狀。

為什么需要物理機器人?為什么不在一個非實體系統(tǒng)中研究自我意識呢?

我們在尋找一個可以模擬自身的封閉系統(tǒng)——要做到這一點，它需要有輸入和輸出，但也必須有一個邊界，一個你描繪“自我”的地方。機器人是符合這些條件的一個非常自然的存在。它有動作，有感覺，并且有邊界，所以可以有事情發(fā)生在它身上，有東西可以讓它模擬。我是機器人專家，這是我的第一選擇。

這個機器人是在完全空白的石板上創(chuàng)建自己的模型嗎?

只是一個原則問題，我們是從一無所有開始的，我們想看看我們能走多遠。在之前的例子中(海星形狀的機器人)，我們?nèi)狈τ嬎懔?。我們必須告訴它，“你不知道你是什么，但讓我告訴你F = ma，以及其他我們知道的正確的物理規(guī)則，你直接拿走這些?！?/p>

人工智能如何對機器人的自我意識起作用？

人工智能是如何發(fā)揮作用的呢?

出于某種原因，我們很高興讓機器人(使用AI)了解外部世界，但當涉及到它們自己時，出于一些奇怪的原因，我們堅持手工編碼模型。所以我們所做的實際上是相當瑣碎的：我們說，“讓我們把人類建造的所有基礎(chǔ)設(shè)施都拿來幫助機器人了解世界，我們要讓它關(guān)注自己內(nèi)部?！庇靡痪湓拋碚f，這就是我們所做的全部。

機器人進行了1000次隨機移動來收集數(shù)據(jù)，為深度學(xué)習(xí)算法創(chuàng)建自我模擬。這就是你所描述的人類嬰兒咿呀學(xué)語的過程嗎?

正是這樣。機器人四處揮動手臂，觀察它的指尖在哪里。想象一下，你自己揮動你的手臂，看著你的指尖。這就是你的輸入和輸出。這個機器人在那里移動了30多個小時，一旦我們收集到所有數(shù)據(jù)，我們就可以回家了。從那以后，這就純粹是一個計算上的挑戰(zhàn)(學(xué)習(xí)自我模型)。

我們所做的是打破機器人(通過添加一個變形的部分)，然后再做一次。我們看到壞掉的機器人是如何從完整的模型開始并修正它的。第二次學(xué)習(xí)時，它不需要從頭開始學(xué)習(xí)。有一個重新開始的時期，但比最初需要的要少得多——只需原來的10%。

但在它重新開始之前，它需要知道出了什么問題。這是一個非常強大的東西。它怎么知道？假如你有一個自我模型，出了問題，你馬上就會知道，因為如果你睜開眼睛，你會發(fā)現(xiàn)你的手不在它應(yīng)該在的地方了。你想要的點本來在4厘米內(nèi)，但是它突然變成了16厘米遠。你會立即得到反饋。所以機器人馬上就知道出了問題。然后需要一段時間來弄清楚如何修補，但我認為，即使僅是知道出現(xiàn)問題了，也是非常重要的。

這些畫是由一個機器人創(chuàng)作的，它被訓(xùn)練使用人工智能來畫畫。

機器人為什么應(yīng)該擁有自我意識？

這種自我模型是否類似于人類大腦的一部分，類似于身體的內(nèi)部地圖?

我想就是這樣。這就是為什么它如此粗糙，并且如此簡單。事實上，我們的機器人只有一個四個自由度的手臂。如果它是一個擁有800個自由度的人形機器人，對于我們今天所擁有的人工智能而言，可能太過復(fù)雜了。

如果這真的是一種自我意識的形式，那么機器人為什么應(yīng)該擁有它？它有什么用?

它使機器人最終更具彈性。你可以手動建模一個機器人，就像我們今天所做的一樣，但那是非常費力的，而且很慢。當現(xiàn)實世界中的機器人變形或損壞時，比如輪子掉下來或馬達減速了，那么模型就會突然出錯。比如考慮一下無人駕駛汽車，你會發(fā)現(xiàn)我們已經(jīng)可以把我們的生活托付給自動機器人了。這是很嚴肅的事情。你會想讓這些機器人能夠檢測到出了什么問題，并且能夠可靠地做到這一點。

另一個原因是靈活性。假設(shè)機器人執(zhí)行一項任務(wù)，當它做這個任務(wù)時，它會不斷地更新它的自我模型?，F(xiàn)在，如果它需要做一項新的任務(wù)——比如它需要把一個螺絲放到不同的地方，或者它需要噴涂而不是擰入螺絲——它可以使用相同的自我模型來學(xué)習(xí)和規(guī)劃如何去做這項新任務(wù)。從外部看，它就像我們所說的“zero-shot learning”，這似乎就是人類做事的方式。假如你看到一棵你從未爬過的樹，你也可以毫無障礙地爬上這棵樹。當機器人可以自我建模時，它可以像人類那樣在內(nèi)部學(xué)習(xí)：你看不到它已經(jīng)在自己的內(nèi)部模擬中訓(xùn)練了多少個小時。你所能看到的只是它完成了一項任務(wù)，然后它在那里呆了一會兒，突然間它可以不用嘗試就能執(zhí)行一項新的任務(wù)了。

一個能夠自我模擬自己的身體的機器人和一個能夠擁有內(nèi)部“思想”(聽起來更像是“自我意識”的非正式含義)的機器人之間，有什么聯(lián)系?

我們正在做的其他一些項目與自我建模有關(guān)，但模擬的不是身體，而是認知過程。我們正在朝著這兩個方向邁出一小步。相信這最終會達到人類層面的認知水平，甚至更高，這完全是一種信念的飛躍。

所以你假設(shè)這兩條路徑——自我模擬身體，和自我模擬大腦——會交匯在一起?

完全正確。我認為這都是一回事。這就是我們的假設(shè)，讓我們來看看我們將能夠推進到多遠。