2018年圖靈獎(jiǎng)得主，“深度學(xué)習(xí)三巨頭”Geoffrey Hinton, Yann LeCun和Yoshua Bengio早年也曾飽受嘲笑，但終于熬過(guò)寒冬。近日，ACM通訊對(duì)三人進(jìn)行了專訪。

雖然曾遭受懷疑甚至嘲笑，2018年圖靈獎(jiǎng)獲得者Geoffrey Hinton, Yann LeCun和Yoshua Bengio在他們的研究生涯中不斷發(fā)展人工神經(jīng)網(wǎng)絡(luò)，他們的研究成果如今已經(jīng)成為從搜索到內(nèi)容過(guò)濾等各個(gè)領(lǐng)域不可或缺的技術(shù)。

那么，如今炙手可熱的深度學(xué)習(xí)和人工智能領(lǐng)域怎樣了呢？ACM通訊采訪了三位圖靈獎(jiǎng)獲得者，分享了他們發(fā)現(xiàn)的令人興奮的問(wèn)題，以及仍然存在的挑戰(zhàn)。

現(xiàn)在，關(guān)于人工智能的討論遠(yuǎn)遠(yuǎn)比您剛開(kāi)始職業(yè)生涯時(shí)要多——其中有些是充分了解的，有些則不然。您希望人們不要再問(wèn)哪些問(wèn)題？

Geoffrey Hinton

Geoffrey Hinton：“神經(jīng)網(wǎng)絡(luò)是不是僅僅是泡沫？”在過(guò)去，AI領(lǐng)域的人做出了很多承諾，但有時(shí)結(jié)果被證明僅僅是泡沫。但是，神經(jīng)網(wǎng)絡(luò)遠(yuǎn)遠(yuǎn)超出了他們的承諾。神經(jīng)網(wǎng)絡(luò)確實(shí)是有效的。而且，神經(jīng)網(wǎng)絡(luò)還能擴(kuò)展。只要你給它提供更多的數(shù)據(jù)和更快的計(jì)算機(jī)，它就自動(dòng)能變得更好，而不需要任何人為它編寫(xiě)更多的代碼。

Yann LeCun：沒(méi)錯(cuò)，深度學(xué)習(xí)的基本理念不會(huì)消失，但當(dāng)人們問(wèn)我，要讓機(jī)器變得更智能，是不是只要簡(jiǎn)單地?cái)U(kuò)展現(xiàn)有的方法就可以了。這種問(wèn)題仍然令人沮喪。我們需要新的模式。

Yoshua Bengio：目前的技術(shù)已經(jīng)有多年的工業(yè)和科學(xué)應(yīng)用。話雖如此，我們?nèi)硕际茄芯咳藛T，我們總是迫不及待地想要更多，因?yàn)槲覀兡壳半x人類水平的人工智能還很遠(yuǎn)，離理解智能的原理(不管是自然的還是人工的智能)都還很遠(yuǎn)。

哪些問(wèn)題還討論得不夠呢？

Yoshua Bengio

Hinton：大腦是如何工作的？人們會(huì)討論這個(gè)問(wèn)題，但討論的人還不夠多。

Bengio：沒(méi)錯(cuò)。遺憾的是，盡管深度學(xué)習(xí)從大腦和認(rèn)知科學(xué)獲得靈感，但如今許多做深度學(xué)習(xí)的工程師并不關(guān)心這些話題。這是有道理的，因?yàn)槿绻闶窃诠I(yè)上應(yīng)用深度學(xué)習(xí)，大腦和認(rèn)知并不重要。但就研究而言，我認(rèn)為如果我們不能與那些試圖了解大腦工作原理的人保持合作，那將是一個(gè)巨大的損失。

Yann LeCun

Hinton：也就是說(shuō)，神經(jīng)科學(xué)家現(xiàn)在正在認(rèn)真研究這個(gè)問(wèn)題。多年來(lái)，神經(jīng)科學(xué)家認(rèn)為，“人工神經(jīng)網(wǎng)絡(luò)與真實(shí)的大腦非常不同，它們不會(huì)告訴我們大腦是如何工作的。”現(xiàn)在，神經(jīng)科學(xué)家們正在認(rèn)真考慮像反向傳播這樣的現(xiàn)象在大腦中發(fā)生的可能性，這是一個(gè)非常令人興奮的領(lǐng)域。

LeCun：目前，幾乎所有關(guān)于人類和動(dòng)物視覺(jué)的研究都使用卷積網(wǎng)絡(luò)作為標(biāo)準(zhǔn)概念模型。直到最近，情況才有所改變。

Hinton：我認(rèn)為這對(duì)社會(huì)科學(xué)也會(huì)產(chǎn)生巨大的影響，因?yàn)樗鼤?huì)慢慢地改變我們對(duì)人的看法。我們過(guò)去把人看作理性的存在，而人的獨(dú)特之處在于他們用推理來(lái)得出結(jié)論?，F(xiàn)在，我們對(duì)人的本質(zhì)有了更好的理解，認(rèn)為人類基本上就是巨大的類比制造機(jī)器。他們非常緩慢地開(kāi)發(fā)出這些表示，然后他們開(kāi)發(fā)的表示決定了他們可以做出的類比的類型。當(dāng)然，我們可以進(jìn)行推理，沒(méi)有推理就沒(méi)有數(shù)學(xué)，但這不是我們思考的基本方式。

對(duì)于開(kāi)拓性的研究人員來(lái)說(shuō)，您似乎非常不愿意滿足于現(xiàn)狀。

Hinton：我認(rèn)為發(fā)明了現(xiàn)在的標(biāo)準(zhǔn)技術(shù)的人有一些特別之處。它們并不是上帝賜予的，很可能也還有其他更好的技術(shù)。然而，當(dāng)一個(gè)領(lǐng)域已經(jīng)有了一種標(biāo)準(zhǔn)的工作方式時(shí)，新進(jìn)入這個(gè)領(lǐng)域的人并不完全理解這種標(biāo)準(zhǔn)方式是多么武斷。

Bengio：學(xué)生們有時(shí)談?wù)撋窠?jīng)網(wǎng)絡(luò)就好像他們?cè)诿枋鍪ソ?jīng)一樣。

LeCun：這造成了一代人的教條主義。不過(guò)盡管如此，一些最具創(chuàng)新性的想法很可能來(lái)自比我們年輕得多的人。

目前這個(gè)領(lǐng)域的進(jìn)展速度十分驚人。如果你在二三十年前就預(yù)料到今天的情況，你會(huì)感到驚訝嗎？

LeCun：讓我感到驚訝的事情太多了。比如，我感到驚訝的是，深度學(xué)習(xí)革命來(lái)得如此之晚，但一旦革命開(kāi)始，我也驚訝它的發(fā)展速度是如此之快。我本以為事情會(huì)更循序漸進(jìn)，但在20世紀(jì)90年代中期至2000年代中期，人們放棄了整個(gè)神經(jīng)網(wǎng)絡(luò)的想法。我們有證據(jù)表明，神經(jīng)網(wǎng)絡(luò)在那之前也是有效的。但后來(lái)，一旦神經(jīng)網(wǎng)絡(luò)的demo變得無(wú)可爭(zhēng)議，其發(fā)展就勢(shì)不可擋了：首先是在語(yǔ)音識(shí)別領(lǐng)域，然后是圖像識(shí)別，現(xiàn)在是自然語(yǔ)言理解。

Hinton：如果20年前有人對(duì)我說(shuō)，可以把一種語(yǔ)言中的句子分割成小的單詞片段，然后將這些片段輸入給一個(gè)始于隨機(jī)連接的神經(jīng)網(wǎng)絡(luò)，然后訓(xùn)練神經(jīng)網(wǎng)絡(luò)，神經(jīng)網(wǎng)絡(luò)能將這個(gè)句子翻譯成另一種語(yǔ)言，而不需要任何語(yǔ)法或語(yǔ)義方面的只是——完全沒(méi)有運(yùn)用到語(yǔ)言學(xué)知識(shí)——并且翻譯效果比任何其他方法都更好。我會(huì)很驚訝。雖然這種翻譯并不完美，不如能說(shuō)兩種語(yǔ)言的人翻譯得好，但已經(jīng)越來(lái)越接近了。

LeCun：同樣令人驚訝的是，這些技術(shù)在如此之多的行業(yè)中變得如此有用，而且發(fā)展速度極快。如果你現(xiàn)在把深度學(xué)習(xí)從谷歌或Facebook這兩家公司中抽離出來(lái)，那么這兩家公司都會(huì)崩潰；它們的業(yè)務(wù)完全是圍繞著深度學(xué)習(xí)構(gòu)建的。當(dāng)年我加入Facebook時(shí)，有一件事讓我感到驚訝，就是有一小群人使用卷積網(wǎng)絡(luò)進(jìn)行人臉識(shí)別。我對(duì)卷積網(wǎng)絡(luò)的第一直覺(jué)是，它可能對(duì)物體分類這種識(shí)別有用：

Bengio：當(dāng)我在攻讀博士學(xué)位時(shí)，我一直在努力擴(kuò)展這樣一個(gè)想法，即神經(jīng)網(wǎng)絡(luò)不僅僅可以進(jìn)行模式識(shí)別——將一個(gè)固定大小的向量作為輸入并生成類別。但是直到最近我們的轉(zhuǎn)化工作才突破了這個(gè)范圍。正如Yann所說(shuō)，創(chuàng)造新事物的能力確實(shí)具有革命性。所以有能力操縱任何類型的數(shù)據(jù)結(jié)構(gòu)，而不僅僅是像素和向量。傳統(tǒng)上，神經(jīng)網(wǎng)絡(luò)僅限于人類能夠快速且無(wú)意識(shí)地完成的任務(wù)，比如識(shí)別物體和圖像?，F(xiàn)代神經(jīng)網(wǎng)絡(luò)在本質(zhì)上與我們?cè)?0世紀(jì)80年代思考的東西不一樣，它們能做的事情更接近我們推理和編程時(shí)做的事情。

Yoshua，盡管取得了這些進(jìn)展，但您之前還是談到讓發(fā)展中國(guó)家更容易利用這一技術(shù)的緊迫性。

Bengio：我認(rèn)為這一點(diǎn)很重要。我過(guò)去對(duì)政治問(wèn)題沒(méi)有太多的思考，但機(jī)器學(xué)習(xí)和人工智能已經(jīng)走出大學(xué)校園，我認(rèn)為現(xiàn)在我們有責(zé)任考慮這一點(diǎn)，并參與關(guān)于這些技術(shù)如何利用的社會(huì)和政治討論。其中一個(gè)問(wèn)題是，專有技術(shù)、財(cái)富和技術(shù)將在哪里集中？往往會(huì)集中在少數(shù)幾個(gè)國(guó)家和地區(qū)、幾個(gè)公司和一小部分人手中，我們要設(shè)法使這些技術(shù)更容易獲取，讓這些技術(shù)為更廣泛的國(guó)家和地區(qū)的更多的人們帶來(lái)更大的變化。

Hinton：Google已開(kāi)源了其開(kāi)發(fā)神經(jīng)網(wǎng)絡(luò)的主要軟件TensorFlow，你還可以在云端使用專門(mén)的Google網(wǎng)絡(luò)硬件。Google正努力使這種技術(shù)盡可能廣泛地為更多的人所使用。

LeCun：我認(rèn)為這是一個(gè)非常重要的問(wèn)題。深度學(xué)習(xí)社群非常善于促進(jìn)公開(kāi)研究的理念，不僅是在學(xué)術(shù)領(lǐng)域，在學(xué)術(shù)會(huì)議在公開(kāi)發(fā)表論文、評(píng)論和評(píng)注，而且在企業(yè)界，像Google和Facebook這樣的公司也在將自己開(kāi)發(fā)絕大部分軟件進(jìn)行開(kāi)源，并為他人提供基于這些軟件的工具。因此，任何人都可以在幾天內(nèi)再現(xiàn)其他人的研究成果。

這樣，無(wú)論在任何研究領(lǐng)域，任何頂尖的研究團(tuán)隊(duì)都無(wú)法其他研究團(tuán)隊(duì)領(lǐng)先幾個(gè)月。重要的是，整個(gè)研究領(lǐng)域的發(fā)展速度飛快。因?yàn)槲覀冋嬲胍獦?gòu)建的是一種“虛擬助理”，它可以回答我們提出的任何問(wèn)題，并幫助我們?cè)谌粘Ｉ钪卸冗^(guò)難關(guān)。目前我們?nèi)狈?gòu)建這種虛擬助理的技術(shù)，而且沒(méi)有掌握相關(guān)的基本科學(xué)原理。我們可以培養(yǎng)整個(gè)研究社群來(lái)解決這一問(wèn)題，這對(duì)我們大家都有好處。