很難想象,未來50年中還有別的技術(shù)比人工智能對(duì)人類世界的影響更大。目前,機(jī)器學(xué)***技術(shù)正幫助我們的計(jì)算機(jī)自學(xué)各種技能,因此各種突破指日可待,無論是醫(yī)療診斷,還是無人駕駛汽車。與此同時(shí),人們也產(chǎn)生了越來越大的擔(dān)憂。
誰將控制科技?
技術(shù)是否將搶走我們的工作?
人工智能危險(xiǎn)嗎?
美國總統(tǒng)奧巴馬很愿意回答這些問題。近期,奧巴馬和麻省理工學(xué)院媒體實(shí)驗(yàn)室主任伊藤穰一在白宮接受了《連線》雜志的專訪,他們談到了關(guān)于人工智能的希望、熱潮和擔(dān)憂。
以下為專訪全文:
《連線》:最近怎么樣,總統(tǒng)先生?
奧巴馬:很忙,很有建設(shè)性。你知道,許多地方發(fā)生了國際危機(jī)。
《連線》:我希望對(duì)話能圍繞人工智能。人工智能正在從科幻小說變成現(xiàn)實(shí),改變我們的生活。你是何時(shí)知道,真正的人工智能時(shí)代已經(jīng)降臨?
奧巴馬:我的觀察是,人工智能正在以各種方式滲透至人們的生活,但我們尚未察覺。部分原因在于,流行文化對(duì)人工智能的描繪存在偏見?!哆B線》的讀者可能已經(jīng)知道,通用人工智能和專用人工智能之間存在差別。在科幻小說中,你看到的是通用人工智能。計(jì)算機(jī)比人類更聰明,而結(jié)論是人類變得越來越?jīng)]用。隨后,人工智能給我們灌輸“毒品”,讓我們?cè)谟淇熘凶兊梅逝?,或者我們將?huì)陷入《黑客帝國》的世界。
根據(jù)高級(jí)科學(xué)顧問與我的對(duì)話,我們距離這樣的現(xiàn)實(shí)還很遙遠(yuǎn)。思考這樣的場(chǎng)景很有價(jià)值,這讓我們想象力發(fā)散,促使我們思考選擇和自由意志等問題,最終帶來圍繞專用人工智能的重要應(yīng)用。我們已在生活的各個(gè)領(lǐng)域看到了專用人工智能,例如醫(yī)藥、交通,以及電力傳輸。這創(chuàng)造了更高效的經(jīng)濟(jì)。如果妥善應(yīng)用,專用人工智能可以帶來繁榮和機(jī)會(huì)。不過從導(dǎo)致就業(yè)機(jī)會(huì)減少來看,專用人工智能也存在不利的方面,而我們需要對(duì)此進(jìn)行研究。這可能導(dǎo)致不平等,影響工資水平。
伊藤穰一:這也讓我們麻省理工學(xué)院的***們感到失望。然而我擔(dān)心的問題之一在于,這一領(lǐng)域?qū)⒈荒贻p的孩子,尤其是白人孩子們所主導(dǎo)。他們將圍繞人工智能開發(fā)核心的計(jì)算技術(shù)。相對(duì)于與人交談,與計(jì)算機(jī)的對(duì)話讓他們更舒適。他們中許多人認(rèn)為,如果能開發(fā)出類似科幻小說中的通用人工智能,我們將不必?fù)?dān)心政治和社會(huì)等許多復(fù)雜問題。他們認(rèn)為,機(jī)器將為我們指明所有一切。
奧巴馬:是的。
伊藤穰一:然而他們低估了困難,我認(rèn)為,今年人工智能將不再僅僅是計(jì)算機(jī)問題。所有人都需要理解人工智能的行為方式,這很重要。在媒體實(shí)驗(yàn)室,我們采用術(shù)語擴(kuò)展智能(擴(kuò)展智能意為通過機(jī)器學(xué)***技術(shù)去強(qiáng)化人類智能)。因?yàn)閱栴}在于,我們要如何給人工智能帶來社會(huì)價(jià)值?
奧巴馬:在我們剛剛的午餐過程中,伊藤穰一用無人駕駛汽車來舉例。技術(shù)已經(jīng)在這里。我們的機(jī)器可以做出許多快速?zèng)Q策,大幅減少交通事故,提高交通路網(wǎng)的效率,協(xié)助解決導(dǎo)致全球變暖的碳排放等問題。然而,伊藤穰一提出了非常重要的一點(diǎn),即我們可以給汽車加入什么價(jià)值?你可以做許多選擇,而最典型的問題是:當(dāng)無人駕駛時(shí),車輛可以轉(zhuǎn)向避免撞到行人,但汽車將會(huì)因此撞墻導(dǎo)致你自己的傷亡。這是個(gè)道德問題,而誰可以來制定這些規(guī)則?
伊藤穰一:在我們研究這一“搭車問題”時(shí),我們發(fā)現(xiàn)許多人都更傾向于犧牲司機(jī)和乘客,確保更多人的安全。不過他們也表示,不會(huì)購買無人駕駛汽車。
《連線》:在我們探討人工智能的道德問題時(shí),***將扮演什么角色?
奧巴馬:我的看法是,在人工智能的早期發(fā)展階段,監(jiān)管框架應(yīng)當(dāng)支持百花齊放。***應(yīng)當(dāng)施加相對(duì)較少的監(jiān)管,更多地投資于科研,確?;A(chǔ)研究和應(yīng)用研究之間的轉(zhuǎn)化。隨著技術(shù)的興起和成熟,隨后我們要考慮如何將其納入現(xiàn)有監(jiān)管框架中。這是個(gè)更難的問題,而***需要更多參與。我們并不總是要讓新技術(shù)去適應(yīng)現(xiàn)存監(jiān)管框架,而是確保監(jiān)管符合更廣泛的價(jià)值。否則我們可能會(huì)發(fā)現(xiàn),某些人群將因此處于不利地位。
伊藤穰一:不知道你是否聽過神經(jīng)多元化運(yùn)動(dòng)??屏_拉多州立大學(xué)教授坦佩爾·格拉丁(Temple Grandin)認(rèn)為,如果莫扎特、愛因斯坦和特斯拉仍然健在,那么都會(huì)被認(rèn)為是自閉癥患者。
奧巴馬:他們可能屬于自閉癥譜系人群。
伊藤穰一:是的。如果我們消除自閉癥,讓所有人的精神都保持正常,我可以打賭,麻省理工學(xué)院的許多孩子們將不會(huì)是現(xiàn)在這樣。無論我們討論的是自閉癥還是更廣泛的多元化,問題之一都在于,我們何時(shí)才允許市場(chǎng)來做出決定。即使你可能不希望自己的孩子成為愛因斯坦,但簡單地表態(tài)“我想要個(gè)普通孩子”,這也無法創(chuàng)造最大化的社會(huì)價(jià)值。
奧巴馬:這是我們與人工智能打交道時(shí)面臨的更大的問題。人類的一大特點(diǎn)就是會(huì)有奇思妙想。有時(shí),一些突變或異常反而能創(chuàng)造出藝術(shù)和新發(fā)明。我們必須假定,如果系統(tǒng)是完美的,那么就是靜態(tài)的。然而讓人類發(fā)展到目前狀態(tài),確保人類生存的重要一部分在于,我們是動(dòng)態(tài)的,我們常常干出乎意料的事。我們需要思考的挑戰(zhàn)之一在于,何時(shí)何地讓事情嚴(yán)格按照預(yù)想中發(fā)展才合適?
《連線》:關(guān)于將擴(kuò)展智能用于***、民營行業(yè)和學(xué)術(shù)界,研究中心在哪,或者說是否有這樣的中心?
伊藤穰一:我認(rèn)為,麻省理工學(xué)院可能會(huì)說,應(yīng)該是在麻省理工。(笑)以往,這通常是一群學(xué)術(shù)界人士,并獲得了***的協(xié)助。然而目前,大部分投資達(dá)到10億美元的實(shí)驗(yàn)室都屬于企業(yè)。
奧巴馬:我們認(rèn)識(shí)向人工智能投資的人士。如果你接觸拉里·佩奇(Larry Page)或其他這些人,他們一般的態(tài)度是,“在我們尋求獨(dú)角獸的過程中,最不想看到的是一系列***導(dǎo)致進(jìn)度放慢”。這樣的想法可以理解。
然而我們看到的問題的一部分是,社會(huì)對(duì)基礎(chǔ)研究的投入正在減少。我們共同行動(dòng)的信心正在消失,這部分是由于我們的思想和言論。
關(guān)于偉大的技術(shù)突破,我們?nèi)栽谑褂玫念惐仁堑窃?,即使登月已?jīng)過去了50年。有人提醒我,登月項(xiàng)目的耗資達(dá)到了GDP的0.5%。這聽來不算什么,但按今天的情況來看相當(dāng)于每年花800億美元。實(shí)際上,我們目前每年對(duì)人工智能的投入只有不到10億美元。這一數(shù)字毫無疑問將上升,但我們需要理解的一點(diǎn)是,如果希望這些突破性技術(shù)去代表多元化群體的價(jià)值,那么***投資必須成為其中的一部分。如果***不參與投資,那么伊藤穰一提出的關(guān)于技術(shù)價(jià)值的問題將不會(huì)得到解答,甚至不會(huì)被討論。
《連線》:你提到了一種有趣的緊張關(guān)系,而伊藤穰一曾經(jīng)也寫過:邊緣創(chuàng)新與發(fā)生在諸如太空項(xiàng)目中創(chuàng)新的差異。我們?nèi)绾未_保所有這些思想得到傳播?
奧巴馬:我想要強(qiáng)調(diào)的是,***提供資金并收集數(shù)據(jù)并不意味著我們會(huì)隱瞞,或是軍方需要這些??梢耘e個(gè)具體例子:在精確醫(yī)療的項(xiàng)目中,所做工作的一部分是通過足夠多的美國人收集關(guān)于人類基因足夠大的數(shù)據(jù)集。我們的做法不是向斯坦福大學(xué)或哈佛大學(xué)提供資金,讓他們獨(dú)享這些樣本數(shù)據(jù),而是提供了一個(gè)所有人都可以訪問的基因數(shù)據(jù)庫。我們提供了公共的數(shù)據(jù)值、公共的架構(gòu),確保研究可以被分享,而不是只被某個(gè)集團(tuán)用于謀利。
《連線》:然而毫無疑問會(huì)存在一些風(fēng)險(xiǎn)。我們聽到伊隆·馬斯克(Elon Musk)和尼克·博斯特羅姆(Nick Bostrom)等人說,人工智能的發(fā)展有可能超過我們的理解能力。隨著我們的進(jìn)步,我們要如何看待他們的言論?我們不僅試圖保護(hù)自己,還試圖保護(hù)整個(gè)人類。
奧巴馬:我們首先來談?wù)勛钇惹械膿?dān)心。在專用人工智能的領(lǐng)域,這是個(gè)可以解決的問題。我們需要警惕。如果你的計(jì)算機(jī)可以下圍棋,一種有著許多變化的復(fù)雜棋類游戲,那么開發(fā)一種算法,讓你在紐約股票交易所的利潤最大化也并非遙不可及。如果有人或組織首先做到了這點(diǎn),那么他們就可以迅速摧垮股市,或是導(dǎo)致我們對(duì)***的完備性產(chǎn)生懷疑。
隨后,可能會(huì)有一種算法說:“去滲透***密碼,研究如何發(fā)射導(dǎo)彈。”如果這就是軟件的全部工作,如果軟件能自我學(xué)***,同時(shí)又是個(gè)非常有效的算法,那么你就會(huì)遇到麻煩。我對(duì)國家安全團(tuán)隊(duì)的指令是,目前還不用太擔(dān)心機(jī)器會(huì)掌管世界。如果你擔(dān)心的是非***組織,或是懷有敵意的活動(dòng)者去滲透這些系統(tǒng),那么從理論上來說,這與我們目前所做的信息安全工作沒有太大區(qū)別。這只是意味著,我們需要做得更好,因?yàn)榭赡懿渴疬@些系統(tǒng)的人也在變得更厲害。
伊藤穰一:總體上同意這一說法。唯一的警告是,有些人認(rèn)為,有很高的概率通用人工智能會(huì)在未來10年中誕生。然而在我看來,如果希望開發(fā)出通用人工智能,那么我們需要十余項(xiàng)甚至二十余項(xiàng)突破。你可以看看,這些突破會(huì)發(fā)生在什么時(shí)間。
奧巴馬:你可以讓人坐在電源旁。(笑)如果你發(fā)現(xiàn)通用人工智能誕生,那么可以讓他立即把電源拔了。
伊藤穰一:重要的是找到愿意將人工智能用于善意用途的人群,包括社區(qū)和領(lǐng)導(dǎo)者,隨后研究如何給予他們幫助。
奧巴馬:傳統(tǒng)上,當(dāng)我們思考安全問題,以及如何保護(hù)自己時(shí),我們會(huì)想到盔甲和墻壁。然而目前我會(huì)越來越多地想到藥品、病毒和抗體。信息安全問題依然很困難,部分原因在于,威脅并不像是一隊(duì)***朝你沖來,而是整個(gè)系統(tǒng)很容易被蠕蟲入侵。這意味著,對(duì)于安全問題我們需要有不同的思考,進(jìn)行不同的投資。這樣的投資可能并不性感,但卻與其他東西一樣重要。
很多時(shí)候我會(huì)擔(dān)心諸如傳染病的問題。你不可能建設(shè)一堵墻,將通過空氣傳播的致命流感阻擋在我們的土地外。我們需要具備的能力是建設(shè)體系,在全世界各個(gè)地方發(fā)展公共健康系統(tǒng),在發(fā)現(xiàn)有異常時(shí)啟動(dòng)開關(guān)通知我們,確保我們有迅速執(zhí)行的協(xié)議和系統(tǒng),讓疫苗更智能。因此,通過公共健康的模式,你就可以想象我們?nèi)绾翁幚硇畔踩珕栴},以及如何以建設(shè)性的方式去思考人工智能威脅。
伊藤穰一:有趣的一方面在于我們?nèi)绾慰创⑸?。有多方面證據(jù)顯示,利用好細(xì)菌去攻擊壞細(xì)菌,而非全面殺菌,是一種策略。
奧巴馬:是這樣。我不會(huì)允許寵物犬Sunny和Bo5去舔我,因?yàn)楫?dāng)我在路邊草坪遛狗時(shí),我發(fā)現(xiàn)他們會(huì)撿地上的東西咬。我可不想要這些。(笑)
伊藤穰一:我們需要思考,干凈的定義是什么。信息安全和國家安全的情況也類似。我認(rèn)為,如果你的思路是制定嚴(yán)格命令,或是清除一切可能的病原體,那么將非常困難。
《連線》:這是否可能帶來新軍備競(jìng)賽的風(fēng)險(xiǎn)?
奧巴馬:毫無疑問,圍繞信息安全和人工智能制定國際準(zhǔn)則、協(xié)議和認(rèn)證機(jī)制還處于起步階段。這一問題之所以有趣,部分是因?yàn)楣艉头烙g的界線正在模糊。而在人們失去對(duì)***信任的情況下,這尤為困難。全球許多國家都認(rèn)為美國是信息霸主,因此是時(shí)候我們?nèi)フf,“我們?cè)敢庾晕蚁拗疲灰銈円苍敢庾晕蚁拗啤?。挑?zhàn)在于最復(fù)雜的***參與者,例如俄羅斯和伊朗,他們通常和我們有著不同的價(jià)值觀和準(zhǔn)則。然而,我們需要把這些定位成國際問題,從而有效地處理。
伊藤穰一:我認(rèn)為,我們正處于人們?cè)敢庀嗷贤ǖ狞S金時(shí)代。如果我們有能力保證,資金和能源可以帶來公開的分享,那么將有很多好處。你無法憑空做得很好,目前仍是國際社會(huì)的問題。
奧巴馬:我認(rèn)為伊藤穰一的說法完全正確。我們與對(duì)此感興趣的所有人舉辦了一系列會(huì)議。我們說得不多,而我想回頭去看的一方面是,我們需要思考經(jīng)濟(jì)方面的意義。大部分人沒有花很多時(shí)間去擔(dān)心“奇點(diǎn)”,而是擔(dān)心“我的工作是否會(huì)被機(jī)器取代”。
我傾向于持樂觀態(tài)度。以往我們也曾接受過新技術(shù),人們會(huì)看到新工作崗位被創(chuàng)造出來,而他們將會(huì)隨之遷移,我們的生活標(biāo)準(zhǔn)將普遍上升。我認(rèn)為,由于人工智能和其他技術(shù)的普遍適用性,目前我們處于一個(gè)略微不同的時(shí)期。在這樣的體系下,高技能人才做得很好。他們可以利用自己的才能,可以通過機(jī)器界面去擴(kuò)大覆蓋,增加銷售,拓展產(chǎn)品和服務(wù)。
低薪酬、弱技能的人群將越來越顯得多余,他們的工作崗位可能不會(huì)被替代,但工資將持續(xù)受到壓力。如果我們希望成功管理這樣的過渡,那么關(guān)于如何進(jìn)行管理,我們需要展開全社會(huì)的對(duì)話。如果我們完成更多的生產(chǎn),但其中越來越多的部分只被少數(shù)人獲取,那么我們?nèi)绾未_保經(jīng)濟(jì)具有包容性?我們?nèi)绾未_保,人們擁有維持生活的收入?從支持藝術(shù)和文化發(fā)展,或是確保老兵得到合適照顧的角度來看,這又意味著什么?社會(huì)契約需要容納這些新技術(shù),我們的經(jīng)濟(jì)模式也需要容納這些技術(shù)。
伊藤穰一:很難猜測(cè),什么樣的工作將被取代。如果假定你有一臺(tái)計(jì)算機(jī),能理解醫(yī)療系統(tǒng),非常善于診斷,那么相對(duì)于護(hù)士和藥劑師,醫(yī)生更容易被取代,因?yàn)樽o(hù)士和藥劑師的成本更低。一些高端工作崗位,例如律師和審計(jì)師,也有可能不復(fù)存在。相對(duì)而言,許多服務(wù)行業(yè)工種,以及藝術(shù)類工作,即計(jì)算機(jī)不太擅長的領(lǐng)域,很難被替代。我不知道你如何看待普遍基本收入,但當(dāng)我們看到有崗位被替代時(shí),一種思路是我們?nèi)タ纯雌渌J?,例如學(xué)術(shù)研究和藝術(shù),在這些領(lǐng)域人們的目標(biāo)不與金錢直接相關(guān)。我認(rèn)為,問題之一在于,我們有一種普遍的觀念,如果你沒錢,那么算什么聰明?但實(shí)際上,在學(xué)術(shù)界,我遇到過許多沒錢的聰明人。
奧巴馬:完全正確,這也是我所說的重新設(shè)計(jì)社會(huì)契約。目前,無論普遍基本收入是否是正確的模式,這一模式是否被廣泛的人群所接受?這是個(gè)我們已經(jīng)討論了10年、20年的話題。人工智能取代的不僅是弱技能的工作,也可能會(huì)是高技能的工作,但這些工作的可重復(fù)性很強(qiáng),因此計(jì)算機(jī)有能力勝任。毋庸置疑的是,隨著人工智能得到更廣泛的應(yīng)用,社會(huì)可能會(huì)越來越富裕,生產(chǎn)和分配之間的關(guān)聯(lián),即干多少和掙多少之間的關(guān)聯(lián)將越來越弱化。計(jì)算機(jī)將會(huì)去完成大量工作。因此,我們需要做一些更困難的決定。我們給老師們支付的報(bào)酬不足,盡管這是困難的工作,計(jì)算機(jī)也很難做得好。因此我們需要重新評(píng)估價(jià)值觀,我們?cè)敢鉃槭裁礃拥娜酥Ц陡叩膱?bào)酬,是教師、護(hù)士、護(hù)工、全職媽媽、藝術(shù)家?這些事都很有價(jià)值,但在我們的薪酬體系中排序不高。我們需要啟動(dòng)這樣的對(duì)話。
《連線》:在解決***中最大的挑戰(zhàn)時(shí),你會(huì)關(guān)心什么樣的技術(shù)?
奧巴馬:為了讓***對(duì)人民更友好,或者說至少讓你的報(bào)稅流程變得像點(diǎn)披薩或買機(jī)票一樣簡單,我們還有很多工作要做。無論是鼓勵(lì)人們投票,還是推進(jìn)大數(shù)據(jù)應(yīng)用,幫助人們更快地完成在線表格處理,都需要做很多工作,推動(dòng)聯(lián)邦***、州***和地方***進(jìn)入21世紀(jì)。***和企業(yè)界的人才差距并不是那么大。然而,技術(shù)的差距是巨大的。當(dāng)我首次來到這里時(shí),我認(rèn)為白宮戰(zhàn)情室肯定非???,就像是湯姆·克魯斯在《少數(shù)派報(bào)告》中場(chǎng)景。實(shí)際上根本不是這樣。(笑)特別是我們要打擊地球另一邊的***時(shí),電影會(huì)把我們描繪成為無所不能,實(shí)際并非如此。我們的資金不足,機(jī)制設(shè)置也不合理。
關(guān)于圍繞技術(shù)更廣泛的問題,我堅(jiān)定地相信,如果我們希望正確處理氣候改變,如果我們想要踩下剎車,阻止海平面上升6英尺,那么人類需要弄清一些問題。我是樂觀主義者。我們已經(jīng)完成了許多不錯(cuò)的工作,但還有很長的路要走。
關(guān)于我們要如何以負(fù)責(zé)任、透明、安全的方式管理互聯(lián)網(wǎng)上的連接,幫助我們找出壞家伙,并保證***不會(huì)對(duì)我們所有人的生活造成太大干擾,我們?nèi)栽谶M(jìn)行研究。其中一些是技術(shù)問題,加密就是很好的例子。我多次見過自由主義者和與國家安全相關(guān)的人士。這是個(gè)棘手的問題,因?yàn)殛P(guān)于我們要如何調(diào)和這一問題,沒有人能給我真正好的答案。
由于這是個(gè)前沿問題,我希望提到的最后一點(diǎn)是,我仍是個(gè)太空迷,而在對(duì)下一代太空旅行展開探索的過程中我們的資金投入不足。民營公司完成了很棒的工作,因?yàn)閷?duì)瘋狂概念的投資已經(jīng)取代了***投資。不過當(dāng)我們?cè)O(shè)想太空飛行時(shí),我們研究的仍然是“阿波羅”時(shí)代的化學(xué)反應(yīng)。時(shí)間已經(jīng)過了50年,我們應(yīng)當(dāng)取得一些突破。
《連線》:我知道你是《星際迷航》的粉絲。這部電影的靈感來自于對(duì)技術(shù)的烏托邦式理想。在你對(duì)未來的看法中,這帶來了什么影響?
奧巴馬:當(dāng)我還是小孩子時(shí),我就很喜歡《星際迷航》。電影很有趣。讓這部電影經(jīng)久不衰的是,這實(shí)際上與技術(shù)無關(guān)。這關(guān)于價(jià)值觀和人際關(guān)系。這也說明了,為何特效不是那么重要。這部電影探討的關(guān)鍵在于共同人性,以及我們解決問題能力的信心。
近期有部電影反映了同樣的精神,這就是《火星救援》。不僅是因?yàn)檫@有著復(fù)雜的場(chǎng)景,也是由于電影中展示了許多不同人物嘗試解決同一個(gè)問題。通過創(chuàng)造性和努力,并堅(jiān)信最終能夠成功,我們就可以做到。這是我最喜歡美國的一點(diǎn),也是這部電影持續(xù)吸引全球各地觀眾的原因,即對(duì)于面臨的問題,我們的精神是“我們可以解決這個(gè)問題”。以這種觀念來看,科學(xué)最大的價(jià)值也是在于幫助我們解決問題。我們會(huì)嘗試,如果不成功,我們將會(huì)探索為何不成功,隨后再進(jìn)行別的嘗試。我們將***自己的錯(cuò)誤,因?yàn)檫@最終將教會(huì)我們?nèi)绾谓鉀Q問題。如果失去這樣的精神,我們將會(huì)失去美國的本質(zhì)和人類的本質(zhì)。
伊藤穰一:完全贊成。我喜歡《星際迷航》中的樂觀精神。而我也看到,聯(lián)邦的構(gòu)成非常多元化,船員多元化,而壞家伙實(shí)際上并不是惡魔,他們只是被誤導(dǎo)。
奧巴馬:與任何優(yōu)秀的故事一樣,《星際迷航》所說的是,我們所有人都很復(fù)雜,我們總是有多個(gè)側(cè)面。這就是我所說的解決問題。解決問題的一部分是克服障礙,彌合差異。我們相信理性,并保持一定的謙卑。對(duì)最優(yōu)秀的藝術(shù)和科學(xué)來說,情況都是這樣。我們已經(jīng)掌握了可以為我所用的許多難以置信的思想。然而,我們?nèi)灾唤议_了幕布一角,不應(yīng)該過于自大。我們應(yīng)當(dāng)提醒自己,還有很多是我們不知道的。
評(píng)論