自“阿爾法狗事件”以來(lái)，人工智能成了一個(gè)膾炙人口的熱詞。事實(shí)上，人工智能誕生迄今已有70年，期間有過(guò)三次發(fā)展高潮。但中國(guó)只參與了當(dāng)下第三波發(fā)展，且短短幾年內(nèi)對(duì)人工智能的關(guān)注被不斷放大，因此社會(huì)上普遍缺乏對(duì)其成熟的理解。許多人認(rèn)為不久以后人工智能技術(shù)將超越某個(gè)臨界點(diǎn)，然后指數(shù)級(jí)地超越人類(lèi)能力。也有觀點(diǎn)認(rèn)為，現(xiàn)有人工智能技術(shù)只是“人工弱智”，有多少人工就有多少智能，實(shí)際并不智能。這些誤區(qū)是中國(guó)人工智能發(fā)展的主要思想障礙。長(zhǎng)期從事人工智能與機(jī)器人交叉研究的中科大陳小平教授基于對(duì)70年來(lái)人工智能技術(shù)成果的總結(jié)梳理，分析了人工智能到底如何運(yùn)作、到底有多智能等問(wèn)題，并提出了理解人工智能的“封閉性準(zhǔn)則”。他認(rèn)為，在封閉性場(chǎng)景中，我們不僅可以規(guī)避人工智能技術(shù)失控的風(fēng)險(xiǎn)，而且可以推動(dòng)現(xiàn)有人工智能技術(shù)在未來(lái)10-15年內(nèi)中國(guó)產(chǎn)業(yè)升級(jí)中發(fā)揮關(guān)鍵作用，為產(chǎn)業(yè)發(fā)展帶來(lái)新的廣闊空間。

封閉性場(chǎng)景：人工智能的產(chǎn)業(yè)化路徑

目前，社會(huì)上對(duì)于人工智能技術(shù)的討論可謂眾說(shuō)紛紜，莫衷一是。有觀點(diǎn)認(rèn)為，人工智能技術(shù)已經(jīng)或即將全面超越人類(lèi)的能力水平，已經(jīng)可以無(wú)條件應(yīng)用，因而也會(huì)產(chǎn)生嚴(yán)重的倫理危機(jī)；也有觀點(diǎn)認(rèn)為，現(xiàn)有人工智能技術(shù)只是“人工弱智”，“有多少人工就有多少智能”，因而無(wú)法應(yīng)用，也就根本不存在倫理風(fēng)險(xiǎn)。但如果依據(jù)前一種看法從現(xiàn)在開(kāi)始就限制人工智能的發(fā)展，或者基于后一種看法完全放棄對(duì)人工智能倫理風(fēng)險(xiǎn)的監(jiān)管，都是不明智的。

本文立足于對(duì)70年來(lái)人工智能的技術(shù)成果進(jìn)行總結(jié)梳理，根據(jù)對(duì)現(xiàn)有人工智能成果的技術(shù)本質(zhì)的理解，提出人工智能封閉性和強(qiáng)封閉性準(zhǔn)則，形成觀察人工智能的一種新視角，進(jìn)而得出以下觀察：第一，在滿(mǎn)足強(qiáng)封閉性準(zhǔn)則的場(chǎng)景中，現(xiàn)有人工智能技術(shù)可以大規(guī)模應(yīng)用，而在不滿(mǎn)足該準(zhǔn)則的場(chǎng)景中難以獲得成功應(yīng)用；第二，受強(qiáng)封閉性準(zhǔn)則的制約，短期內(nèi)不存在人工智能技術(shù)失控的風(fēng)險(xiǎn)，而未來(lái)長(zhǎng)期風(fēng)險(xiǎn)也是可控的；第三，在強(qiáng)封閉性準(zhǔn)則的有效范圍內(nèi)，人工智能的主要風(fēng)險(xiǎn)來(lái)自技術(shù)誤用和管理失誤。脫離人工智能技術(shù)本質(zhì)的政策，將難以避免“***”的監(jiān)管困境。

▍人工智能應(yīng)用與治理的迫切需求

人工智能迄今已有約70年歷史，出現(xiàn)了三次浪潮，每次浪潮經(jīng)歷大約20年。也有人將以往的人工智能技術(shù)歸結(jié)為兩代，每代的發(fā)展經(jīng)歷了30~40年。由于本輪產(chǎn)業(yè)升級(jí)的窗口期只有10~15年，而一代新技術(shù)從誕生到成熟往往需要幾十年，所以本輪產(chǎn)業(yè)升級(jí)依靠的人工智能技術(shù)，將主要是現(xiàn)有人工智能技術(shù)的工程化落地，而不是等待下一代新技術(shù)的成熟。于是，下列問(wèn)題尖銳地呈現(xiàn)在全社會(huì)面前：10~15年內(nèi)，現(xiàn)有人工智能技術(shù)能否以及如何在我國(guó)產(chǎn)業(yè)升級(jí)中發(fā)揮關(guān)鍵作用？如果我們不能從現(xiàn)有人工智能技術(shù)的本質(zhì)出發(fā)回答這個(gè)問(wèn)題，人工智能?chē)?guó)家戰(zhàn)略必將落空，與此有關(guān)的產(chǎn)業(yè)升級(jí)也必將受到極大影響。

在西方發(fā)達(dá)國(guó)家中，人工智能的前三次浪潮均引起普遍關(guān)注，因而社會(huì)各界對(duì)人工智能的了解是長(zhǎng)期的，也較容易形成較為客觀的看法。但在我國(guó)，由于社會(huì)上普遍關(guān)心的只有人工智能的第三次浪潮，而且在短短幾年之內(nèi)這種關(guān)注又被放大，故而普遍存在著對(duì)人工智能技術(shù)真相了解不夠，甚至誤將國(guó)外影視作品當(dāng)作現(xiàn)實(shí)的現(xiàn)象。而我國(guó)人工智能領(lǐng)域的專(zhuān)家學(xué)者，又極少介入社會(huì)上的討論，極少參與倫理風(fēng)險(xiǎn)研究和政策制定。因而，如果相關(guān)政策建議不能如實(shí)反映人工智能技術(shù)本質(zhì)、應(yīng)用條件和發(fā)展態(tài)勢(shì)，必將隱含著管理失誤的巨大風(fēng)險(xiǎn)。

▍人工智能三次浪潮的技術(shù)進(jìn)展

人工智能研究已形成了至少幾千種不同的技術(shù)路線(xiàn)，其中最成功、影響最大的有兩種，被稱(chēng)為人工智能的兩種經(jīng)典思維：“基于模型的暴力法” 與“基于元模型的訓(xùn)練法”。這兩種思維雖然不能代表人工智能的全部，但它們已經(jīng)不是停留在單個(gè)技術(shù)的層面，而是上升到“機(jī)器思維”的高度，因而它們?cè)诮趹?yīng)用中發(fā)揮關(guān)鍵作用，最值得關(guān)注。

第一種人工智能經(jīng)典思維是“基于模型的暴力法”，其基本設(shè)計(jì)原理是：第一，構(gòu)建問(wèn)題的一個(gè)精確模型；第二，建立一個(gè)表達(dá)該模型的知識(shí)表示或狀態(tài)空間，使得推理或搜索在計(jì)算上是可行的；第三，在上述知識(shí)表示或狀態(tài)空間中，用推理法或搜索法窮舉所有選項(xiàng)，找出問(wèn)題的一個(gè)解。因此，暴力法包含推理法和搜索法兩種主要實(shí)現(xiàn)方法，它們具有共同的基本前提：待解問(wèn)題存在良定義的、精確的符號(hào)模型。

在推理法中，通常采用邏輯形式化、概率形式化或決策論形式化作為知識(shí)表達(dá)的手段。以邏輯形式化為例，一個(gè)AI推理系統(tǒng)由一個(gè)知識(shí)庫(kù)和一個(gè)推理機(jī)組成，推理機(jī)是一個(gè)執(zhí)行推理的計(jì)算機(jī)程序，往往由專(zhuān)業(yè)團(tuán)隊(duì)長(zhǎng)期研發(fā)而成，而知識(shí)庫(kù)則需要由不同應(yīng)用的研發(fā)者自行開(kāi)發(fā)。推理機(jī)根據(jù)知識(shí)庫(kù)里的知識(shí)進(jìn)行推理，回答提問(wèn)。

基于形式化邏輯系統(tǒng)的推理機(jī)的研制以對(duì)應(yīng)邏輯的“保真性”為標(biāo)準(zhǔn)，因此推理機(jī)本身是“可證正確的”—只要推理機(jī)使用的知識(shí)庫(kù)是“正確的”，則對(duì)知識(shí)庫(kù)有效范圍內(nèi)的任何問(wèn)題，推理機(jī)給出的回答都是正確的。然而，一個(gè)知識(shí)庫(kù)的“正確性”以及相對(duì)于一個(gè)應(yīng)用領(lǐng)域的充分性，至今沒(méi)有形成公認(rèn)的、可操作的標(biāo)準(zhǔn)，只能通過(guò)測(cè)試進(jìn)行實(shí)驗(yàn)檢驗(yàn)。

第二種人工智能經(jīng)典思維是“基于元模型的訓(xùn)練法”，其基本設(shè)計(jì)原理是：第一，建立問(wèn)題的元模型；第二，參照元模型，收集訓(xùn)練數(shù)據(jù)并進(jìn)行人工標(biāo)注，選擇一種合適的人工神經(jīng)網(wǎng)絡(luò)結(jié)構(gòu)和一個(gè)監(jiān)督學(xué)習(xí)算法；第三，依數(shù)據(jù)擬合原理，以帶標(biāo)注的數(shù)據(jù)，用上述監(jiān)督學(xué)習(xí)算法訓(xùn)練上述人工神經(jīng)網(wǎng)絡(luò)的連接權(quán)重，使得網(wǎng)絡(luò)輸出總誤差最小。訓(xùn)練好的人工神經(jīng)網(wǎng)絡(luò)可以對(duì)任意輸入快速計(jì)算出對(duì)應(yīng)的輸出，并達(dá)到一定的準(zhǔn)確性。例如，針對(duì)給定的圖像庫(kù)，一些經(jīng)過(guò)訓(xùn)練的深層神經(jīng)網(wǎng)絡(luò)，可以對(duì)輸入的圖片進(jìn)行分類(lèi)，輸出圖片中物體的種類(lèi)，分類(lèi)準(zhǔn)確性已超過(guò)人類(lèi)。然而，訓(xùn)練法目前沒(méi)有可證正確性，甚至沒(méi)有可解釋性。

在訓(xùn)練法中，只有監(jiān)督學(xué)習(xí)算法和帶標(biāo)注的數(shù)據(jù)是不夠的，還必須對(duì)學(xué)習(xí)目標(biāo)、評(píng)價(jià)準(zhǔn)則、測(cè)試方法、測(cè)試工具等進(jìn)行人工選擇。本文將這些人工選擇匯集在一起，用“元模型”概括它們。因此，訓(xùn)練法絕不是只要有訓(xùn)練數(shù)據(jù)和訓(xùn)練算法就行的，人工智能已具備獨(dú)立于人類(lèi)的“自我學(xué)習(xí)”能力的說(shuō)法更是毫無(wú)根據(jù)的。

訓(xùn)練法和暴力法都存在“脆弱性”問(wèn)題：如果輸入不在知識(shí)庫(kù)或訓(xùn)練好的人工神經(jīng)網(wǎng)絡(luò)的覆蓋范圍內(nèi)，將產(chǎn)生錯(cuò)誤的輸出。針對(duì)實(shí)際應(yīng)用中無(wú)處不在的感知噪聲，美國(guó)麻省理工學(xué)院做過(guò)一個(gè)測(cè)試。先用一個(gè)著名的商業(yè)機(jī)器學(xué)習(xí)系統(tǒng)訓(xùn)練出一個(gè)深層神經(jīng)網(wǎng)絡(luò)，該網(wǎng)絡(luò)可以從照片中識(shí)別各種槍支，并達(dá)到很高的正確識(shí)別率。然后，人為修改了這些照片上的少量像素（代表感知噪聲），這些修改對(duì)人眼識(shí)別沒(méi)有任何影響，可是訓(xùn)練好的深層神經(jīng)網(wǎng)絡(luò)卻不能正確識(shí)別修改后的照片，而且會(huì)發(fā)生離奇的錯(cuò)誤。自20世紀(jì)80年代以來(lái)，脆弱性已成為制約現(xiàn)有人工智能技術(shù)成功應(yīng)用的主要瓶頸。

除了脆弱性之外，暴力法和訓(xùn)練法還存在其他短板。工程上，訓(xùn)練法的主要短板是需要對(duì)大量原始數(shù)據(jù)進(jìn)行人工標(biāo)注，費(fèi)時(shí)費(fèi)力，且難以保證標(biāo)注質(zhì)量；暴力法的主要短板是需要人工編寫(xiě)知識(shí)庫(kù)或制定搜索空間，而這兩項(xiàng)工作對(duì)于絕大多數(shù)開(kāi)發(fā)者而言是十分困難的。因此，嘗試將暴力法和訓(xùn)練法取長(zhǎng)補(bǔ)短，以消除或減少它們各自的短板，一直是人工智能的一個(gè)研究課題。

AlphaGo Zero采用了四項(xiàng)人工智能技術(shù)，包括兩項(xiàng)暴力法技術(shù)—簡(jiǎn)化的決策論模型和蒙特卡洛樹(shù)搜索，用這兩項(xiàng)技術(shù)進(jìn)行自博（自己和自己下棋），自動(dòng)產(chǎn)生訓(xùn)練數(shù)據(jù)和標(biāo)注，而且不僅下了人類(lèi)下過(guò)的很多棋，也下了人類(lèi)沒(méi)下過(guò)的很多棋；另外兩項(xiàng)是訓(xùn)練法技術(shù)——?dú)埐罹W(wǎng)絡(luò)和強(qiáng)化學(xué)習(xí)，強(qiáng)化學(xué)習(xí)算法用自博產(chǎn)生的全部訓(xùn)練數(shù)據(jù)及標(biāo)注對(duì)殘差網(wǎng)絡(luò)進(jìn)行訓(xùn)練，不斷改進(jìn)殘差網(wǎng)絡(luò)，最終訓(xùn)練出一個(gè)網(wǎng)絡(luò)，其下棋水平遠(yuǎn)遠(yuǎn)超過(guò)了人類(lèi)。這也表明，認(rèn)為AlphaGo Zero僅僅是深度學(xué)習(xí)的勝利，是一個(gè)巨大的誤解。正是由于暴力法和訓(xùn)練法的結(jié)合，使得AlphaGo Zero完全不需要人工標(biāo)注和人類(lèi)圍棋知識(shí)（除了規(guī)則）。

根據(jù)規(guī)則，圍棋一共可以下出大約10的300次方局不同的棋。AlphaGo Zero通過(guò)40天自博，下了2900萬(wàn)局棋（不到10的8次方），僅僅探索了所有圍棋棋局中的一個(gè)極小部分，所以AlphaGo Zero的下棋水平還有巨大的提升空間。這表明，在現(xiàn)有人工智能技術(shù)的有效工作范圍內(nèi)，人工智能系統(tǒng)的能力已經(jīng)遠(yuǎn)遠(yuǎn)超過(guò)了人類(lèi)，“多少人工多少智能”的說(shuō)法是沒(méi)有根據(jù)的，也是不符合事實(shí)的。

以上分析表明，社會(huì)上流行的兩種極端說(shuō)法都是不成立的。那么，現(xiàn)有人工智能技術(shù)的真實(shí)能力到底如何？

▍現(xiàn)有人工智能技術(shù)的能力邊界—封閉性

有人認(rèn)為：圍棋是最難的問(wèn)題，既然AlphaGo在最難的問(wèn)題上超過(guò)了人類(lèi)，當(dāng)然人工智能已全面超過(guò)了人類(lèi)。但事實(shí)上，對(duì)人工智能而言，圍棋是最容易的一類(lèi)問(wèn)題，比圍棋更難的問(wèn)題不僅有，而且非常多，而在這些問(wèn)題上，現(xiàn)有人工智能技術(shù)遠(yuǎn)遠(yuǎn)達(dá)不到人的能力水平。

因此，我們需要某種準(zhǔn)則，以便客觀地判斷：哪些場(chǎng)景中的應(yīng)用是現(xiàn)有人工智能技術(shù)能夠解決的，哪些問(wèn)題是不能解決的。這個(gè)準(zhǔn)則就是封閉性。為了便于理解，這里給出封閉性的一種盡可能通俗的描述。

一個(gè)應(yīng)用場(chǎng)景具有封閉性，如果下列兩條件之一得到滿(mǎn)足：（1）存在一個(gè)可計(jì)算的和語(yǔ)義完全的模型，并且所有提問(wèn)在該模型的可解范圍內(nèi)；（2）存在有限確定的元模型，并且代表性數(shù)據(jù)集也是有限確定的。

封閉性條件（1）和條件（2）是分別針對(duì)暴力法和訓(xùn)練法而言的。一個(gè)應(yīng)用場(chǎng)景如果不滿(mǎn)足條件（1）或條件（2）中的任何一個(gè)要求，則該場(chǎng)景應(yīng)用就不能用暴力法或訓(xùn)練法解決。例如，假設(shè)一個(gè)場(chǎng)景具有可計(jì)算的和語(yǔ)義完全的模型，但某些提問(wèn)不在該模型的可解范圍內(nèi)，那么就不能保證智能系統(tǒng)對(duì)這些提問(wèn)的回答都是正確的，這時(shí)就出現(xiàn)了脆弱性。

因此，封閉性給出了一個(gè)場(chǎng)景中的應(yīng)用能夠被暴力法或訓(xùn)練法解決的理論上的必要條件，也就是說(shuō)，不滿(mǎn)足這些條件的場(chǎng)景應(yīng)用是不可能用現(xiàn)有人工智能技術(shù)實(shí)現(xiàn)的。但是，實(shí)際場(chǎng)景往往是非常復(fù)雜的，理論上的必要條件與工程實(shí)際之間存在一定距離。例如，用訓(xùn)練法進(jìn)行圖像分類(lèi)時(shí)，不保證分類(lèi)誤識(shí)別率為零，而且錯(cuò)誤的性質(zhì)可能非常嚴(yán)重，無(wú)法滿(mǎn)足用戶(hù)的需求。為了盡可能縮小理論與實(shí)際之間的距離，本文引入強(qiáng)封閉性準(zhǔn)則如下。

一個(gè)場(chǎng)景具有強(qiáng)封閉性，如果下列條件全部得到滿(mǎn)足：（1）該場(chǎng)景具有封閉性；（2）該場(chǎng)景具有失誤非致命性，即應(yīng)用于該場(chǎng)景的智能系統(tǒng)的失誤不產(chǎn)生致命的后果；（3）基礎(chǔ)條件成熟性，即封閉性包含的要求在該應(yīng)用場(chǎng)景中都得到實(shí)際滿(mǎn)足。

基礎(chǔ)條件成熟性包含的內(nèi)容較多，下面介紹兩種重要的典型情況。

第一種情況是，滿(mǎn)足要求的模型理論上存在，工程上構(gòu)建不出。封閉性準(zhǔn)則中的條件（1）要求，存在一個(gè)可計(jì)算的和語(yǔ)義完全的模型，而這里所謂“存在”只要理論上成立就行。但對(duì)于一項(xiàng)具體的工程項(xiàng)目來(lái)說(shuō)，僅僅在理論上存在這樣的模型是不夠的，必須能夠在該項(xiàng)目要求的施工期限內(nèi)，實(shí)際地構(gòu)建出一個(gè)這樣的模型。可是有些場(chǎng)景過(guò)于復(fù)雜，無(wú)法在項(xiàng)目期限內(nèi)實(shí)際構(gòu)建出它的模型。于是，這樣的場(chǎng)景雖然符合封閉性準(zhǔn)則，卻在項(xiàng)目實(shí)施中無(wú)法成功。基礎(chǔ)條件成熟性要求：在項(xiàng)目施工期限內(nèi)可以實(shí)際構(gòu)建出所需的模型，因而強(qiáng)封閉性準(zhǔn)則反映了工程可行性。

第二種情況是，代表性數(shù)據(jù)集理論上存在，工程中得不到。封閉性準(zhǔn)則的條件（2）要求保證找到一個(gè)復(fù)雜問(wèn)題的代表性數(shù)據(jù)集，即使理論上可以證明存在這樣的代表性數(shù)據(jù)集。因此，目前主要在環(huán)境變化可忽略或可控的場(chǎng)景中運(yùn)用訓(xùn)練法，因?yàn)榇硇詳?shù)據(jù)集在這種場(chǎng)景中是可以得到的。這里的“環(huán)境變化可忽略或可控”就是強(qiáng)封閉性準(zhǔn)則的一項(xiàng)具體要求，而封閉性準(zhǔn)則不包含這項(xiàng)要求。

當(dāng)一個(gè)應(yīng)用場(chǎng)景出現(xiàn)以上兩種情況時(shí)，怎么處理才能符合強(qiáng)封閉性準(zhǔn)則？對(duì)于多數(shù)企業(yè)特別是中小企業(yè)來(lái)說(shuō)，最有效的辦法是進(jìn)行場(chǎng)景裁剪，比如縮小場(chǎng)景規(guī)模、舍棄場(chǎng)景中難以建模的部分、舍棄場(chǎng)景中環(huán)境變化不可控或不可忽視的部分，使得裁剪后的場(chǎng)景符合強(qiáng)封閉性準(zhǔn)則。

另外，人工智能技術(shù)在實(shí)際應(yīng)用中往往起“畫(huà)龍點(diǎn)睛”的作用，而不是單打獨(dú)斗地解決一個(gè)行業(yè)的全部技術(shù)問(wèn)題。因此，通常是在其他條件都已具備，卻仍然無(wú)法實(shí)現(xiàn)預(yù)期工程目標(biāo)的情況下，引入人工智能技術(shù)以攻克難點(diǎn)，從而發(fā)揮關(guān)鍵性作用。這也是基礎(chǔ)條件成熟性的要求之一。例如，傳統(tǒng)制造業(yè)的信息化和自動(dòng)化、大面積高標(biāo)準(zhǔn)農(nóng)田的實(shí)施，分別為我國(guó)傳統(tǒng)制造業(yè)和現(xiàn)代農(nóng)業(yè)的智能化提供了重要的、決定性的基礎(chǔ)條件。

▍現(xiàn)有人工智能技術(shù)在實(shí)體經(jīng)濟(jì)中的落地路徑

在實(shí)體經(jīng)濟(jì)特別是制造業(yè)中，大量場(chǎng)景的自然形態(tài)非常復(fù)雜，難以通過(guò)場(chǎng)景裁剪使之符合強(qiáng)封閉性準(zhǔn)則。針對(duì)這種情況，可以采取場(chǎng)景改造的辦法。目前至少有如下三條場(chǎng)景改造策略，可以作為現(xiàn)有人工智能技術(shù)在實(shí)體經(jīng)濟(jì)中的落地路徑。

第一條落地路徑：封閉化。具體做法是將一個(gè)自然形態(tài)下的非封閉場(chǎng)景加以改造，使得改造后的場(chǎng)景具有強(qiáng)封閉性。場(chǎng)景改造在制造業(yè)中是常見(jiàn)的，也是成功的。例如汽車(chē)制造業(yè)，原始的生產(chǎn)過(guò)程是人工操作的，其中包含大量不確定性，不是封閉性場(chǎng)景。建設(shè)汽車(chē)自動(dòng)化生產(chǎn)線(xiàn)的本質(zhì)，是建立一個(gè)物理的三維坐標(biāo)系，使得生產(chǎn)過(guò)程中出現(xiàn)的一切（如車(chē)身、零件、機(jī)器人和其他裝備）都在這個(gè)坐標(biāo)系中被精確定位，誤差控制在亞毫米級(jí)以下，從而把非封閉的場(chǎng)景徹底改造為封閉的（這種改造在工業(yè)上稱(chēng)為“結(jié)構(gòu)化”），于是各種智能裝備和自動(dòng)化設(shè)備都可以自動(dòng)運(yùn)行，獨(dú)立完成生產(chǎn)任務(wù)。這種封閉化/結(jié)構(gòu)化策略正在越來(lái)越多地應(yīng)用于其他行業(yè)，而且智能化程度不斷提升。

第二條落地路徑：分治法。一些復(fù)雜的生產(chǎn)過(guò)程難以一次性地進(jìn)行封閉化，但可以從整個(gè)生產(chǎn)過(guò)程中分解出一些環(huán)節(jié)，對(duì)這些環(huán)節(jié)進(jìn)行封閉化，使之符合強(qiáng)封閉性準(zhǔn)則；而不能封閉化的環(huán)節(jié)繼續(xù)保留傳統(tǒng)生產(chǎn)模式，各個(gè)環(huán)節(jié)之間通過(guò)移動(dòng)機(jī)器人進(jìn)行連接。這種策略已被奧迪等大型企業(yè)采納，其實(shí)對(duì)較小型企業(yè)也是適用的。

第三條落地路徑：準(zhǔn)封閉化。在服務(wù)業(yè)和人機(jī)協(xié)作等場(chǎng)合，普遍存在著大量無(wú)法徹底封閉化的場(chǎng)景，這時(shí)可考慮采取“準(zhǔn)封閉化”策略：將應(yīng)用場(chǎng)景中可能導(dǎo)致致命性失誤的部分徹底封閉化，不會(huì)出現(xiàn)致命性失誤的部分半封閉化。舉一個(gè)運(yùn)輸業(yè)的例子，高鐵系統(tǒng)的行車(chē)部分是封閉化的，而乘客的活動(dòng)不要求封閉化，在遵守相關(guān)規(guī)定的前提下可自由活動(dòng)。對(duì)于服務(wù)業(yè)的很多場(chǎng)景，只要滿(mǎn)足失誤非致命性條件，就可以放寬封閉性程度要求，因?yàn)檫m當(dāng)條件下，這些場(chǎng)景中的人可以彌補(bǔ)人工智能系統(tǒng)的不足。

因此，強(qiáng)封閉性準(zhǔn)則并非簡(jiǎn)單地要求一個(gè)場(chǎng)景在自然形態(tài)下滿(mǎn)足該準(zhǔn)則，而是指出一個(gè)目標(biāo)方向，并通過(guò)場(chǎng)景裁剪或場(chǎng)景改造，只要裁剪/改造后的場(chǎng)景符合強(qiáng)封閉性準(zhǔn)則，就可以在該場(chǎng)景中應(yīng)用現(xiàn)有人工智能技術(shù)，實(shí)現(xiàn)產(chǎn)業(yè)升級(jí)。

不滿(mǎn)足強(qiáng)封閉性準(zhǔn)則（包括無(wú)法通過(guò)場(chǎng)景裁剪或場(chǎng)景改造滿(mǎn)足準(zhǔn)則）的場(chǎng)景也是大量存在的，現(xiàn)有人工智能技術(shù)在這些場(chǎng)景中難以實(shí)用化。一個(gè)典型例子是開(kāi)放領(lǐng)域的人機(jī)對(duì)話(huà)。由于這種對(duì)話(huà)的提問(wèn)集不是有限確定的，無(wú)法收集、標(biāo)注所有代表性提問(wèn)數(shù)據(jù)，也無(wú)法寫(xiě)出足夠的規(guī)則描述提問(wèn)或?qū)?yīng)的回答，因而無(wú)法用現(xiàn)有人工智能技術(shù)完全實(shí)現(xiàn)開(kāi)放領(lǐng)域的人機(jī)對(duì)話(huà)。

尤其值得注意的是，目前國(guó)內(nèi)外人工智能應(yīng)用都沒(méi)有充分體現(xiàn)強(qiáng)封閉性準(zhǔn)則，具體表現(xiàn)是：一方面選擇了自然形態(tài)下不符合強(qiáng)封閉性準(zhǔn)則的應(yīng)用場(chǎng)景，另一方面又沒(méi)有進(jìn)行充分的場(chǎng)景裁剪或場(chǎng)景改造。因此，人工智能應(yīng)用的現(xiàn)實(shí)情況不容樂(lè)觀。近來(lái)，國(guó)外媒體開(kāi)始注意到人工智能初創(chuàng)企業(yè)發(fā)展不順的情況，卻只報(bào)道現(xiàn)象，沒(méi)有分析深層原因。本文的觀察是直截了當(dāng)?shù)模喝斯ぶ悄芗夹g(shù)落地不順利的原因不是現(xiàn)有人工智能技術(shù)不具備應(yīng)用潛力，而是因?yàn)檫@些落地項(xiàng)目沒(méi)有通過(guò)充分的場(chǎng)景裁剪或場(chǎng)景改造，以確保符合強(qiáng)封閉性準(zhǔn)則的要求。

▍人工智能的風(fēng)險(xiǎn)分析

人工智能技術(shù)具有正、反兩方面的作用，在造福于人類(lèi)的同時(shí)，也存在各種風(fēng)險(xiǎn)。理論上可能存在四種風(fēng)險(xiǎn)：技術(shù)失控、技術(shù)誤用、應(yīng)用風(fēng)險(xiǎn)、管理失誤。從封閉性準(zhǔn)則的視角分析這些風(fēng)險(xiǎn)，可以得出更符合實(shí)際的觀察。對(duì)四種風(fēng)險(xiǎn)的具體分析簡(jiǎn)述如下。

風(fēng)險(xiǎn)1：技術(shù)失控。技術(shù)失控指的是技術(shù)的發(fā)展超越了人類(lèi)的控制能力，甚至人類(lèi)被技術(shù)控制，這是很多人最為擔(dān)憂(yōu)的風(fēng)險(xiǎn)。上面的分析表明，現(xiàn)有人工智能技術(shù)僅在滿(mǎn)足強(qiáng)封閉性準(zhǔn)則的條件下，才可發(fā)揮其強(qiáng)大功能；在非封閉的場(chǎng)景中，現(xiàn)有人工智能技術(shù)的能力遠(yuǎn)遠(yuǎn)不如人類(lèi)，而現(xiàn)實(shí)世界的大部分場(chǎng)景是非封閉的。所以，目前不存在技術(shù)失控風(fēng)險(xiǎn)，并且未來(lái)只要依據(jù)封閉性準(zhǔn)則做到以下三點(diǎn)，仍然可以避免技術(shù)失控。第一，在封閉化改造中，不僅考慮產(chǎn)業(yè)或商業(yè)需求，也考慮改造后場(chǎng)景的可控性，這種考慮不應(yīng)局限于單個(gè)場(chǎng)景，而應(yīng)通過(guò)行業(yè)標(biāo)準(zhǔn)批量式地制定和落實(shí)。第二，在對(duì)適用于非封閉性場(chǎng)景的人工智能新技術(shù)的研發(fā)中，不僅考慮技術(shù)性能，也考慮新技術(shù)的倫理風(fēng)險(xiǎn)及其可控性。第三，在對(duì)具有特殊需求的人工智能新技術(shù)的研發(fā)中，不僅考慮特殊需求的滿(mǎn)足，也考慮新技術(shù)的倫理風(fēng)險(xiǎn)和應(yīng)用條件，并嚴(yán)格控制這些技術(shù)的實(shí)際應(yīng)用。

風(fēng)險(xiǎn)2：技術(shù)誤用。與信息技術(shù)相關(guān)的技術(shù)誤用包括數(shù)據(jù)隱私問(wèn)題、安全性問(wèn)題和公平性問(wèn)題等，人工智能技術(shù)的應(yīng)用可以放大這些問(wèn)題的嚴(yán)重程度，也可能產(chǎn)生新的技術(shù)誤用類(lèi)型。在現(xiàn)有條件下，人工智能技術(shù)本身是中性的，是否出現(xiàn)誤用完全取決于技術(shù)的使用。因此，對(duì)人工智能技術(shù)誤用的重視和風(fēng)險(xiǎn)防范應(yīng)提上議事日程。值得注意的是，根據(jù)封閉性準(zhǔn)則，現(xiàn)有人工智能技術(shù)僅在封閉性場(chǎng)景中有效，而對(duì)于這種場(chǎng)景中的技術(shù)誤用，至少理論上是有辦法應(yīng)對(duì)的，所以應(yīng)該積極對(duì)應(yīng)，無(wú)須恐懼。不僅如此，應(yīng)用自動(dòng)驗(yàn)證等現(xiàn)有技術(shù)，可以消除或減輕某些技術(shù)誤用的風(fēng)險(xiǎn)。

風(fēng)險(xiǎn)3：應(yīng)用風(fēng)險(xiǎn)。應(yīng)用風(fēng)險(xiǎn)指的是技術(shù)應(yīng)用導(dǎo)致負(fù)面社會(huì)后果的可能性。目前人們最擔(dān)心的是人工智能在某些行業(yè)中的普遍應(yīng)用導(dǎo)致工作崗位的大量減少。應(yīng)用風(fēng)險(xiǎn)是由技術(shù)的應(yīng)用引起的，因此關(guān)鍵在于對(duì)應(yīng)用的掌控。根據(jù)強(qiáng)封閉性準(zhǔn)則，人工智能技術(shù)在實(shí)體經(jīng)濟(jì)中的應(yīng)用往往需要借助于場(chǎng)景改造，而場(chǎng)景改造完全處于人類(lèi)的控制之下，做多做少取決于相關(guān)的產(chǎn)業(yè)決策。因此，在強(qiáng)封閉性條件下，應(yīng)用風(fēng)險(xiǎn)是可控的；同時(shí)也意味著，產(chǎn)業(yè)決策及相關(guān)的風(fēng)險(xiǎn)預(yù)測(cè)是應(yīng)用風(fēng)險(xiǎn)防范的重點(diǎn)。

風(fēng)險(xiǎn)4：管理失誤。人工智能是一項(xiàng)新技術(shù)，它的應(yīng)用是一項(xiàng)新事物，社會(huì)缺乏管理經(jīng)驗(yàn)，容易陷入“一管就死，一放就亂”的局面。為此，更需要深入理解人工智能現(xiàn)有成果的技術(shù)本質(zhì)和技術(shù)條件，確保監(jiān)管措施的針對(duì)性、有效性。封閉性準(zhǔn)則刻畫(huà)了現(xiàn)有人工智能技術(shù)的能力邊界，從而為相關(guān)治理措施的制定提供了依據(jù)。同樣，當(dāng)未來(lái)人工智能技術(shù)超越了強(qiáng)封閉性條件，那時(shí)人類(lèi)就需要某種把握未來(lái)人工智能技術(shù)本質(zhì)的新準(zhǔn)則（如封閉性準(zhǔn)則2.0）。還應(yīng)看到，人工智能倫理問(wèn)題不是一個(gè)單純的風(fēng)險(xiǎn)管控問(wèn)題，而需建設(shè)一個(gè)將監(jiān)管與發(fā)展融為一體的完整倫理體系。

以上分析表明，封閉性準(zhǔn)則幫助我們形成對(duì)各種風(fēng)險(xiǎn)的更具體、更明確、更貼近實(shí)際的認(rèn)識(shí)，三點(diǎn)主要觀察概括如下。第一，短期內(nèi)不存在技術(shù)失控風(fēng)險(xiǎn)；對(duì)長(zhǎng)期風(fēng)險(xiǎn)來(lái)說(shuō)，應(yīng)關(guān)注適用于非封閉性場(chǎng)景的新技術(shù)，而強(qiáng)封閉性準(zhǔn)則為保證這種技術(shù)的風(fēng)險(xiǎn)可控性提供了初步指導(dǎo)。第二，技術(shù)誤用和管理失誤是目前的主要風(fēng)險(xiǎn)來(lái)源，應(yīng)重點(diǎn)關(guān)注，著力加強(qiáng)研究。第三，應(yīng)用風(fēng)險(xiǎn)尚未出現(xiàn)，未來(lái)出現(xiàn)的可能性、形態(tài)及應(yīng)對(duì)手段需提早研判。

▍結(jié)語(yǔ)

本文認(rèn)為目前關(guān)于人工智能存在這三種認(rèn)識(shí)誤區(qū)：

第一種誤區(qū)：人工智能已經(jīng)無(wú)所不能，因此現(xiàn)有人工智能技術(shù)可以無(wú)條件地應(yīng)用。根據(jù)強(qiáng)封閉性準(zhǔn)則，現(xiàn)有人工智能技術(shù)遠(yuǎn)未達(dá)到無(wú)所不能的程度，應(yīng)用是有條件的。因此，在產(chǎn)業(yè)應(yīng)用中亟須加強(qiáng)對(duì)強(qiáng)封閉性準(zhǔn)則的認(rèn)識(shí)，加強(qiáng)場(chǎng)景裁剪和場(chǎng)景改造，避免違反強(qiáng)封閉性準(zhǔn)則的盲目應(yīng)用，而這種盲目目前在國(guó)內(nèi)外都十分普遍，不僅浪費(fèi)資源，更嚴(yán)重的是干擾了有希望成功的應(yīng)用。

第二種誤區(qū)：現(xiàn)有人工智能技術(shù)不能大規(guī)模實(shí)際應(yīng)用，因?yàn)楝F(xiàn)有人工智能技術(shù)依賴(lài)于人工標(biāo)注，并不智能。本文指出，現(xiàn)有人工智能技術(shù)并不局限于深度學(xué)習(xí)，而暴力法和訓(xùn)練法的結(jié)合可以避免人工標(biāo)注，而且符合強(qiáng)封閉性準(zhǔn)則的應(yīng)用場(chǎng)景可以有效地實(shí)施數(shù)據(jù)采集和人工標(biāo)注。目前一些應(yīng)用不成功的原因在于違反了強(qiáng)封閉性準(zhǔn)則，而不是因?yàn)楝F(xiàn)有人工智能技術(shù)不能應(yīng)用。這個(gè)誤區(qū)往往發(fā)生在對(duì)人工智能技術(shù)有一定了解而認(rèn)識(shí)不到位的情況下。與第一種誤區(qū)一樣，這種誤解會(huì)嚴(yán)重影響我國(guó)人工智能產(chǎn)業(yè)應(yīng)用的進(jìn)度。

第三種誤區(qū)：在未來(lái)20~30年內(nèi)，人工智能技術(shù)發(fā)展將超越某個(gè)臨界點(diǎn)，之后人工智能將不受人類(lèi)控制自由發(fā)展。根據(jù)強(qiáng)封閉性準(zhǔn)則和全球人工智能研究現(xiàn)狀，這種“奇點(diǎn)說(shuō)”在技術(shù)范圍內(nèi)沒(méi)有任何科學(xué)依據(jù)。封閉性準(zhǔn)則包含的一些條件，如模型的語(yǔ)義完全性、代表性數(shù)據(jù)集的有限確定性，通常需要借助于強(qiáng)封閉性準(zhǔn)則要求的人工措施的輔助才可以滿(mǎn)足。假想未來(lái)有可能突破這些限制，與人工智能目前已具備突破這些限制的能力，完全是兩回事。即使將來(lái)突破了某種限制，還會(huì)有新的限制加以約束。這一類(lèi)說(shuō)法無(wú)形中假定，可以存在脫離具體條件的人工智能技術(shù)。這種技術(shù)是否可能存在，目前并沒(méi)有任何科學(xué)證據(jù)的支持，有待于未來(lái)的觀察和研判。

這三種誤區(qū)是我國(guó)人工智能發(fā)展的主要思想障礙。封閉性和強(qiáng)封閉性準(zhǔn)則立足于現(xiàn)有人工智能技術(shù)本質(zhì)，為消除這些誤區(qū)提供了依據(jù)，也為觀察、思考和研究人工智能發(fā)展的其他問(wèn)題，避免重復(fù)以往人為放大“周期性起伏”的干擾，提供了一種新的視角。