當講到人工智能愿景的時候，很多提案提到人工智能必須要以人類為中心。這個觀點有一點狹隘，而更為長遠的愿景應該是以生態(tài)系統(tǒng)為中心，因為我們必須要考慮到人類發(fā)展與生態(tài)之間的平衡與和諧發(fā)展。人工智能的愿景不同組織與國家都提出了不同提案，例如日本更傾向以人為中心的愿景，歐盟認為可信任是非常重要的。來自于加州伯克利大學的觀點是與人類相容。

對于可持續(xù)發(fā)展來說，人工智能是未來的一個非常重要的途徑和工具。人工智能不僅僅能夠提升經(jīng)濟，雖然很多目標不直接與經(jīng)濟掛鉤，但與全球可持續(xù)發(fā)展愿景息息相關。中國支持聯(lián)合國的愿景，人工智能真的是我們實現(xiàn)可持續(xù)發(fā)展的重要使能技術并提供相應的工具與系統(tǒng)。

我們可以看到，至今為止全球至少有53個不同的人工智能的原則提案，但根據(jù)主題分類來看，沒有一個提案能夠覆蓋所有精細的主題。即使是國家層面的人工智能原則，也沒有涵蓋跟AI所有相關的主題，最多的涵蓋了67%的相關主題。我們認為AI的原則不必要涵蓋所有主題。這些原則其實是從不同的角度，以不同的文化背景為基礎提出的，所以這些原則不應該是相互競爭的，而應該是互為補充的。比如有些提案提出的原則，強調(diào)該提案所在組織并不像美國一樣引領AI的技術，也不像中國一樣引領AI的應用，他們希望引領AI的道德。但是他的這些所謂道德只是涵蓋了20%和AI相關的主題。所以，不同的AI愿景與原則絕對不應是競爭關系，跨文化的交互使得我們對于AI的未來有更清晰的認識。只有具備這樣的思想，才能夠提供全球AI的更有效治理方案，開啟人工智能更好的未來。

科技部新一代人工智能治理原則的提出，首先是中國發(fā)展新一代人工智能的發(fā)展與治理雙輪驅(qū)動的愿景。這并不是說這個原則完全會適用于任何國家。我想中國的治理原則與實踐如果發(fā)展的好，那么對于發(fā)展中國家可能是很好的借鑒，但未必會直接適用于發(fā)達國家。有些國家以產(chǎn)業(yè)首先提出AI倫理與治理原則，有些國家則是政府和學術界走在前列，不同層面和視角的AI原則將在不同視角發(fā)揮作用，為實現(xiàn)AI的總體愿景貢獻力量。

至今為止中國至少在不同層面提出了10個不同的宣言，分別來自學術界、產(chǎn)業(yè)，甚至是科研工作者單獨的提案，有些是政府所，涵蓋的主題也是截然不同的。即使在中國，我們也發(fā)現(xiàn)不同的原則是相互補充的，無論是頂層設計、自下而上的以科學家或產(chǎn)業(yè)為首提出的原則，都是互為補充的?！度斯ぶ悄鼙本┕沧R》是以科學家和行業(yè)為首的，是自下而上的。提出兩天以后，百度熱詞搜索就顯示有超過500萬的搜索。這說明AI領域的工作者和公眾對AI的未來有很大的關切。北京是科技部發(fā)布的首個新一代人工智能創(chuàng)新發(fā)展示范區(qū)，我們做了很多新興的舉措。麻省理工科技評論的文章提出為什么北京會突然關注AI的倫理問題？其實科技部兩年前發(fā)布的新一代人工智能發(fā)展規(guī)劃中，就15次提到AI倫理的問題，所以這顯然不是突然的決定。

科技部新一代人工智能治理原則我們今天也許沒有時間談論其中涉及的所有原則，但至少可以對其中幾個要點展開討論。首先是總體愿景的問題。中國人工智能的愿景與聯(lián)合國可持續(xù)發(fā)展目標高度一致，我們的目標是通過人工智能的穩(wěn)健發(fā)展實現(xiàn)人類命運共同體。

對于未來而言，AI需要尊重人類的價值觀，比如公平、公正、誠實、信任、自由、友情、民主等等。同時，人工智能不應該被濫用或者被惡用，否則會對社會造成巨大的風險。我們觀察到很多數(shù)據(jù)都是在沒有知情同意的情況下被使用的，人們不應當為了利益和發(fā)展而忽視潛在的風險。所以，誤用和濫用都應當盡可能避免，比如致命性自主武器就應當嚴格禁止。偏見問題也是很重要的，比如對于黑人，人臉識別準確性會下降大約20%，也就是說人臉識別技術對于不同種族是存在風險的，帶有偏見的數(shù)據(jù)甚至會將犯罪風險與種族信息掛鉤，這些社會的偏見被從不完善的數(shù)據(jù)中獲取，導致AI產(chǎn)生可能的偏見，我們要對這個問題予以足夠的重視。

此外，隱私問題也非常重要。世界上有些城市已經(jīng)禁止使用人臉識別這個技術了，不僅是因為人臉識別可能會帶來隱私的問題，還會帶來偏見、歧視的問題?？墒俏覀儜斨匾暤氖侨绾稳ジ纳萍夹g中可能存在的風險，善用技術。僅僅禁用一個可能存在風險的技術并不是面向未來發(fā)展的方式。例如對于其他生物特征識別，可能存在相似的潛在風險，比如指紋識別、步態(tài)識別，都可能造成隱私泄露與偏見等問題。需要去積極規(guī)避可能存在的風險，再促進技術對社會可能產(chǎn)生的積極貢獻。我們必須要有足夠的平臺和管控機制，來確保隱私受保護以及獲得真正的用戶知情同意。

在技術層面上，我們需要做到足夠的努力，讓這些AI技術在開發(fā)和應用時，能有一個內(nèi)置的機制，可以保護隱私?，F(xiàn)在中國有一些關于隱私的管理和使用，尤其是對兒童的數(shù)據(jù)使用和應用的法律法規(guī)，這是中國政府為保護人類隱私做的一些切實舉措。更為關鍵的是在企業(yè)和政府層面如何支持這些努力的落地。

人工智能模型在取得進展的同時，仍然存在不同的技術風險。比如在圖像識別中，1個像素的變化就可能導致識別類別的顛覆（如飛機識別為狗），當自動駕駛遭受外部攻擊，就會造成災難性的影響。在可控性方面，人工智能需要我們更多的關注。在中國，人工智能不僅需要進一步的研發(fā)，還需要研發(fā)人員、用戶、產(chǎn)品和服務供應商，以及政府和其他利益相關方形成良性循環(huán)，將人工智能穩(wěn)健發(fā)展的理念能夠在AI的整個生命周期落地。

其次是開放和合作。科技部正在推動企業(yè)為主的新一代人工智能開放平臺，能夠進一步地推動人工智能的發(fā)展并與全球接軌。此外AI治理原則需要隨著技術的進展不斷被審視并做出必要的更新，適應技術的變革。

可以看到，不同組織對于AI有不同的關切，比如安全性方面，企業(yè)講到了AI技術的內(nèi)部安全（Safety），但是政府講得很少。所以對于企業(yè)從業(yè)者來講，必須要他們的政府知道人工智能內(nèi)部安全還有很多的威脅和風險。政府更多關注公平性，但是企業(yè)討論公平公正相對較少。所以，所有這些和AI治理相關的主題，必須要放在全球觀中討論。我們經(jīng)常以一個小的角度，就某一個主題進行討論，但是我們需要一個更全局的觀點。

AI治理需要自底向上和自頂向下的設計與實踐?？萍疾啃乱淮斯ぶ悄苤卫碓瓌t可以通過新一代AI創(chuàng)新示范區(qū)、新一代AI開放創(chuàng)新平臺、科技部發(fā)布的項目等渠道落實頂層設計，而人工智能北京共識的實踐則是自底向上的。以北京為例， AI安全、AI道德自主學習、以及AI風險評估和規(guī)制等具體的技術項目就已經(jīng)通過北京智源人工智能研究院與中國科學院、清華大學、北京大學、以及相關企業(yè)的協(xié)同開始技術落地?，F(xiàn)在我們正在推進建立一個風險評估和治理平臺，這個平臺未來推廣到其他城市和國家一定有其必要的意義。

全球?qū)τ贏I與人類社會的關系有完全不同的認識。有些國家發(fā)展人工智能技術是作為一項幫助人類解決問題的工具，而有些國家將未來的AI視作社會的一員，例如日本人工智能學會的AI倫理原則認為AI可以成為社會的“準成員”。西方國家特別在科幻電影中會將AI視作人類的敵人。對于AI的長期愿景，我們必須深度思考AI與人類的關系。終極的AI與人類究竟是協(xié)作關系還是競爭關系，在這個方面，我們需要有長遠的戰(zhàn)略性規(guī)劃，確保人類與人工智能的和諧共生。我們是否真的應該把AI關在道德的牢籠里呢？200年前，著作弗蘭肯斯坦中就引發(fā)了我們深刻的思考。如果未來的人工智能真的發(fā)展出一定程度的自我和意識，他們是否也可以擁有自己的隱私，我們應該對他們持有偏見嗎？有些哲學家指出其實人類是世界上最可怕的動物，如果人對未來人工智能有嫉妒、歧視和偏見，那就不可能產(chǎn)生人和人工智能之間真正的和諧共生。人工智能融入社會，人類應當如何轉(zhuǎn)型，是我們更為值得深度思考的科學與哲學問題。

責任編輯：Ct