12月18 日，由清華大學(xué)人工智能國(guó)際治理研究院（I-AIIG）主辦，聯(lián)合國(guó)開(kāi)發(fā)計(jì)劃署（UNDP）作為國(guó)際支持機(jī)構(gòu)的清華大學(xué)人工智能合作與治理國(guó)際論壇在北京召開(kāi)。論壇采用線上與線下結(jié)合的形式，探討人工智能合作與治理的機(jī)遇與挑戰(zhàn)。清華大學(xué)人工智能國(guó)際治理研究院院長(zhǎng)薛瀾教授發(fā)表題為《人工智能治理：挑戰(zhàn)與展望》的主旨演講，圍繞人工智能的福利與風(fēng)險(xiǎn)、人工智能治理的挑戰(zhàn)、以及人工智能治理的前景三個(gè)方面展開(kāi)闡述。

在會(huì)上，薛瀾教授強(qiáng)調(diào)了人工智能國(guó)際治理的重要性。人工智能技術(shù)對(duì)整個(gè)人類發(fā)展有非常長(zhǎng)遠(yuǎn)的影響，其好處和風(fēng)險(xiǎn)都非常明顯，因此國(guó)際合作特別重要。人工智能的發(fā)展本身就是一部國(guó)際合作的歷史。在中美兩國(guó)的人工智能論文發(fā)表中，國(guó)際合作的比例非常之高。人工智能如果應(yīng)用到軍事領(lǐng)域，可能對(duì)全球有毀滅性的影響，這方面沒(méi)有任何一個(gè)國(guó)家能夠單獨(dú)解決。薛教授指出，尤其要注意一些極端組織可能利用人工智能技術(shù)，對(duì)主權(quán)國(guó)家產(chǎn)生威脅。

薛瀾教授認(rèn)為，應(yīng)對(duì)這些挑戰(zhàn)需要在基本共識(shí)的基礎(chǔ)上，建立全球性的治理平臺(tái)，協(xié)調(diào)人工智能未來(lái)發(fā)展面臨的緊迫問(wèn)題。國(guó)際社會(huì)要積極吸取在核武器、空間法、以及氣候治理等領(lǐng)域積累的許多經(jīng)驗(yàn)和教訓(xùn)，建立基本的價(jià)值共識(shí)，尊重各國(guó)經(jīng)濟(jì)、社會(huì)、政治和文化的差異。除了自然科學(xué)研究，國(guó)際社會(huì)要加強(qiáng)人工智能社會(huì)影響及其治理的合作研究，引導(dǎo)人工智能健康發(fā)展，造福人類美好未來(lái)。

以下是薛瀾教授發(fā)言全文：

各位嘉賓，大家好！非常高興今天有這個(gè)機(jī)會(huì)來(lái)跟大家討論人工智能治理面臨的挑戰(zhàn)。

首先，我談?wù)勅斯ぶ悄芙o人類社會(huì)帶來(lái)的收益和風(fēng)險(xiǎn)。目前，我們經(jīng)常能看到一些被廣泛應(yīng)用的簡(jiǎn)單機(jī)器人，比如在酒店服務(wù)的應(yīng)用，特別是在抗疫中也被廣泛運(yùn)用。從圖片中我們可以看到，人工智能在圖像識(shí)別的能力可以用來(lái)對(duì)一些癌癥進(jìn)行判斷。此外，還有一些比較復(fù)雜的人工智能運(yùn)用場(chǎng)景，比如重慶市正在推進(jìn)一個(gè)被稱為“云谷”的項(xiàng)目，實(shí)際上是利用人工智能和物聯(lián)網(wǎng)實(shí)現(xiàn)智慧社區(qū)。這是較為復(fù)雜的應(yīng)用。人們還將人工智能運(yùn)用于科學(xué)發(fā)現(xiàn)，最近在生命科學(xué)領(lǐng)域有一些具體應(yīng)用，例如AlphaFold在解析蛋白質(zhì)結(jié)構(gòu)方面的突破性進(jìn)展，這是更加復(fù)雜的運(yùn)用場(chǎng)景。由此，我們可以看到人工智能的運(yùn)用不斷演進(jìn)，從簡(jiǎn)單到復(fù)雜的一個(gè)應(yīng)用過(guò)程。

人工智能給我們帶來(lái)諸多社會(huì)收益的同時(shí)，也會(huì)產(chǎn)生一些大家都非常關(guān)注的風(fēng)險(xiǎn)。一類是算法歧視的問(wèn)題。最近的研究發(fā)現(xiàn)美國(guó)一些醫(yī)院在利用人工智能篩選病例，判斷是否收治病人住院。但由于算法的問(wèn)題，在這個(gè)過(guò)程中有比較明顯的種族歧視，在同樣病情的情況下，對(duì)黑人的病癥判斷得更輕，從而更容易被拒絕住院。二是安全的問(wèn)題。在自動(dòng)駕駛領(lǐng)域，如果數(shù)據(jù)質(zhì)量不高，自動(dòng)駕駛系統(tǒng)產(chǎn)生失誤，無(wú)法識(shí)別前面的障礙物，導(dǎo)致事故。這樣的情況發(fā)生后，責(zé)任分配的問(wèn)題也值得研究。三是隱私的問(wèn)題。比如人臉識(shí)別可能引起侵犯?jìng)€(gè)人隱私的問(wèn)題，也可能帶來(lái)歧視的問(wèn)題，國(guó)內(nèi)最近討論得比較多。四是社會(huì)影響。其中一個(gè)問(wèn)題是人工智能替代就業(yè)崗位的問(wèn)題，最新的研究顯示，2020年至2025年有相當(dāng)一部分的工作將被人工智能相關(guān)技術(shù)所替代。MIT一位教授去年發(fā)表一篇文章，對(duì)比分析了人工智能和信息技術(shù)創(chuàng)造就業(yè)和消除就業(yè)的兩個(gè)指數(shù)，這篇文章發(fā)現(xiàn)消除就業(yè)的指數(shù)其實(shí)更高，從長(zhǎng)遠(yuǎn)看人工智能對(duì)就業(yè)的影響的確值得我們高度關(guān)注。另外一個(gè)問(wèn)題是“信息繭房”的問(wèn)題，信息推送可以給人們帶來(lái)方便，不需要再主動(dòng)尋找各種各樣的信息，算法根據(jù)我們的偏好把我們需要的信息都能推送過(guò)來(lái)。但這樣潛在的后果是，我們之前相信什么，會(huì)接受到更多相關(guān)的信息，導(dǎo)致我們?cè)絹?lái)越相信，這個(gè)過(guò)程是否會(huì)將我們的觀點(diǎn)和社會(huì)認(rèn)知更加極化？這些問(wèn)題值得進(jìn)一步關(guān)注和考慮。

其次，我談?wù)勅斯ぶ悄苤卫硭枰幕疽?guī)則、政策和機(jī)制。人工智能治理的目標(biāo)是保證人工智能發(fā)展能夠造福于人類，實(shí)現(xiàn)技術(shù)向善。第一，人工智能治理還處于不斷發(fā)展演變的過(guò)程中，是一個(gè)還未成熟的領(lǐng)域。人工智能本身就有不同定義，比如我們?cè)诰帉?xiě)人工智能倫理指引時(shí)，發(fā)現(xiàn)不同機(jī)構(gòu)對(duì)人工智能的基本定義不完全一樣。另外，人工智能還具有黑箱特征，其算法機(jī)理還有無(wú)法解釋的內(nèi)容，其社會(huì)影響或可能產(chǎn)生的風(fēng)險(xiǎn)存在不確定性。第二，人工智能治理包含價(jià)值、機(jī)制、參與者、對(duì)象和效果等要素。價(jià)值觀是非常重要的一個(gè)要素，應(yīng)明確發(fā)展人工智能技術(shù)時(shí)應(yīng)堅(jiān)持哪些基本價(jià)值觀。機(jī)制是指通過(guò)何種制度體系來(lái)實(shí)現(xiàn)有效的治理。參與者即指實(shí)現(xiàn)人工智能治理需要哪些參與者，可能包括個(gè)人、組織和國(guó)家。治理的對(duì)象可能涉及企業(yè)的行為，可能涉及使用者的行為。最后一個(gè)要素就是效果，即以何種方式評(píng)價(jià)治理的效果。第三，人工智能治理存在機(jī)制復(fù)合體現(xiàn)象。機(jī)制復(fù)合體的現(xiàn)象是指在全球治理過(guò)程中，針對(duì)同一類問(wèn)題，有不同的治理機(jī)制并存。這些治理機(jī)制之間有重疊，也有觀點(diǎn)和價(jià)值的沖突，彼此也沒(méi)有上下級(jí)關(guān)系，此時(shí)如何協(xié)調(diào)不同治理機(jī)制是一個(gè)很大的挑戰(zhàn)。人工智能治理也呈現(xiàn)出此類現(xiàn)象，需要我們進(jìn)一步探討。第四，人工智能治理涉及技術(shù)、社會(huì)和結(jié)果等維度。正如姚期智先生和張鈸先生演講中所提到的，人工智能治理面臨很多挑戰(zhàn)，其實(shí)很多挑戰(zhàn)可以通過(guò)技術(shù)來(lái)解決，包括解決安全、標(biāo)準(zhǔn)、基礎(chǔ)架構(gòu)等問(wèn)題。社會(huì)層面主要涉及倫理問(wèn)題，通過(guò)設(shè)定規(guī)則來(lái)影響人工智能的發(fā)展和應(yīng)用。在結(jié)果維度上，重點(diǎn)是解決負(fù)面效果，包括隱私、安全、歧視、貧富差距等問(wèn)題。

再次，我談?wù)勅斯ぶ悄苤卫淼奶魬?zhàn)。第一，規(guī)制人工智能面臨困境。人工智能治理面臨的一個(gè)最大挑戰(zhàn)就是發(fā)展得太快，然而治理體系作為社會(huì)系統(tǒng)的一部分，其發(fā)展演變是緩慢的，從而產(chǎn)生步伐不一致的情況。我們擔(dān)心這種步伐不一致的情況將進(jìn)一步加劇，去年我們?nèi)斯ぶ悄苤卫砦瘑T會(huì)提出了八條治理原則，最后一條是敏捷治理，就是要改變?cè)瓉?lái)傳統(tǒng)的治理模式。傳統(tǒng)的模式需要經(jīng)過(guò)諸多政策制定程序，現(xiàn)在這種模式的確趕不上技術(shù)的變革，因此需要在不是那樣完整的政策制定過(guò)程條件下及時(shí)出臺(tái)政策，引導(dǎo)技術(shù)發(fā)展。第二，公共部門(mén)的矛盾角色。人工智能技術(shù)可以在公共部門(mén)中被廣泛應(yīng)用，而公共部門(mén)自己也可能存在濫用情形。另外公共部門(mén)在應(yīng)用人工智能的過(guò)程中面臨各種風(fēng)險(xiǎn)，也面臨各種挑戰(zhàn)。第三，推動(dòng)企業(yè)負(fù)責(zé)任創(chuàng)新。企業(yè)是最活躍的主體，會(huì)與政府在治理過(guò)程中進(jìn)行博弈，需要企業(yè)自律，包括如何與公眾和社會(huì)實(shí)現(xiàn)更好的交流。

此外，我想特別談一下人工智能為何需要國(guó)際治理。人工智能對(duì)我們整個(gè)人類未來(lái)發(fā)展有長(zhǎng)遠(yuǎn)的影響，過(guò)去人工智能的發(fā)展就是一部國(guó)際合作的歷史，我們對(duì)人工智能領(lǐng)域中中國(guó)與美國(guó)的學(xué)者合作的情況進(jìn)行過(guò)分析，中美合作的研究成果占到比較大的比重，大量的國(guó)際合作是人工智能能夠發(fā)展到今天的非常重要的因素，今后還需要繼續(xù)合作。但另外一方面，人工智能也有可能給我們帶來(lái)重大風(fēng)險(xiǎn)，如傅瑩大使在演講中提到了人工智能也可能帶來(lái)毀滅性的影響，比如產(chǎn)生大規(guī)模的自主殺傷性武器。任何一個(gè)國(guó)家都無(wú)法單獨(dú)解決此類問(wèn)題。無(wú)法判斷某些組織能夠發(fā)展此類技術(shù)，對(duì)各個(gè)主權(quán)國(guó)家產(chǎn)生威脅，因此就需要各個(gè)國(guó)家應(yīng)該求同存異，共同應(yīng)對(duì)此類問(wèn)題，找到解決辦法。

最后，我們需要在過(guò)去研究探討的基礎(chǔ)上探索建立一個(gè)全球性的平臺(tái)或機(jī)制，協(xié)調(diào)人工智能未來(lái)發(fā)展面臨的緊迫的問(wèn)題。第一，我們可以學(xué)習(xí)一些過(guò)往的機(jī)制，包括核技術(shù)的治理機(jī)制、空間法、氣候變化治理機(jī)制等。第二，加強(qiáng)人工智能研究領(lǐng)域的國(guó)際合作，不僅包括科學(xué)研究的技術(shù)開(kāi)發(fā)領(lǐng)域的合作，也包括社會(huì)和倫理方面的合作。正如傅大使提到的清華大學(xué)與布魯金斯學(xué)會(huì)的合作就是一個(gè)非常好的典范，在這種合作中找到共同點(diǎn)，包括共同的價(jià)值觀念、共同的治理原則，還有一些差異。根據(jù)這些異同點(diǎn)，不斷探討和溝通，最后找到共同的準(zhǔn)則，引導(dǎo)人工智能健康發(fā)展，最終為全人類造福。
責(zé)任編輯：YYX