很多家庭使用交互式音箱，但用戶在家里的竊竊私語會不會被家里的音響“偷走”呢？人工智能時代如何實現用戶的隱私保護？

科大訊飛董事長劉慶峰在世界人工智能大會產業(yè)發(fā)展全體會議上表達了上述擔憂。

算法歧視、非法移動跟蹤、數據隱私侵犯……人工智能在帶給人類巨大進步與福利的同時，也帶來了不可忽視的風險。

7月10日，以“人工智能的權利義務與法律實踐”為主題的世界人工智能大會法治論壇（下稱“論壇”）舉行。論壇上，上海市法學會、浙江清華長三角研究院、華東政法大學、上海政法學院聯合發(fā)布《世界人工智能法治藍皮書（2020）》（下稱《藍皮書（2020）》）、《人工智能法治發(fā)展指數》（下稱《指數》）和《2019中國人工智能法治發(fā)展評估報告》，關注人工智能發(fā)展中的熱點、核心法律問題。

人工智能立法如何突破？

《藍皮書（2020）》的內容由前言、人工智能法治綜述、人工智能法治發(fā)展指數、2019年中國人工智能法治發(fā)展報告、專題報告等11個部分組成。

其中6篇專題報告分別聚焦區(qū)塊鏈技術、醫(yī)療領域人工智能應用、人臉識別與隱私權保護、數據安全、知識產權保護、復合型人才培養(yǎng)等人工智能發(fā)展和應用中的熱點、核心法律問題。

如何用法律和科技來保護用戶隱私安全、數據安全？

韓國梨花大學法學院教授李元馥認為，要設計一個法律體系，來激勵并鼓勵開發(fā)者開發(fā)出更清晰、更透明的人工智能。其中一種方法是使用侵權責任來激勵和約束人工智能開發(fā)者。

“如果我們能在侵權法的設計上，讓開發(fā)者的責任與其開發(fā)的人工智能的可解釋性成反比，將有利于社會。因為它將激勵人工智能開發(fā)者努力開發(fā)更易于解釋和審查的人工智能?！?李元馥說。

上海交通大學凱原法學院訪問特聘教授秦裕林認為，在預防人工智能可能帶來危害的同時，也應當建立相應的法律法規(guī)，且與市場的力量相結合，倡導能自覺守法，友好地為人類服務的人工智能技術和系統(tǒng)的研究與開發(fā)。

人工智能立法已經提上日程，立法具體要遵循哪些規(guī)則？

中國法學會學術委員會主任張文顯認為，智能社會是科技賦能型社會。法律要以激勵和保護大數據、云計算、區(qū)塊鏈、互聯網、物聯網、人工智能創(chuàng)新發(fā)展為首要原則，推進中國智能科技占領世界科技的制高點。

美國康奈爾大學法學院王氏中國法講席教授於興中表示，如果我們要制定有關人工智能的法律，就必須制定反映人類道德的法律。

“社會倫理、職業(yè)倫理、生物學研究倫理、機器人倫理、人工智能倫理等都與法律有關。道德原則將作為立法和執(zhí)法的指導，可以被視為人工智能開發(fā)人員的內部約束，也可能成為人工智能開發(fā)人員的設計參數?！膘杜d中說。

瑞典隆德大學法律社會學教授哈坎·海登（Hkan Hydn）則認為，機器學習也將給法治帶來突破。

“隨著數字化技術的出現，技術本身也已成為法規(guī)的來源。規(guī)范的出發(fā)點已變更。當技術自身開始成為規(guī)范時，數字化過程將進一步發(fā)展?！?海登稱。

人工智能司法應用正在推廣

與《藍皮書（2019）》相比，《藍皮書（2020）》的另一大特點是制定了《人工智能法治發(fā)展指數》。

《指數》確定了政策文件、理論支撐、執(zhí)法實施、市場規(guī)模、社會關注、法治環(huán)境等6個一級指標，旨在客觀、準確、全面反映我國人工智能法治發(fā)展狀況，引領、推進人工智能法治研究。

“可量化、可視化的形式較準確、客觀、全面反映人工智能法治發(fā)展情況，為人工智能法治研究提供支撐，推動人工智能法治建設?！?上海政法學院校長、藍皮書編委會副主任劉曉紅表示。

《2019中國人工智能法治發(fā)展評估報告》顯示，2019年中國人工智能法治發(fā)展評估得分 83.79 分，總體水平較高，但相對薄弱環(huán)節(jié)在于執(zhí)法領域具體場景化人工智能產品的運用。

實際上，上海在人工智能與司法的深度融合方面已經做出了表率。

上海市法學會黨組書記、會長，上海市高級人民法院原院長、二級大法官崔亞東在論壇上介紹，經過三年多的努力，集中700余人合力攻關，上海在2019年底成功完成研發(fā)“推進以審判為中心的訴訟制度改革——上海刑事案件智能輔助辦案系統(tǒng)”（下稱“206系統(tǒng)”），先后獲國家批準六項知識產權。上海刑事案件辦理從立案、偵查、報捕、起訴、審判均在“206系統(tǒng)”內運行。

據統(tǒng)計，2019年1月至2020年6月，206系統(tǒng)累計錄入證據材料14，047，275頁、提供證據指引541，754次（依系統(tǒng)點擊量統(tǒng)計）、提供知識索引8，331次、提示證據瑕疵28，309個。

“智能輔助審訊系統(tǒng)研發(fā)應用，推動了審訊工作的改革，是傳統(tǒng)的審訊工作模式向現代化智能化審訊模式質的飛躍。這是人工智能等新技術與刑事司法實踐深度融合的重大成果，使我國憲法、刑法、刑訴法確立的刑事法律原則得以落地，體現了中國法治的進步?！?崔亞東表示。

目前，該系統(tǒng)在安徽、山西、貴州、新疆生產建設兵團、云南等省市已推廣應用。