毫無疑問，人工智能正在深刻改變著社會(huì)。如果我們談?wù)撐磥恚欢o法避免談?wù)撊斯ぶ悄堋?/p>

作為國(guó)家蓋戳認(rèn)證的“新基建”之一，人工智能近幾年來進(jìn)展飛速——從零售、出行、金融、到醫(yī)療、教育、農(nóng)業(yè)、工業(yè)。。.。。.基于人工智能技術(shù)的應(yīng)用在各個(gè)領(lǐng)域中間鋪開，人工智能明星公司和獨(dú)角獸大量涌現(xiàn)。

“科技是把雙刃劍”，人工智能技術(shù)鋒芒畢露的另一面，一些始料未及的“副作用”隨之誕生，焦慮與恐懼隨著AI技術(shù)的進(jìn)步而不斷被放大。

？

央視曝光“AI騷擾電話”

2019年，“315晚會(huì)”上揭露了從探針盒子截取用戶App隱私數(shù)據(jù)到AI騷擾電話這一完整的黑色產(chǎn)業(yè)鏈；然而早在2017年AI就曾被“315晚會(huì)”點(diǎn)名——通過自拍照3D建模后的“偽活人”可以輕松騙過人臉識(shí)別登錄系統(tǒng)，成功“黑”進(jìn)個(gè)人賬戶。

AI技術(shù)圍獵個(gè)人基本權(quán)益是一個(gè)長(zhǎng)久的命題，但回顧2019年我們就會(huì)發(fā)現(xiàn)，在一個(gè)又一個(gè)新聞熱點(diǎn)的背后，從肖像權(quán)到個(gè)人隱私權(quán)，個(gè)人信息的“裸奔”現(xiàn)狀并未得到有效改善——

不消停的“AI侵權(quán)”

8月底，一個(gè)名為“ZAO”的AI換臉app突然刷屏朋友圈，大眾又一次淪為現(xiàn)象級(jí)app的娛樂對(duì)象。在ZAO App中，用戶可上傳自己的頭像照片，App利用AI換臉技術(shù)將用戶肖像替換到各類影視劇中。

在一些論壇上，部分AI從業(yè)者對(duì)于“ZAO”的橫空出世頗感意外，畢竟“因?yàn)榉杉m紛，現(xiàn)在地下色情產(chǎn)業(yè)都不敢輕易碰這塊兒，ZAO能過得了法律這一關(guān)嗎？”。

果不其然，“ZAO”面世兩天后，其用戶協(xié)議上的陷阱被網(wǎng)友扒出，最受抨擊的“使用者的肖像權(quán)為全球范圍內(nèi)免費(fèi)、不可撤、永久可轉(zhuǎn)授權(quán)”，意味著用戶將自己的肖像權(quán)拱手讓人。此外，若被換臉明星因侵犯肖像權(quán)提起訴訟，則用戶承擔(dān)全部責(zé)任，而“ZAO”作為平臺(tái)方反而“置身事外”。

無論是“AI換臉”還是“人臉識(shí)別”，人臉作為每個(gè)人身上最直觀的唯一性生物特征，其使用暗藏著巨大的法律風(fēng)險(xiǎn)，強(qiáng)制收集、過度攫取人臉信息的爭(zhēng)議也因此一直不絕于耳。

19年10月，“中國(guó)人臉識(shí)別第一案”登上熱搜。浙江理工大學(xué)特聘副教授郭兵將杭州野生動(dòng)物世界告上法庭，理由是動(dòng)物園要把年卡用戶由之前的指紋認(rèn)證入園改為人臉識(shí)別認(rèn)證入園，未注冊(cè)人臉識(shí)別的用戶將無法正常入園，同時(shí)也無法辦理退費(fèi)。

憑什么沒征求用戶的意見，就默認(rèn)用戶有意愿將人臉信息放心交予園方？強(qiáng)制下達(dá)的新政策讓郭兵很是氣憤，“我覺得這顯然違法了《消費(fèi)者權(quán)益保護(hù)法》，也不符合《網(wǎng)絡(luò)安全法》，更不符合目前正在制定的《個(gè)人信息保護(hù)法》?！?/p>

“人臉識(shí)別”成了AI技術(shù)侵權(quán)的“出頭鳥”，但反觀我們的日常生活，從手機(jī)APP開啟麥克風(fēng)權(quán)限“偷聽”到監(jiān)控輸入法，精準(zhǔn)推薦的“好意”與信息泄漏的邊界難以界定，這其中又有多少出自用戶的完全自愿？

小學(xué)生戴“頭環(huán)”上課

新技術(shù)造就新的應(yīng)用場(chǎng)景，也帶了更多意想不到的法律難題——小學(xué)生頭戴“腦機(jī)接口”頭環(huán)上課，AI技術(shù)開始充當(dāng)其老師和家長(zhǎng)的“間諜”，人權(quán)與技術(shù)的沖突再一次被擺上臺(tái)面……

監(jiān)管的尷尬：立法滯后、訴訟難執(zhí)行

2019年11月底，國(guó)家網(wǎng)信辦、文旅部和廣電總局等三部門聯(lián)合發(fā)布了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，明確“利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的虛假圖像、音視頻生成技術(shù)制作、發(fā)布、傳播謠言的……應(yīng)當(dāng)及時(shí)采取相應(yīng)的辟謠措施”。 12月20日，全國(guó)人大常委會(huì)法工委宣布，中國(guó)2020年將制定個(gè)人信息保護(hù)法、數(shù)據(jù)安全法——從根本上解決問題的“元規(guī)則”正在路上。

但由于AI技術(shù)革新快、應(yīng)用技術(shù)廣泛多變的特性，法律能否趕得上技術(shù)的日新月異？在公眾個(gè)人信息保護(hù)意識(shí)普遍淡漠的當(dāng)下，又該如何做到“違法必糾？

中國(guó)互聯(lián)網(wǎng)協(xié)會(huì)法治工作委員會(huì)副秘書長(zhǎng)、中國(guó)消費(fèi)者協(xié)會(huì)律師團(tuán)律師胡鋼跟蹤中國(guó)互聯(lián)網(wǎng)成長(zhǎng)20年，他對(duì)搜狐科技表示，在立法之外，中國(guó)新版《個(gè)人信息安全規(guī)范》（以下簡(jiǎn)稱《規(guī)范》）在幾天前的3月9日正式發(fā)布。作為國(guó)家性推薦標(biāo)準(zhǔn)，它具備約束行業(yè)的指導(dǎo)意義。

從《規(guī)范》來看，新版對(duì)于個(gè)人信息的主體告知收集、個(gè)人生物信息的存儲(chǔ)方面都有了細(xì)化和完善。

不過胡鋼指出，新版《規(guī)范》和老版一樣，其制定者大部分還是企業(yè)及相關(guān)技術(shù)負(fù)責(zé)人，因此還是存在很大局限性。“（制定者）起碼應(yīng)該是三部分人，包括企業(yè)代表、消費(fèi)者代表、然后是倫理、法律的相關(guān)專家。但事實(shí)上，后兩者的占比甚至連兩成都不到?！?/p>

自2017年，第一版《規(guī)范》發(fā)行以來，強(qiáng)制授權(quán)，過度索權(quán)，超范圍收集個(gè)人信息的情況仍然普遍存在，我們所了解的很多大型互聯(lián)網(wǎng)/科技公司都有被網(wǎng)信辦等部門點(diǎn)名的經(jīng)歷。

“刷臉”登陸/支付如今已成為移動(dòng)App主流

胡鋼表示，以很多互聯(lián)網(wǎng)/科技公司都在推廣的“刷臉”功能為例，“正確的做法應(yīng)該是用戶拍下的個(gè)人照片通過算法推演一套不可對(duì)人臉進(jìn)行還原的單向數(shù)據(jù)，將純數(shù)據(jù)傳輸給公司，用戶的照片在本地短暫保存后應(yīng)立刻銷毀。不過很可惜的是，基本全（互聯(lián)網(wǎng)）行業(yè)沒有這樣做的，都是在做整張臉（將用戶面部信息直接發(fā)送至企業(yè)后臺(tái)）?！?/p>

此外，《規(guī)范》并不具備和法律同等的震懾力。職能部門一直以來的處理方式大都集中在點(diǎn)名、約談、整改等方式上。兩年前，支付寶因個(gè)人信息保護(hù)不力，僅僅被央行罰款5萬元人民幣，引起輿論一片嘩然。

胡鋼告訴搜狐科技，像個(gè)人信息泄漏/買賣基本上都是大規(guī)模案件，“沒有人在乎什么50萬用戶數(shù)據(jù)，根本賣不了錢，要做都得1000萬（用戶信息）以上?！?/p>

這也意味著，即使立法出臺(tái)后，由于訴訟難以執(zhí)行，最后依然會(huì)重復(fù)沒人管也沒人改的惡性循環(huán)。

為了個(gè)人信息保護(hù)法出臺(tái)后能夠更好的落實(shí)，從源頭上預(yù)防此類事件的發(fā)生，胡鋼認(rèn)為還需要做到三點(diǎn)，“首先必須要有專責(zé)機(jī)關(guān)，例如香港的隱私專員公署，或者純粹的公益組織，能夠代表廣大消費(fèi)者在關(guān)鍵時(shí)刻提起訴訟；第二，明確民事賠償?shù)臄?shù)額標(biāo)準(zhǔn)，譬如一條信息具體賠多少錢；第三，行政處罰的力度要上去，像歐盟就會(huì)對(duì)一些公司開出上年全球收入的4%這種的巨額罰單。”

“反黑產(chǎn)AI”的前景與窘境

法律約束是整個(gè)行業(yè)行為規(guī)范的前提條件，但目前棘手的問題時(shí)，個(gè)人信息泄露/販賣/偽造等已經(jīng)形成了龐大且成熟的產(chǎn)業(yè)鏈。既然AI能夠?qū)Α昂诋a(chǎn)”推波助瀾，是否又能反過來“以其人之道還治其人之身”？

自2019年“AI撥打騷擾電話”的黑色產(chǎn)業(yè)鏈被曝光后，第二天，阿里巴巴人工智能實(shí)驗(yàn)室的一項(xiàng)內(nèi)部代號(hào)名為“二哈”的智能防騷擾電話技術(shù)就被曝光。在一段演示視頻中，一名推銷貸款的推銷員與“二哈”對(duì)聊一分多鐘并未發(fā)現(xiàn)破綻， 甚至還遭到了“北京能不能貸款？”“最多能貸多少錢”這樣的主動(dòng)提問。

同期，國(guó)外像谷歌等國(guó)外大公司都宣布推出了“AI反騷擾電話“的研究，雖然這一技術(shù)均處在早期研究階段，不過可以預(yù)見的是，未來的垃圾電話，很可能變成AI雙方的對(duì)壘。

而自誕生以來丑聞不斷的“AI換臉”技術(shù)，日前也等到了防偽“突破口”。今年2月，微軟亞洲研究院計(jì)算機(jī)視覺組的最新研究成果、可以進(jìn)行鑒別人臉圖像、視頻的真假“Face X-Ray”技術(shù)，其相關(guān)論文已被CVPR 2020收錄。

微軟最新研究成果 給“假臉”照X光

微軟亞洲研究院高級(jí)研究員陳棟告訴搜狐科技，這一圖像鑒別技術(shù)技術(shù)在搜索引擎過濾、視頻網(wǎng)站審核、司法鑒定等場(chǎng)景里都有應(yīng)用的前景，但目前Face X-Ray還處于基礎(chǔ)研究階段，基于現(xiàn)有的突破，算法上還需要不斷的提升和優(yōu)化，來解決一些已知的缺陷，例如鑒別全圖合成的圖片，此外對(duì)視頻現(xiàn)在也只能做到逐幀鑒別。

遺憾的是 ，道高一尺魔高一丈，目前來看，“AI反黑產(chǎn)”的技術(shù)成果仍落后于被應(yīng)用于“黑產(chǎn)”的AI技術(shù)的腳步。一位人工智能行業(yè)從業(yè)者透露，“這也完全可以理解，畢竟（這些技術(shù)）的主要是公益性大于商業(yè)性”。

人工智能的發(fā)展，需要大量的數(shù)據(jù)。此前有媒體報(bào)道，一個(gè)魔幻的現(xiàn)實(shí)是，許多人臉識(shí)別公司為了度過缺乏數(shù)據(jù)的冷啟動(dòng)期，甚至?xí)ベ?gòu)買人臉數(shù)據(jù)，而中間商手里的人臉識(shí)別數(shù)據(jù)往往也是通過其他技術(shù)公司或數(shù)據(jù)標(biāo)注公司幾經(jīng)倒手的獲得的。

技術(shù)是中立的，但使用技術(shù)的人并不是。

可以預(yù)見的是，AI技術(shù)發(fā)展與個(gè)人信息保護(hù)之間仍然會(huì)持續(xù)長(zhǎng)久地爭(zhēng)議性對(duì)立，但通過法律的制定、技術(shù)的進(jìn)步、市場(chǎng)的磨合，期望在未來能邁向更加平衡和穩(wěn)定的關(guān)系。