近日，一段關(guān)于扎克伯格的惡搞視頻在Instagram上流傳。該視頻中，扎克伯格的面部表情極其僵硬，聲音與本人的相比差距很大。事實(shí)上，這是以色列一家科技公司利用人工智能（AI）換臉技術(shù)合成而來(lái)，這一技術(shù)也被稱為“深度偽造”（deepfake）。更遭受爭(zhēng)議的deepfake例子例如最近走紅網(wǎng)絡(luò)的一鍵生成裸照軟件DeepNude，只要輸入一張完整的女性圖片就可自動(dòng)生成相應(yīng)的裸照，由于廣泛傳播而造成了預(yù)料之外的后果，開(kāi)發(fā)者最終將APP下架。背后都用到了深度偽造技術(shù)，即一種利用AI程序和深度學(xué)習(xí)算法實(shí)現(xiàn)視、音頻模擬和偽造的技術(shù)，投入深度學(xué)習(xí)的內(nèi)容庫(kù)越大，合成的視音頻真實(shí)性越高，甚至可以達(dá)到以假亂真的程度。深度偽造技術(shù)不僅能實(shí)現(xiàn)換臉（face swap），更可以通過(guò)深度學(xué)習(xí)模擬真人聲音、創(chuàng)造出現(xiàn)實(shí)不存在的人物肖像。利用該技術(shù)，可以以視頻這一較為可信的方式讓某人說(shuō)不曾說(shuō)過(guò)的話，做不曾做的事，達(dá)到混淆觀眾的目的。具備極高欺騙性的深度偽造也引發(fā)諸多爭(zhēng)議，例如楊冪換臉，AI軟件自動(dòng)生成裸照，奧巴馬、普京等政治人物的深度偽造視頻等等，給個(gè)人和社會(huì)帶來(lái)風(fēng)險(xiǎn)挑戰(zhàn)。

2019年6月13日，美國(guó)眾議院情報(bào)委員會(huì)召開(kāi)關(guān)于人工智能深度偽造的聽(tīng)證會(huì)，公開(kāi)談?wù)摿松疃葌卧旒夹g(shù)對(duì)國(guó)家、社會(huì)和個(gè)人的風(fēng)險(xiǎn)及防范和應(yīng)對(duì)措施。這是美國(guó)眾議院首次舉辦專門(mén)討論深度偽造及其他類(lèi)型的AI合成技術(shù)的聽(tīng)證會(huì)，會(huì)議邀請(qǐng)了四位來(lái)自不同領(lǐng)域的專家，分別是美國(guó)外交政策研究所研究員Clint Watts、馬里蘭大學(xué)法學(xué)教授Danielle Citron、布法羅大學(xué)人工智能研究所所長(zhǎng)David Doermann和Open AI政策總監(jiān)Jack Clark，以系統(tǒng)介紹深度偽造技術(shù)及解答議員的疑惑，共同探討“深度偽造”的風(fēng)險(xiǎn)及應(yīng)對(duì)之策。

一、深度偽造技術(shù)的喜與憂

互聯(lián)網(wǎng)時(shí)代下，先進(jìn)的AI技術(shù)和開(kāi)放的數(shù)據(jù)流動(dòng)給社會(huì)帶來(lái)巨大的信息紅利。信息流動(dòng)載體從原始的文本、到語(yǔ)音、至視頻、后進(jìn)化至如今的虛擬現(xiàn)實(shí)，數(shù)據(jù)的巨大量和更高的開(kāi)放程度允許越來(lái)越多消費(fèi)者參與進(jìn)來(lái)。而今隨著AI、深度偽造技術(shù)的發(fā)展，信息更能以重塑現(xiàn)實(shí)的方式豐富用戶的體驗(yàn)。與AI結(jié)合的深度學(xué)習(xí)算法用于科學(xué)研究上，能幫助改善醫(yī)學(xué)圖像分析，還能用于彌補(bǔ)聽(tīng)力缺陷，幫助有聽(tīng)力障礙的人“聽(tīng)懂”別人的話語(yǔ)等。一家公司甚至聲稱其通過(guò)利用這項(xiàng)技術(shù)能讓因病失語(yǔ)者恢復(fù)說(shuō)話能力。深度偽造技術(shù)用于制作、真實(shí)還原歷史人物的肖像、相關(guān)音頻和視頻，或者讓藝術(shù)作品中的靜態(tài)的人物角色“活起來(lái)”，實(shí)現(xiàn)教育大眾、豐富人們精神世界的目的。

然而經(jīng)偽造的信息能使無(wú)中生有，與AI算法的結(jié)合更極大地提高了其可信度。進(jìn)入數(shù)據(jù)高度開(kāi)放流動(dòng)的互聯(lián)網(wǎng)領(lǐng)域，深度偽造信息的影響力在瞬間能被成千萬(wàn)倍放大，其具備的負(fù)面作用不得不引起重視。在此次聽(tīng)證會(huì)上，專家學(xué)者主要討論了深度偽造技術(shù)所具備的幾種潛在風(fēng)險(xiǎn)。

1

個(gè)體人身?yè)p害

制作虛假的色情視頻是深度偽造技術(shù)常見(jiàn)的運(yùn)用方式之一。利用該技術(shù)能實(shí)現(xiàn)將一些公眾人物的臉移轉(zhuǎn)到色情明星的身體上，偽造逼真的色情場(chǎng)景。這些虛假的色情視頻一經(jīng)傳播，受害人的名譽(yù)將嚴(yán)重受損，個(gè)人隱私還隨時(shí)有可能受到侵犯。Citron教授列舉了印度作者Rana Ayyub的例子，即Rana Ayyub在4月份發(fā)表了一篇具有挑釁性的報(bào)道后，網(wǎng)絡(luò)上開(kāi)始流傳著一段以其為主角的色情視頻。這個(gè)視頻正是被人利用深度偽造技術(shù)合成而來(lái)，在Facebook、Twitter和WhatsApp上得到成千上萬(wàn)人的傳播。隨后Ayyub的家庭地址等個(gè)人信息被曝光在網(wǎng)上，其因此也收到了大量的***威脅。Ayyub的生活和工作都受到了極大的影響，承受著極大的精神折磨，其不得不遠(yuǎn)離網(wǎng)絡(luò)。Citron教授在其關(guān)于網(wǎng)絡(luò)騷擾的研究中發(fā)現(xiàn)，這種現(xiàn)象發(fā)生在越來(lái)越多的弱勢(shì)群體身上。深度偽造技術(shù)讓污名化女性、“色情報(bào)復(fù)”成為可能。

2

企業(yè)信譽(yù)及經(jīng)濟(jì)的損失

深度偽造技術(shù)對(duì)企業(yè)首次募股（IPO）同樣有不可估量的負(fù)面影響。“想象一下在IPO前一晚，一段經(jīng)深度偽造合成的視頻顯示公司的CEO宣布公司破產(chǎn)……市場(chǎng)的反應(yīng)速度往往比當(dāng)事人澄清的速度更快，”Citron說(shuō)。企業(yè)主要負(fù)責(zé)人的一言一行代表著該公司，其對(duì)社會(huì)的公開(kāi)聲明一般也代表著整個(gè)公司的意志。然而，深度偽造技術(shù)恰可以借用企業(yè)負(fù)責(zé)人的公開(kāi)談話視頻，篡改表情及談話內(nèi)容，散播虛假信息，讓社會(huì)公眾發(fā)生錯(cuò)誤認(rèn)識(shí)，直接影響公司的信譽(yù)及經(jīng)濟(jì)利益。

3

國(guó)家安全、公共安全受到威脅

最近，美國(guó)眾議院議長(zhǎng)Nancy Pelosi的一段深度偽造的談話視頻出現(xiàn)在社交媒體上，這段視頻經(jīng)由特朗普總統(tǒng)分享，在Facebook上獲得了超過(guò)250萬(wàn)次的瀏覽量。早些的時(shí)候，美國(guó)前總統(tǒng)奧巴馬的臉被“借用”來(lái)攻擊特朗普總統(tǒng)，該視頻在網(wǎng)站上也獲得480萬(wàn)的瀏覽量。特朗普總統(tǒng)本人也難逃一劫，西雅圖電視網(wǎng)曾播放過(guò)一段深度偽造的特朗普演講視頻，視頻中特朗普總統(tǒng)滿臉通紅，還不時(shí)做一些滑稽的表情。由于深度偽造技術(shù)可以運(yùn)用在包括總統(tǒng)在內(nèi)的任何官員身上，美國(guó)兩黨開(kāi)始擔(dān)心該技術(shù)將成為針對(duì)美國(guó)和其他西方國(guó)家發(fā)起虛假信息戰(zhàn)爭(zhēng)的最新武器。

聽(tīng)證會(huì)上，Watts則表示了其對(duì)國(guó)家安全的擔(dān)憂：深度偽造技術(shù)可以讓虛假的信息以高度可信的方式呈現(xiàn)給社會(huì)公眾，從而操縱觀眾的情緒反應(yīng)，引發(fā)社會(huì)廣泛的不信任。它很可能被外國(guó)競(jìng)爭(zhēng)對(duì)手利用，作為詆毀國(guó)內(nèi)政黨、煽動(dòng)恐怖和暴力活動(dòng)、挑撥西方內(nèi)部矛盾的工具。同時(shí)，Watts指出深度偽造技術(shù)對(duì)美國(guó)2020大選的潛在威脅——若放任偽造視頻擴(kuò)散，則會(huì)對(duì)美國(guó)民主選舉產(chǎn)生不良影響，挫傷選民的積極性；從短期看，深度偽造還可能會(huì)對(duì)公共安全產(chǎn)生一定影響，讓虛假的信息打著真實(shí)的幌子煽動(dòng)暴力沖突，成為不法者借以實(shí)施暴力的工具。例如在2018年，印度各地有20多人因?yàn)樵赪hatsApp上被謠傳綁架小孩或涉及其他罪案而被暴力打死。

4

新聞媒體行業(yè)的社會(huì)信任衰退

聽(tīng)證會(huì)的專家們一致認(rèn)為，深度偽造技術(shù)的影響不僅局限于政治領(lǐng)域，對(duì)新聞業(yè)亦如此。在一個(gè)社會(huì)公眾對(duì)記者和媒體普遍不信任的時(shí)代，深度偽造技術(shù)的誕生更是加劇了這種不信任。深度偽造不僅騙取公眾信任，其存在也表明了媒體報(bào)道并不可靠；Citron對(duì)此表示贊同，“難以證偽的報(bào)道會(huì)使記者質(zhì)疑有關(guān)真相的證據(jù)的真實(shí)性，從而阻礙該證據(jù)的呈現(xiàn)和報(bào)道。”虛假信息最終會(huì)掩蓋并代替真相，Citron將此稱為“信任衰退效應(yīng)”。Watts進(jìn)一步指出，“長(zhǎng)期接觸虛假信息和深度偽造技術(shù)可能讓公眾在真真假假中迷失自我，從而做出比較極端的選擇。如果長(zhǎng)期無(wú)法分辨真?zhèn)?，他們要么相信一切，要么不信任一切。”Watts還提到了俄羅斯政府與人民之間的關(guān)系，稱克里姆林宮用“謊言之火”來(lái)控制公眾輿論。

此外，眾議院成員還關(guān)心深度偽造技術(shù)可能成為說(shuō)謊者擺脫質(zhì)疑的工具。在深度偽造普遍運(yùn)用的環(huán)境下，人們經(jīng)教育已不再輕易相信自己親眼所見(jiàn)，這種多疑的心理正好可以被說(shuō)謊者利用。對(duì)于一個(gè)不利于自己的信息，盡管其沒(méi)有經(jīng)過(guò)任何加工，任何人都可以宣稱是偽造的，從而達(dá)到混淆公眾視聽(tīng)的目的。Stewart議員提出假設(shè)：一名官員因貪污被抓，官員可以隨時(shí)狡辯稱作為證據(jù)的信息內(nèi)容是經(jīng)深度偽造合成的虛假內(nèi)容，“而事實(shí)是，證據(jù)不僅為真，那位官員所作所為遠(yuǎn)比證據(jù)呈現(xiàn)出來(lái)的還要罪惡?！痹诨ハ嗝艿恼婕賰膳芍?，總有人愿意選擇相信假的一方。

二、應(yīng)對(duì)深度偽造風(fēng)險(xiǎn)的措施

面對(duì)美國(guó)眾議院對(duì)深度偽造的種種擔(dān)憂，參加聽(tīng)證會(huì)的議員和專家提出了不少可資參考的建議，以遏制深度偽造技術(shù)的負(fù)面影響，發(fā)揮其在生活、科技等方面的積極作用。

1

實(shí)施深度偽造的主體限制

為避免深度偽造技術(shù)對(duì)包括2020年競(jìng)選在內(nèi)的民主政治活動(dòng)造成影響，專家們認(rèn)為應(yīng)當(dāng)對(duì)深度偽造的技術(shù)的實(shí)施主體進(jìn)行限制。Watts認(rèn)為，國(guó)會(huì)應(yīng)當(dāng)立法禁止官員和機(jī)構(gòu)創(chuàng)作、傳播合成的不真實(shí)信息，“美國(guó)政府必須是事實(shí)和真理的提供者”；此外，總統(tǒng)候選人和各自的競(jìng)選團(tuán)隊(duì)需要與社交媒體公司攜手合作，共同為虛假信息制定統(tǒng)一標(biāo)準(zhǔn)。Citron對(duì)此表示贊同，提議競(jìng)選者做出不會(huì)在競(jìng)選活動(dòng)期間傳播或分享深度偽造的信息的承諾，并應(yīng)與社交媒體公司建立良好合作關(guān)系，以便直接駁斥網(wǎng)上的任何虛假信息。

2

深度偽造的內(nèi)容審核

Citron指出，并不是所有的深度偽造的虛假內(nèi)容都要被禁止的，有的內(nèi)容涉及到諷刺（satire）、或者戲仿（parody），如果深度偽造的內(nèi)容具備生產(chǎn)性（productive），那么其存在對(duì)社會(huì)是有益的。因?yàn)檫@類(lèi)深度偽造內(nèi)容涉及到美國(guó)修正案中所要保護(hù)的言論自由，盡管不真實(shí)，但對(duì)于啟發(fā)民智具有重要作用。因此對(duì)深度偽造的內(nèi)容不能“一刀切”打死，不應(yīng)禁止以?shī)蕵?lè)、社交等目的的合成內(nèi)容（synthetic media），對(duì)于此類(lèi)內(nèi)容不應(yīng)給平臺(tái)施加“標(biāo)注為自動(dòng)合成”等義務(wù)；對(duì)造成特定傷害（如影響政治、國(guó)家安全、公共安全等）的虛假信息才需要規(guī)制，需要審核。Watts認(rèn)為網(wǎng)絡(luò)平臺(tái)應(yīng)針對(duì)合成內(nèi)容進(jìn)行標(biāo)記和分類(lèi)，標(biāo)記的事件和內(nèi)容類(lèi)別應(yīng)跨平臺(tái)達(dá)成行業(yè)共識(shí)。當(dāng)然，標(biāo)記和分類(lèi)的前提是平臺(tái)知道特定內(nèi)容是合成內(nèi)容，平臺(tái)沒(méi)有義務(wù)也沒(méi)有能力對(duì)用戶上傳內(nèi)容或第三方內(nèi)容是否屬于合成內(nèi)容進(jìn)行判斷并加以標(biāo)注。他還提出一些關(guān)于分類(lèi)的建議：如果網(wǎng)絡(luò)平臺(tái)看到與道德有關(guān)的深度偽造內(nèi)容在短時(shí)間內(nèi)熱度飆升，則應(yīng)該對(duì)其進(jìn)行標(biāo)記并進(jìn)入人工審查通道，降低其熱度排名，阻止其進(jìn)入其他媒體平臺(tái)內(nèi)傳播；如果網(wǎng)絡(luò)平臺(tái)看到可能引發(fā)暴力事件、危害公共安全、或者與當(dāng)選官員或機(jī)構(gòu)相關(guān)的深度偽造內(nèi)容，應(yīng)當(dāng)對(duì)其進(jìn)行標(biāo)記并強(qiáng)制下線審核。

議員們還提到了網(wǎng)絡(luò)平臺(tái)相關(guān)虛假違法內(nèi)容過(guò)濾篩選過(guò)程中可能存在的偏見(jiàn)問(wèn)題。因?yàn)閯?chuàng)建過(guò)濾機(jī)制的人往往會(huì)帶入主觀偏見(jiàn)，因此網(wǎng)絡(luò)平臺(tái)可能會(huì)被某一黨所控制，從而淪為黨派競(jìng)爭(zhēng)、操縱輿論的工具。Clark因此建議，這個(gè)過(guò)濾機(jī)制應(yīng)避免政治勢(shì)力干預(yù)，而應(yīng)由學(xué)術(shù)界和企業(yè)平臺(tái)協(xié)同開(kāi)發(fā)，以專業(yè)人士意見(jiàn)為準(zhǔn)，并以專業(yè)技術(shù)提供保障，從而更好保持中立性。

3

信息真實(shí)性的檢測(cè)

在深度偽造技術(shù)日益成熟的今天，信息真實(shí)性檢測(cè)的重要性不言而喻。Clark提出三點(diǎn)建議：其一，技術(shù)平臺(tái)應(yīng)大規(guī)模開(kāi)發(fā)和共享檢測(cè)工具，或者共同合作互換、共享技術(shù)信息；其二，增加對(duì)檢測(cè)技術(shù)研發(fā)資金的投入，激發(fā)技術(shù)創(chuàng)新；其三，政府應(yīng)發(fā)展偽造信息危害評(píng)估和測(cè)量業(yè)務(wù)，通過(guò)研究相關(guān)科學(xué)文獻(xiàn)和發(fā)展知識(shí)儲(chǔ)備庫(kù)，決定對(duì)偽造信息的人應(yīng)采取的行動(dòng)。Watts建議政府應(yīng)當(dāng)與私人部門(mén)合作，開(kāi)發(fā)電子認(rèn)證簽名工具，標(biāo)注信息內(nèi)容的日期和來(lái)源。Doermann也提議社交媒體平臺(tái)可以使用一定的技術(shù)手段將偽造內(nèi)容和可供驗(yàn)證的音頻和視頻鏈接在一起，從而決定是否將其從網(wǎng)站中下線，“就像我們處理惡意軟件或者其他網(wǎng)絡(luò)問(wèn)題一樣”。

對(duì)于信息真實(shí)性檢測(cè)時(shí)間，Watts主張應(yīng)及時(shí)反應(yīng)、迅速行動(dòng)。“鼓勵(lì)行業(yè)合作打擊極端主義、虛假信息……要迅速反應(yīng)，以處理這些信息。任何在回應(yīng)上的滯后都會(huì)助長(zhǎng)陰謀的實(shí)現(xiàn)，你行動(dòng)越快，公眾了解的機(jī)會(huì)就會(huì)越小，主流媒體和其他官方人士就越方便提供幫助?！?/p>

3

網(wǎng)絡(luò)平臺(tái)的法律責(zé)任

對(duì)于深度偽造信息的受害者而言，尋求法律救濟(jì)的途徑較為局限。Citron指出，法律主要提供兩種途徑保障受害者權(quán)益。民事上，受害者可以訴請(qǐng)法院判處行為人構(gòu)成誹謗、故意實(shí)施侵權(quán)行為造成精神傷害，但訴訟成本較為高昂且訴訟進(jìn)程較為緩慢；刑事上，州、聯(lián)邦提供兩個(gè)層級(jí)的法律保護(hù)：州層面有一些關(guān)于誹謗和假冒行為的刑事立法，聯(lián)邦也有相關(guān)假冒行為的官方立法?？梢?jiàn)，受害者所能主張賠償?shù)膶?duì)象只有信息捏造者和發(fā)布者，網(wǎng)絡(luò)平臺(tái)雖在信息傳播過(guò)程中扮演著十分重要角色，但是卻享有充分廣泛的豁免權(quán)，這歸因于美國(guó)的《通信規(guī)范法》(Communications Decency Act of 1996)中230條，其中規(guī)定，網(wǎng)絡(luò)服務(wù)商絕不可能被看作是第三方提供的內(nèi)容的出版商（publisher）。這意味著網(wǎng)絡(luò)平臺(tái)對(duì)第三方發(fā)布內(nèi)容沒(méi)有審核義務(wù)，因此受害者不能向網(wǎng)絡(luò)平臺(tái)主張權(quán)利。

Citron還說(shuō)，1996年的法案并不是因?yàn)榭紤]到網(wǎng)絡(luò)平臺(tái)不能實(shí)施過(guò)濾行為而免除該義務(wù)，其旨在鼓勵(lì)行業(yè)自律。但96年的“國(guó)會(huì)和聯(lián)邦貿(mào)易委員會(huì)難以超越時(shí)代的局限，考慮到現(xiàn)在我們面臨的處境”。她認(rèn)為應(yīng)該為網(wǎng)絡(luò)平臺(tái)的豁免權(quán)利設(shè)定一定的條件，比如可以對(duì)230條作一些靈活修改，將“任何在線服務(wù)平臺(tái)都不應(yīng)被視為第三方內(nèi)容的代言人（speaker）和出版商”修改為“任何從事合理內(nèi)容審核實(shí)踐的在線服務(wù)平臺(tái)都不應(yīng)被視為第三方內(nèi)容的代言人或出版商”，以更好地約束網(wǎng)絡(luò)服務(wù)平臺(tái)，保障受害者權(quán)利。議員Welch提問(wèn)可否直接采納1996年前的立法，直接將網(wǎng)絡(luò)平臺(tái)服務(wù)者視為出版商，從而對(duì)其苛以更高的審查要求。Clark回應(yīng)，考慮到網(wǎng)絡(luò)服務(wù)平臺(tái)控制言論十分困難，且相關(guān)的文化習(xí)慣已經(jīng)形成，所以不宜作此修改。

5

對(duì)外國(guó)人實(shí)施深度偽造行為的制裁

針對(duì)外國(guó)人利用深度偽造技術(shù)危害美國(guó)國(guó)家安全和人民利益的行為，Citron提出兩點(diǎn)法律上的建議：一是考慮利用美國(guó)程序法中的長(zhǎng)臂管轄原則。依據(jù)“最低限度接觸標(biāo)準(zhǔn)”將損害美國(guó)國(guó)家利益的行為納入美國(guó)司法機(jī)關(guān)管轄范圍；二是對(duì)于身處域外的違法行為人，美國(guó)還可以依據(jù)與他國(guó)的引渡條款，請(qǐng)求相關(guān)國(guó)家移交本國(guó)進(jìn)行審判或處罰。Watts以美國(guó)對(duì)俄羅斯GRU情報(bào)機(jī)構(gòu)的制裁為例，在發(fā)現(xiàn)俄羅斯利用網(wǎng)絡(luò)攻擊干預(yù)美國(guó)大選后，美國(guó)采取了一系列強(qiáng)制措施，包括制裁俄羅斯情報(bào)機(jī)構(gòu)GRU、驅(qū)逐多名在美情報(bào)人員、關(guān)閉俄羅斯在美辦公場(chǎng)所等。對(duì)于身處引渡難度較大的國(guó)家的罪犯，Watts表示要建立威懾力，“要讓那些網(wǎng)絡(luò)黑客知道我們會(huì)以較為激進(jìn)的方式作出回應(yīng)”。

6

批判性思維的教育

從社會(huì)心理學(xué)角度看，我們接觸到符合我們世界觀的信息越多，我們?cè)絻A向認(rèn)為該信息是正確的，Citron指出。一旦深度偽造的信息內(nèi)容印證了大眾的認(rèn)證偏見(jiàn)，此虛假信息就很難被駁斥和證實(shí)。因此對(duì)公眾的批判性思維的教育尤其重要。對(duì)于深度偽造的信息，要教育公眾要持批判性眼光判斷信息真?zhèn)危灰p易相信“眼見(jiàn)為實(shí)”；要教育社會(huì)公眾在進(jìn)行信息檢索時(shí)，主流輿論并不一定代表著正確，要多對(duì)其提出質(zhì)疑；同時(shí)，也要告知公眾深度偽造技術(shù)可能被騙子加以利用成為洗清嫌疑的借口，因此即使眼見(jiàn)“為虛”亦可能為實(shí)。Dormann也表示，不要輕易相信來(lái)源單一的信息，要充分利用檢索工具，進(jìn)行多方印證才可以獲得較為真實(shí)可靠的信息內(nèi)容。

三、深度偽造技術(shù)的未來(lái)

既然深度偽造技術(shù)可能給個(gè)人、社會(huì)和國(guó)家?guī)?lái)種種威脅，那這項(xiàng)技術(shù)是否應(yīng)被國(guó)家嚴(yán)格管控而不應(yīng)作為面向社會(huì)開(kāi)放的資源？Doermann表示，當(dāng)下我們總會(huì)接觸到這個(gè)技術(shù)。目前深度偽造技術(shù)并不限于在AI實(shí)驗(yàn)室里運(yùn)作，任何一個(gè)擁有一部性能較好電腦的高中生都可以在免費(fèi)開(kāi)放的互聯(lián)網(wǎng)中接觸到該技術(shù)、并能將其下載到自己電腦中運(yùn)行?！霸摷夹g(shù)實(shí)際上與深度學(xué)習(xí)運(yùn)用的技術(shù)一樣，應(yīng)該向社會(huì)開(kāi)放?！边@意味著在面對(duì)深度偽造帶來(lái)的潛在風(fēng)險(xiǎn)時(shí)，不是“一刀切”地禁止深度偽造技術(shù)的應(yīng)用，而是有效管控其風(fēng)險(xiǎn)，尤其是對(duì)可能造成特定傷害的深度偽造的虛假信息進(jìn)行規(guī)制，同時(shí)不妨礙其在教育、藝術(shù)、社交、虛擬現(xiàn)實(shí)、個(gè)人發(fā)展、醫(yī)療等等領(lǐng)域的應(yīng)用。

深度偽造技術(shù)是AI發(fā)展到一定階段的產(chǎn)物，技術(shù)本是中立的。技術(shù)并不導(dǎo)致社會(huì)矛盾，只是技術(shù)的出現(xiàn)加劇了這種社會(huì)矛盾。所以我們不應(yīng)該因此而禁止深度偽造技術(shù)。與此相比，更重要的是提高針對(duì)深度偽造的檢測(cè)技術(shù)、完善相關(guān)認(rèn)證機(jī)制。專家們承認(rèn)，深度偽造技術(shù)正變得越來(lái)越復(fù)雜，在互聯(lián)網(wǎng)上也越來(lái)越容易被大眾接觸，但與此同時(shí)也有越來(lái)越多人在學(xué)習(xí)、研發(fā)相關(guān)的檢測(cè)技術(shù)，掌握判斷真?zhèn)蔚募寄?。但是，隨著深度偽造技術(shù)越來(lái)越成熟，相應(yīng)的檢測(cè)深度偽造的技術(shù)也會(huì)越來(lái)越先進(jìn)——這將是一場(chǎng)永無(wú)休止的競(jìng)賽，Doermann將其比喻為“貓抓老鼠的游戲”。

聽(tīng)證會(huì)的主席Adam Schiff說(shuō)：“我不知道我們能否為此做好充分準(zhǔn)備，但是，我們還可以做更多的工作，確定敵人的計(jì)劃和意圖，盡早找出并揭露它，告知公眾他們需要關(guān)注什么，應(yīng)當(dāng)做什么，而不僅僅忽略他們所看到的一切?！彪m然沒(méi)有一招制勝的方法，但阻止深度偽造負(fù)面影響蔓延的方法并不有限，Citron說(shuō)，“法律、市場(chǎng)和社會(huì)恢復(fù)力（society resilience）的結(jié)合是解決問(wèn)題的必要條件?！?/p>

整體而言，美國(guó)立法者當(dāng)前對(duì)深度偽造的擔(dān)憂主要集中于國(guó)家安全、公共安全、政治選舉等方面，同時(shí)承認(rèn)深度偽造等合成媒體內(nèi)容在娛樂(lè)、藝術(shù)表達(dá)、社交等方面具有積極意義，所以不應(yīng)對(duì)深度偽造內(nèi)容“一刀切”禁止，一竿子打死?？紤]到《通信規(guī)范法》和保護(hù)言論自由以及深度偽造檢測(cè)識(shí)別技術(shù)的發(fā)展?fàn)顩r，美國(guó)立法者并沒(méi)有要求平臺(tái)對(duì)用戶上傳、發(fā)布的內(nèi)容進(jìn)行是否屬于深度偽造內(nèi)容的檢索識(shí)別并予以標(biāo)注。由于生成對(duì)抗網(wǎng)絡(luò)（GAN）等深度學(xué)習(xí)技術(shù)的持續(xù)發(fā)展，深度偽造技術(shù)還在快速進(jìn)化，其檢測(cè)識(shí)別難度很大，當(dāng)前的技術(shù)發(fā)展?fàn)顩r還無(wú)法對(duì)深度偽造內(nèi)容進(jìn)行準(zhǔn)確識(shí)別，雖然檢測(cè)技術(shù)也一直在發(fā)展。例如，瑞士科學(xué)家在一篇論文中就首次對(duì)人臉識(shí)別方法檢測(cè)Deepfake的效果進(jìn)行了較為全面的測(cè)評(píng)，嘗試用最前沿的人臉識(shí)別系統(tǒng)去識(shí)別假視頻，結(jié)果錯(cuò)誤率高達(dá)95%。所以當(dāng)前如果要求平臺(tái)對(duì)深度偽造等合成媒體內(nèi)容進(jìn)行識(shí)別和標(biāo)注，在技術(shù)上幾乎是不可能實(shí)現(xiàn)的。

因此，正如Citron所言，對(duì)深度偽造的內(nèi)容不能“一刀切”打死，很多深度偽造的合成媒體內(nèi)容具有存在的正當(dāng)性，而對(duì)影響國(guó)家安全、公共安全、民主政治的虛假信息才需要加強(qiáng)監(jiān)管和規(guī)制。此外，涉及刑事犯罪和一般網(wǎng)絡(luò)侵權(quán)的深度偽造適用不同的規(guī)制，監(jiān)管應(yīng)區(qū)別對(duì)待，美國(guó)相關(guān)立法目前主要從刑事犯罪角度對(duì)深度偽造予以規(guī)制。