內(nèi)容一覽：深度合成服務(wù)在滿足用戶需求、改進用戶體驗的同時，也被一些不法人員用于制作、復(fù)制、發(fā)布、傳播違法信息，詆毀、貶損他人名譽、榮譽，仿冒他人身份實施詐騙等違法行為，如今針對這一技術(shù)的管理規(guī)定終于發(fā)布了。

12 月 11 日，網(wǎng)信中國發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，稱該規(guī)定已經(jīng)國家互聯(lián)網(wǎng)信息辦公室審議通過，并經(jīng)工業(yè)和信息化部、公安部同意，將自 2023 年 1 月 10 日起施行。

閱讀完整規(guī)定：

https://mp.weixin.qq.com/s/smtBcuXZzC6K1QYp90lCCA

靴子落地，深度合成技術(shù)開啟查漏補缺

實際上，早在今年 1 月，國家網(wǎng)信辦就發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定（征求意見稿）》，公開征求群眾意見，時隔 11 個月，如今靴子終于落地，近期一路高歌猛進的 ChatGPT，在國內(nèi)發(fā)展或被按下暫停鍵。

本次正式發(fā)布的管理規(guī)定，進一步明確了深度合成技術(shù)的范圍及使用規(guī)范，涵蓋文本、圖像、音頻、視頻等多種模態(tài)的相關(guān)技術(shù)。

附則部分給出了「深度合成技術(shù)」的明確定義

除一般規(guī)定外，該管理規(guī)定還對數(shù)據(jù)和技術(shù)管理規(guī)范以及監(jiān)督檢查與法律責(zé)任，都做出了更詳細的規(guī)范和說明，本文將列舉部分重點規(guī)定。

禁止制作傳播虛假新聞消息

深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息。轉(zhuǎn)載基于深度合成服務(wù)制作發(fā)布的新聞信息的，應(yīng)當(dāng)依法轉(zhuǎn)載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息。

使用深度合成技術(shù)，必須進行實名認證

深度合成服務(wù)提供者應(yīng)當(dāng)基于移動電話號碼、身份證件號碼、統(tǒng)一社會信用代碼或者國家網(wǎng)絡(luò)身份認證公共服務(wù)等方式，依法對深度合成服務(wù)使用者進行真實身份信息認證，不得向未進行真實身份信息認證的深度合成服務(wù)使用者提供信息發(fā)布服務(wù)。

涉及多項個人信息，需取得單獨同意

深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)加強訓(xùn)練數(shù)據(jù)管理，采取必要措施保障訓(xùn)練數(shù)據(jù)安全；訓(xùn)練數(shù)據(jù)包含個人信息的，應(yīng)當(dāng)遵守個人信息保護的有關(guān)規(guī)定。

深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個人，并取得其單獨同意。

使用深度合成服務(wù)生成或編輯的內(nèi)容，需添加顯著標識

對于使用深度合成服務(wù)生成或者編輯的信息內(nèi)容，規(guī)定應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標識，并依照法律、行政法規(guī)和國家有關(guān)規(guī)定保存日志信息。

深度合成服務(wù)提供者提供以下深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進行顯著標識，向公眾提示深度合成情況：

（一）智能對話、智能寫作等模擬自然人進行文本的生成或者編輯服務(wù)；

（二）合成人聲、仿聲等語音生成或者顯著改變個人身份特征的編輯服務(wù)；

（三）人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個人身份特征的編輯服務(wù)；

（四）沉浸式擬真場景等生成或者編輯服務(wù)；

（五）其他具有生成或者顯著改變信息內(nèi)容功能的服務(wù)。

深度合成服務(wù)提供者提供前款規(guī)定之外的深度合成服務(wù)的，應(yīng)當(dāng)提供顯著標識功能，并提示深度合成服務(wù)使用者可以進行顯著標識。

健全申訴及舉報入口，規(guī)范流程及反饋時限

深度合成服務(wù)提供者應(yīng)當(dāng)設(shè)置便捷的用戶申訴和公眾投訴、舉報入口，公布處理流程和反饋時限，及時受理、處理和反饋處理結(jié)果。

完整「互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定」，詳見：

https://mp.weixin.qq.com/s/smtBcuXZzC6K1QYp90lCCA

深度合成技術(shù)治理道阻且長

近年來，深度合成內(nèi)容的數(shù)量呈現(xiàn)爆發(fā)式增長，清華大學(xué)人工智能研究院曾聯(lián)合多家機構(gòu)，發(fā)布了《深度合成十大趨勢報告（2022）》。

報告中指出，2021 年新發(fā)布的深度合成視頻的數(shù)量，與 2017 年相比，增長達 10 倍以上，涉及影視音樂、科技教育、生活、娛樂、資訊等多個領(lǐng)域。

深度合成內(nèi)容制作與傳播數(shù)量高速增長

深度合成內(nèi)容數(shù)量龐大、鑒別難度高，國內(nèi)外關(guān)于建立健全監(jiān)督管理機制，曾做出多次嘗試。

2019 年 11 月，國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國家廣播電視總局聯(lián)合發(fā)布《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，明確規(guī)定「不得利用基于深度學(xué)習(xí)、虛擬現(xiàn)實等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播虛假新聞信息」。

2019 年 12 月，國家網(wǎng)信辦通過并公布了《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》，禁止使用深度學(xué)習(xí)和虛擬現(xiàn)實技術(shù)從事任何非法活動。

2020 年 12 月，中共中央印發(fā)了《法治社會建設(shè)實施綱要（2020-2025 年）》，要求對深度偽造等新技術(shù)制定和完善規(guī)范管理辦法。

此外，美國、歐盟也針對深度合成技術(shù)，出臺了多部相關(guān)法律法規(guī)。

2019 年 12 月，美國國會眾議院通過「2020 財年國防批準法」，要求政府向立法機構(gòu)通報涉及跨國、有組織、帶有政治目的的 Deepfake 虛假信息行為。

歐盟則公開要求科技巨頭們采取措施，加強對 Deepfake 的打擊，否則將處以巨額罰款，最高可被罰全球營業(yè)額的 6%。

從上線不到一周就被迫下架的 ZAO APP，到真假奧巴馬，再到螞蟻呀嘿，深度合成技術(shù)在不斷發(fā)展，政策法規(guī)也需要與時俱進。

均通過 Deepfake 生成

只有推動深度合成技術(shù)的依法、合理、有效使用，積極防范化解深度合成技術(shù)帶來的風(fēng)險，才能促進互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展，維護網(wǎng)絡(luò)空間良好生態(tài)。

審核編輯 ：李倩