內(nèi)容一覽：深度合成服務(wù)在滿足用戶需求、改進(jìn)用戶體驗(yàn)的同時(shí)，也被一些不法人員用于制作、復(fù)制、發(fā)布、傳播違法信息，詆毀、貶損他人名譽(yù)、榮譽(yù)，仿冒他人身份實(shí)施詐騙等違法行為，如今針對這一技術(shù)的管理規(guī)定終于發(fā)布了。

12 月 11 日，網(wǎng)信中國發(fā)布《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定》，稱該規(guī)定已經(jīng)國家互聯(lián)網(wǎng)信息辦公室審議通過，并經(jīng)工業(yè)和信息化部、公安部同意，將自 2023 年 1 月 10 日起施行。

閱讀完整規(guī)定：

https://mp.weixin.qq.com/s/smtBcuXZzC6K1QYp90lCCA

靴子落地，深度合成技術(shù)開啟查漏補(bǔ)缺

實(shí)際上，早在今年 1 月，國家網(wǎng)信辦就發(fā)布了《互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定（征求意見稿）》，公開征求群眾意見，時(shí)隔 11 個(gè)月，如今靴子終于落地，近期一路高歌猛進(jìn)的 ChatGPT，在國內(nèi)發(fā)展或被按下暫停鍵。

本次正式發(fā)布的管理規(guī)定，進(jìn)一步明確了深度合成技術(shù)的范圍及使用規(guī)范，涵蓋文本、圖像、音頻、視頻等多種模態(tài)的相關(guān)技術(shù)。

附則部分給出了「深度合成技術(shù)」的明確定義

除一般規(guī)定外，該管理規(guī)定還對數(shù)據(jù)和技術(shù)管理規(guī)范以及監(jiān)督檢查與法律責(zé)任，都做出了更詳細(xì)的規(guī)范和說明，本文將列舉部分重點(diǎn)規(guī)定。

禁止制作傳播虛假新聞消息

深度合成服務(wù)提供者和使用者不得利用深度合成服務(wù)制作、復(fù)制、發(fā)布、傳播虛假新聞信息。轉(zhuǎn)載基于深度合成服務(wù)制作發(fā)布的新聞信息的，應(yīng)當(dāng)依法轉(zhuǎn)載互聯(lián)網(wǎng)新聞信息稿源單位發(fā)布的新聞信息。

使用深度合成技術(shù)，必須進(jìn)行實(shí)名認(rèn)證

深度合成服務(wù)提供者應(yīng)當(dāng)基于移動(dòng)電話號碼、身份證件號碼、統(tǒng)一社會信用代碼或者國家網(wǎng)絡(luò)身份認(rèn)證公共服務(wù)等方式，依法對深度合成服務(wù)使用者進(jìn)行真實(shí)身份信息認(rèn)證，不得向未進(jìn)行真實(shí)身份信息認(rèn)證的深度合成服務(wù)使用者提供信息發(fā)布服務(wù)。

涉及多項(xiàng)個(gè)人信息，需取得單獨(dú)同意

深度合成服務(wù)提供者和技術(shù)支持者應(yīng)當(dāng)加強(qiáng)訓(xùn)練數(shù)據(jù)管理，采取必要措施保障訓(xùn)練數(shù)據(jù)安全；訓(xùn)練數(shù)據(jù)包含個(gè)人信息的，應(yīng)當(dāng)遵守個(gè)人信息保護(hù)的有關(guān)規(guī)定。

深度合成服務(wù)提供者和技術(shù)支持者提供人臉、人聲等生物識別信息編輯功能的，應(yīng)當(dāng)提示深度合成服務(wù)使用者依法告知被編輯的個(gè)人，并取得其單獨(dú)同意。

使用深度合成服務(wù)生成或編輯的內(nèi)容，需添加顯著標(biāo)識

對于使用深度合成服務(wù)生成或者編輯的信息內(nèi)容，規(guī)定應(yīng)當(dāng)采取技術(shù)措施添加不影響用戶使用的標(biāo)識，并依照法律、行政法規(guī)和國家有關(guān)規(guī)定保存日志信息。

深度合成服務(wù)提供者提供以下深度合成服務(wù)，可能導(dǎo)致公眾混淆或者誤認(rèn)的，應(yīng)當(dāng)在生成或者編輯的信息內(nèi)容的合理位置、區(qū)域進(jìn)行顯著標(biāo)識，向公眾提示深度合成情況：

（一）智能對話、智能寫作等模擬自然人進(jìn)行文本的生成或者編輯服務(wù)；

（二）合成人聲、仿聲等語音生成或者顯著改變個(gè)人身份特征的編輯服務(wù)；

（三）人臉生成、人臉替換、人臉操控、姿態(tài)操控等人物圖像、視頻生成或者顯著改變個(gè)人身份特征的編輯服務(wù)；

（四）沉浸式擬真場景等生成或者編輯服務(wù)；

（五）其他具有生成或者顯著改變信息內(nèi)容功能的服務(wù)。

深度合成服務(wù)提供者提供前款規(guī)定之外的深度合成服務(wù)的，應(yīng)當(dāng)提供顯著標(biāo)識功能，并提示深度合成服務(wù)使用者可以進(jìn)行顯著標(biāo)識。

健全申訴及舉報(bào)入口，規(guī)范流程及反饋時(shí)限

深度合成服務(wù)提供者應(yīng)當(dāng)設(shè)置便捷的用戶申訴和公眾投訴、舉報(bào)入口，公布處理流程和反饋時(shí)限，及時(shí)受理、處理和反饋處理結(jié)果。

完整「互聯(lián)網(wǎng)信息服務(wù)深度合成管理規(guī)定」，詳見：

https://mp.weixin.qq.com/s/smtBcuXZzC6K1QYp90lCCA

深度合成技術(shù)治理道阻且長

近年來，深度合成內(nèi)容的數(shù)量呈現(xiàn)爆發(fā)式增長，清華大學(xué)人工智能研究院曾聯(lián)合多家機(jī)構(gòu)，發(fā)布了《深度合成十大趨勢報(bào)告（2022）》。

報(bào)告中指出，2021 年新發(fā)布的深度合成視頻的數(shù)量，與 2017 年相比，增長達(dá) 10 倍以上，涉及影視音樂、科技教育、生活、娛樂、資訊等多個(gè)領(lǐng)域。

深度合成內(nèi)容制作與傳播數(shù)量高速增長

深度合成內(nèi)容數(shù)量龐大、鑒別難度高，國內(nèi)外關(guān)于建立健全監(jiān)督管理機(jī)制，曾做出多次嘗試。

2019 年 11 月，國家互聯(lián)網(wǎng)信息辦公室、文化和旅游部、國家廣播電視總局聯(lián)合發(fā)布《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，明確規(guī)定「不得利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的新技術(shù)新應(yīng)用制作、發(fā)布、傳播虛假新聞信息」。

2019 年 12 月，國家網(wǎng)信辦通過并公布了《網(wǎng)絡(luò)信息內(nèi)容生態(tài)治理規(guī)定》，禁止使用深度學(xué)習(xí)和虛擬現(xiàn)實(shí)技術(shù)從事任何非法活動(dòng)。

2020 年 12 月，中共中央印發(fā)了《法治社會建設(shè)實(shí)施綱要（2020-2025 年）》，要求對深度偽造等新技術(shù)制定和完善規(guī)范管理辦法。

此外，美國、歐盟也針對深度合成技術(shù)，出臺了多部相關(guān)法律法規(guī)。

2019 年 12 月，美國國會眾議院通過「2020 財(cái)年國防批準(zhǔn)法」，要求政府向立法機(jī)構(gòu)通報(bào)涉及跨國、有組織、帶有政治目的的 Deepfake 虛假信息行為。

歐盟則公開要求科技巨頭們采取措施，加強(qiáng)對 Deepfake 的打擊，否則將處以巨額罰款，最高可被罰全球營業(yè)額的 6%。

從上線不到一周就被迫下架的 ZAO APP，到真假奧巴馬，再到螞蟻呀嘿，深度合成技術(shù)在不斷發(fā)展，政策法規(guī)也需要與時(shí)俱進(jìn)。

均通過 Deepfake 生成

只有推動(dòng)深度合成技術(shù)的依法、合理、有效使用，積極防范化解深度合成技術(shù)帶來的風(fēng)險(xiǎn)，才能促進(jìn)互聯(lián)網(wǎng)信息服務(wù)健康發(fā)展，維護(hù)網(wǎng)絡(luò)空間良好生態(tài)。

審核編輯 ：李倩