推動深度合成服務綜合治理 促進深度合成技術安全發展

隨著新一代信息技術的快速發展，深度合成技術作為人工智能領域的新應用、新實踐，已在多個行業場景中被推廣應用，并催生了“元宇宙”等新的應用場景。當前，網絡傳播環境日趨復雜，新型合成方法層出不窮，技術濫用的風險也在不斷加劇。為加強互聯網信息服務深度合成管理，國家互聯網信息辦公室、工業和信息化部、公安部聯合發布了《互聯網信息服務深度合成管理規定》（以下簡稱《規定》）?！兑幎ā窐嫿嘶ヂ摼W信息服務深度合成治理制度規范，邁出我國新技術新應用立法的重要一步。

一、《規定》出臺必要及時，意義深遠

技術發展與風險挑戰相伴而生，新技術新應用發展日新月異，技術治理是一場永恒的攻防對抗博弈，也是技術從創新應用到規范發展的必經階段。當前，換臉、換聲、三維重建、智能對話等深度合成服務已經在國外互聯網社交媒體中廣泛應用，催生了美顏美妝、影視制作、智能客服、虛擬主播、元宇宙等一系列形式新穎豐富、功能便捷智能的應用形態，豐富了互聯網信息內容生態，推動了互聯網相關產業發展，為人民生活帶來了便利便捷和多樣化體驗。然而，深度合成技術也正在被惡意利用制作虛假信息內容，進而可能帶來政策干擾、謠言泛濫、低俗內容肆意傳播等影響國家安全、社會穩定的風險問題。

出臺《規定》，是進一步提升網絡綜合治理能力的應時應勢之舉，具有針對性和前瞻性?！兑幎ā肥悄壳拔覈槍ι疃群铣煞粘雠_的第一部專門性部門規章，作出了一系列明確合規指引，對加強互聯網信息服務深度合成管理、促進互聯網信息服務健康發展、推進網絡空間治理意義重大，影響深遠。

二、《規定》為深度合成技術安全應用和健康發展奠定制度基礎

（一）明確了深度合成技術定義和服務范圍。深度合成技術由來已久，隨著深度學習技術，特別是對抗式生成網絡技術的發展，深度合成技術門檻大幅降低，2017年11月Reddit網站的用戶“deepfakes”發布偽造視頻令這項技術引起關注。近年來，深度偽造技術在國內外反響強烈，其以制作足以“以假亂真”的信息內容嚴重威脅國家安全、干擾傳播秩序，讓人們廣泛關注和深切擔憂，給相關技術和產業發展帶來一定影響。從技術進步的角度來說，深度合成技術應用的初衷是讓生成合成內容更逼真，但深度合成技術在愈趨“智能”的同時，也不可避免地帶來更多的安全風險，除深度偽造風險外，還包括生成合成信息內容帶來的個人信息泄漏、侵犯人格權和知識產權等他人合法權益等風險。

《規定》在深度偽造基礎上對深度合成技術作出了更全面的規范，從利用算法角度提出包括利用深度學習、虛擬現實等生成合成類算法，從制作內容形態角度提出包括文本、圖像、音頻、視頻、虛擬場景等多種類型，從具體應用形態上分類列舉了多種典型場景，明確了深度合成技術的定義和范圍。

（二）從內容管理深化到行為管理。有別于信息內容發布與傳播，互聯網信息服務深度合成活動是一項涉及算法技術、應用功能、產品業務，覆蓋數據采集、分析、編輯、加工等多環節的數據處理過程，產生的安全風險也是由參與多方、不同環節共同作用形成的，因此對互聯網信息服務深度合成的規范和引導，需要覆蓋各主體、各環節。

《規定》明確了相關主體的責任和義務。在監管主體上，將深度合成服務技術支持者納入管理。服務技術支持者為上游主體，為服務提供者提供技術支撐；服務提供者為中游主體，為服務使用者提供深度合成服務；服務使用者為下游主體，是使用深度合成服務的組織、個人?！兑幎ā窂男畔⒊尸F和傳播兩個維度開展治理，通過顯式標識和隱式標識兩種管理手段，實現對內容和行為雙重規范。在信息呈現方面，提出深度合成服務提供者應當在可能導致公眾混淆或者誤認的深度合成信息內容中加入顯式標識，以提示公眾該內容的生成合成特性，保障公眾知情權，降低虛假信息傳播的風險，實現內容治理。在信息傳播方面，通過有效技術保障措施在深度合成信息內容中添加隱式標識，實現深度合成內容安全溯源和技術應用安全可控，確保內容傳播鏈條明確清晰，事后追責準確無誤，實現行為治理，為參與深度合成信息內容制作傳播的各方主體厘清責任邊界。

（三）突出全過程安全評估管理。2021年12月，國家互聯網信息辦公室發布《互聯網信息服務算法推薦管理規定》（以下簡稱《算法規定》），對包括生成合成類在內的五類算法推薦服務進行規范?！兑幎ā吩凇端惴ㄒ幎ā坊A上，一是加強對深度合成服務全過程管理。深入深度合成服務的數據處理環節、算法運行階段、使用者行為全過程，提出更明確細化和更具有操作性的管理要求和合規指引。二是深化備案與評估標本兼治?！兑幎ā芬缶哂休浾搶傩曰蛘呱鐣訂T能力的深度合成服務提供者和技術支持者依法履行算法備案手續，并公示備案編號，有助于引導互聯網信息服務深度合成合規運營、提升產品口碑、增強企業互信、促進行業健康發展?！兑幎ā访鞔_了對深度合成服務提供者開發上線具有輿論屬性或者社會動員能力的新產品、新應用、新功能應當開展安全評估管理，有助于幫助企業防范和應對深度合成內容安全風險、數據安全風險和技術濫用風險，有助于促進管理部門備案摸底、風險監測和監督檢查等工作依法開展、落地成效。

三、健全深度合成治理技術支撐體系，促進服務健康有序發展

《規定》的出臺，是網絡內容治理由結果管理邁向行為管理的重要一步，標志著我國網絡空間治理能力進一步優化提升。但是，深度合成技術與應用管理目前仍處于起步階段，在技術支撐和能力建設方面有待進一步加強。加快推進深度合成治理技術支撐體系建設，是切實保障深度合成服務治理工作有力有序推進的關鍵。建議從以下方面加強工作：

（一）促進多方共治深入細化安全標準。《規定》充分結合深度合成技術特點與發展趨勢，提出了針對深度合成服務和技術的普適性的規范思路，但在生成合成類算法服務范圍、深度合成技術具體范圍、深度合成服務業務分類、顯式標識條件與標識方式、隱式標識方法與識別等諸多具體方面，仍亟需行業內部進一步細化相關配套標準規范。在實際落地過程中，建議行業內推進產業聯盟建立，研制相關標準規范，以產業自治、多方共治的方式，不斷推進深度合成技術應用高質量發展。

（二）用以技術管技術思維促進深度合成服務治理。深度合成技術是一項非常前沿的智能技術，治理其帶來的安全問題不能僅靠傳統的結果導向治標方法。建議從深度合成信息內容源頭上解決其衍生的內容安全風險，利用技術創新、技術對抗等方式，持續提升和迭代檢測技術的能力?；ヂ摼W信息服務深度合成綜合治理，不僅著眼于管理好、使用好、發展好深度合成技術及相關服務，同時，也致力于深度合成技術的合法合理合規使用，促進深度合成技術及相關服務健康有序的發展。

（三）推進深度合成服務治理技術能力建設。構建互聯網信息服務深度合成安全監管體系需要在技術支撐和能力建設方面進一步加強。國家科研機構應加大深度合成安全方面的科技攻關，建設深度合成安全評估和風險監測的科研創新平臺，探索共建新型研發機構，形成引領深度合成安全基礎研究的戰略力量。組織建立專業技術評估隊伍，研究深度合成安全內生機理、安全風險評估、全生命周期安全監測等關鍵技術。加強基礎科研設施建設，完善算法安全治理人才隊伍培養體系，提升深度合成自主創新和安全可控能力。（作者：孟丹，中國科學院信息工程研究所所長）