專家解讀｜規范智能技術供給 構建現代化深度合成治理能力

隨著人工智能技術的快速發展，數字產業化進程不斷加快，產業數字化、智能化水平進一步提升。多媒體深度合成技術是人工智能技術的重要研究和典型應用領域，涉及深度學習、虛擬現實、預訓練大模型等生成合成類算法，國內外著名高校、科研機構、互聯網公司和人工智能企業紛紛展開相關技術研究。隨著其與互聯網信息服務的深度融合，在變革互聯網信息制作模式、智能生產新聞媒體內容、改善人機交互體驗、繁榮數字經濟等方面產生巨大影響。同時我們應該清醒地認識到，利用該技術進行違法和不良信息的制作、復制、發布、傳播等行為，對維護網絡安全、社會經濟穩定、公共利益帶來巨大挑戰。習近平總書記在黨的二十大報告中強調，“健全網絡綜合治理體系，推動形成良好網絡生態”。2022年11月25日，國家互聯網信息辦公室、工業和信息化部、公安部聯合發布《互聯網信息服務深度合成管理規定》（以下簡稱《規定》），《規定》深入貫徹《網絡安全法》《數據安全法》《個人信息保護法》《互聯網信息服務管理辦法》等法律、行政法規，聚焦突出問題，有效規范深度合成服務，加強網絡內容建設，強化對人工智能技術、服務、內容、平臺的綜合治理能力。

一、堅持維護國家利益和站穩人民立場，強化算法治理能力

《規定》落實總體國家安全觀，堅持以人民為中心，對利用深度合成技術危害國家安全和利益、損害國家形象、侵害公民合法權益和隱私的行為，作出全面、具體的回應，對現行算法應用安全監管規則進一步細化，為營造風清氣正的網絡空間提供制度保障和治理依據。

（一）有效銜接現行法規制度，健全我國算法綜合治理體系。在《網絡安全法》《數據安全法》《個人信息保護法》《互聯網信息服務管理辦法》等法律法規框架下，深刻把握深度合成服務存在的安全風險，與《網絡信息內容生態治理規定》《互聯網信息服務算法推薦管理規定》《網絡音視頻信息服務管理規定》等相關規定制度緊密銜接，理清深度合成技術定義與應用場景，明確服務提供者的信息安全主體責任，延伸互聯網信息服務算法治理思路，給出生成合成類算法服務安全管理樣板，完善了我國互聯網信息服務算法綜合治理體系。

（二）構建多方共同治理格局，創新人工智能倫理監管的中國方案。《規定》統籌各方力量，構建政府監管、企業履責、行業自律、社會監督的多元共治體系，將網絡信息內容生態治理和深度合成服務管理有機結合，通過貫穿深度合成服務事前事中事后的監管模式，針對不同的深度合成活動給出規范要求，進一步明確深度合成服務提供者、技術支持者和使用者以及應用程序分發平臺責任，鼓勵推動行業自律和出臺標準規范，要求社會監督和申訴渠道暢通，及時處理公眾訴求，對深度合成服務管理提出了兼具針對性、指導性、規范性的中國方案。

（三）聚焦違法和不良信息治理，引導深度合成服務向上向善。針對利用深度合成服務制作、復制、發布、傳播違法信息等行為，《規定》劃定“紅線”，規定不得利用深度合成服務開展法律法規禁止的活動，要求深度合成服務提供者制定和公開管理規則、平臺公約，完善服務協議，依法依約履行信息安全管理責任。發現違法和不良信息的，依法采取處置措施，保存有關記錄，及時向有關主管部門報告。

（四）促進智能技術健康有序發展，引領相關信息產業落地應用。《規定》的發布進一步提升了我國網絡空間信息安全治理能力，引導以深度學習為主的新興智能技術健康發展，有效促進圍繞音頻、視頻、圖像和文本的多模態人工智能算法在應用管理方面的積極探索。隨著深度合成技術應用的普及和發展，深度合成檢測技術也將順勢而來，通過深度合成與檢測的技術演練與應用對抗，能促進構建良性迭代的深度合成信息服務生態，共同推動新興人工智能技術應用落地。

二、界定各方責任要求，構建深度合成服務治理體系

《規定》明確各方在深度合成活動全流程的主體責任，在《互聯網信息服務算法推薦管理規定》已有規定基礎上，明確指導性極強的生成合成標識方法，要求完善管理制度和技術保障措施。

（一）明確義務要求，強化主體責任。《規定》分析梳理了深度合成活動邊界，明確了深度合成技術定義，對深度合成服務提供者、技術支持者和使用者以及應用程序分發平臺等主體應履行的責任義務作出規定，如深度合成服務提供者應履行建立健全管理制度、對使用者真實身份信息認證、加強深度合成信息內容管理等義務，服務提供者和技術支持者應履行加強訓練數據管理、加強深度合成技術管理等義務。同時，《規定》對具有輿論屬性或者社會動員能力的深度合成服務提供者提出了更嚴格的監管要求。

（二）監管針對性強，涵蓋技術管理要求。《規定》針對利用生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息，明確了算法備案、安全評估、顯著標識等強制性要求及適用情形，如規定深度合成服務提供者和技術支持者若生成或編輯生物識別信息，必須進行算法安全評估。此外，《規定》針對各類生成合成技術應用，還提出要加強制度建設、技術保障措施安全可控、制定和公開管理規則、完善服務協議、建立健全辟謠機制等要求。

（三）細化標識規則，明確具體規范要求。《規定》對《互聯網信息服務算法推薦管理規定》關于生成合成類算法標識相關要求作出細化，明確采取技術措施添加不影響用戶使用的標識，如可能導致混淆或者誤認的，還應當在合理位置、區域進行顯著標識等要求，規定任何組織和個人不得采用技術手段刪除、篡改、隱匿深度合成標識。

三、強化支撐體系建設，推動深度合成治理走深向實

隨著數字化、智能化進程的加快，互聯網信息服務綜合治理不斷細化、深入，規范深度合成活動對營造健康安全的網絡空間和加強社會治理有著重要意義。為推動《規定》落實，下一步建議加強如下工作：

一是強化智能監管平臺支撐。加大科技攻關力度，深入研究深度合成類算法內生安全機理和深度合成鑒別等關鍵技術，推動深度合成管理技術能力建設。加強人機混合的智能監管技術，研究深度合成服務提供者的安全可控技術保障方案，把監管規范轉化為評估標準，建設面向網絡全域監管的監測管理平臺。研發深度合成與鑒別對抗機制，鼓勵新興科技企業與研究機構開展技術演練，共同推動深度合成服務健康發展。緊密結合國際前沿，建設自主可控的深度合成算法安全應用體系與技術生態。

二是強化人工智能安全評估支撐。抓緊建立深度合成安全評估機制，組織研究制定深度合成安全評估相關標準規范，基于《規定》要求和深度合成類算法機制機理特點，對評估流程、方法、內容等制定規定，明確提供具有對人臉、人聲等生物識別信息或者可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息編輯功能的模型、模板等工具的，應當進行安全評估。組建專業隊伍對相關深度合成服務提供者和技術支持者評估情況進行檢查，以評促建，完善行業標準，加強行業自律，加快推進深度合成服務規范化。

三是加強科普宣貫工作支撐。配合國家人工智能算法綜合治理工作部署，面向互聯網企業、重點行業企業和相關管理部門等進行《規定》的宣貫培訓，督促企業提升深度合成技術服務水平；推進多模態人工智能相關學科研究全面開展，培育高層次人才，鼓勵相關科研機構、高校與企業建立廣泛合作機制；加強科普教育，提升音視圖文多媒體深度合成技術透明度，引導社會各界積極參與社會監督，共同推進深度合成服務綜合治理，強化多方治理成效。（作者：徐波，中國科學院自動化研究所所長）