專家解讀｜規范深度合成服務 營造風清氣正的網絡空間

《互聯網信息服務深度合成管理規定》（下文簡稱為《規定》）于2022年11月25日發布，標志著深度合成服務成為了我國算法治理中率先專門立法的算法服務類型。中共中央印發的《法治社會建設實施綱要（2020—2025年）》中提出完善網絡信息服務方面的法律法規，制定完善算法推薦、深度偽造等新技術應用的規范管理辦法。這一規章的出臺將綱要提出的重要任務落地，凸顯了深度合成技術在我國算法安全治理中的重要地位。

深度合成技術，是指利用深度學習、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等信息的技術。近年來，深度合成技術應用廣泛、形式多樣，在影視、傳媒、教育等領域有大量應用形式，可實現特效制作、元宇宙場景、虛擬仿真教學等功能。隨著各類商業化產品普及，深度合成的信息內容也在網絡上大量涌現，越來越多的社會公眾接觸到了深度合成技術?！兑幎ā反_立了我國對深度合成服務的治理框架，提出了明確的數據和技術管理規范，為促進深度合成技術向上向善，引導相關產業健康發展，確?；ヂ摼W信息內容安全提供了有力的制度保障。

一、規范深度合成服務的重要意義

深度合成服務是生成合成類算法的應用服務，屬于我國《互聯網信息服務算法推薦管理規定》中規定的生成合成類、排序精選類、檢索過濾類、個性化推送類、調度決策類算法推薦服務中的一種。深度合成技術應用領域十分廣泛，可以被用來生成和編輯文本、生成音樂、合成人聲，如代替人創作詩歌和撰寫詞曲，自動生成伴奏音樂與合成歌聲等。深度合成技術也可以被用來進行人臉生成、人臉替換、人臉操控，可被用來制作電影特效，或者生成以假亂真的人物視頻。深度合成技術還可被用來進行圖像生成、圖像增強等，如2021年被廣泛關注的FacePlay應用，只需要用戶上傳一張人臉照片，就可以生成不同服裝場景的圖片和視頻。深度合成技術也極大地豐富了虛擬數字空間的信息內容，為更加多樣化的傳播行為提供了可能性。2021年10月，臉書宣布更名為“Meta”即元宇宙，即是利用深度合成技術創建虛擬世界，用戶可以通過現實頭戴設備與其他用戶實現互動。

隨著深度合成技術的開源開放、深度合成產品和服務的逐漸增多，深度合成內容制作的技術門檻越來越低，深度合成服務已經實現了公眾化、平民化，普通人僅需要少量的圖像、音頻、視頻、文本等樣本數據，利用簡便易用的深度合成工具，就能夠模糊真實信息和虛假信息的邊界。深度合成技術誕生之初，由于技術的不成熟，尚存在合成的視頻中人物微表情不自然、圖像邊緣有鋸齒等明顯痕跡。但近年來在網絡傳播的深度合成視頻內容，人物動作的逼真度、自然度，以及視頻整體的清晰度、流暢度都可以達到以假亂真的水平，用戶已經難以鑒別。

深度合成技術一旦被濫用，會造成巨大風險與實質性危害，可能給個人、企業造成肖像、名譽等人格和財產權益損害，也可能給社會秩序、國家政治穩定和安全造成巨大威脅。如將深度合成技術用于捏造國家政要言論、偽造公務人員虛假視頻，可能給政治安全和國家安全帶來重大危害。對個人與企業來說，深度合成技術的濫用也可能造成巨大權益損害。如企業高管被深度合成捏造視頻篡改發言內容，可能造成市場恐慌，引發金融市場動蕩。個人也可能被偽造虛假視頻等，被用來向其親友詐騙或者偽造不雅視頻侵害其名譽權。

由此可見，深度合成技術的快速發展為數字時代發展帶來了令人期待的可能性，但也帶來了令人擔憂的巨大風險。習近平總書記指出，“網絡空間是億萬民眾共同的精神家園。網絡空間天朗氣清、生態良好，符合人民利益。”規范和引導利用深度合成技術提供的互聯網信息服務，最大限度地保護公民、企業合法權益，維護國家安全、政治穩定與社會公共秩序，促進技術向上向善造福社會，成為了立法立規的緊迫任務。

二、構建深度合成服務安全監管制度

《規定》共分為五章，分別從總則、一般規定、數據技術管理規范、監督檢查與法律責任、附則等部分，構建了深度合成服務的安全監管制度。在中華人民共和國境內應用深度合成技術提供互聯網信息服務的，適用本規定。

《規定》注重保障互聯網信息內容安全，特別是新聞信息安全。規章對深度合成服務提供者提出了明確的要求。一是深度合成服務提供者要落實信息安全主體責任，加強深度合成內容管理，采取技術或者人工方式對深度合成服務使用者的輸入數據和合成結果進行審核，一旦發現違法和不良信息，應當依法采取處置措施；二是針對深度合成信息內容的特殊性，深度合成服務提供者應當建立健全辟謠機制，并設置便捷的用戶申訴和公眾投訴、舉報入口；三是深度合成服務提供者要履行對服務使用者的管理義務，包括進行真實身份認證，保證用戶實名使用深度合成服務，以及提示服務使用者落實個人信息保護要求等。

《規定》與《互聯網信息服務算法推薦管理規定》一脈相承，并提出了相輔相成的管理要求。具有輿論屬性和社會動員能力的深度合成服務提供者仍要履行算法推薦服務的備案手續，深度合成服務提供者開發上線具有輿論屬性或者社會動員能力的新產品、新應用、新功能也要按規定開展安全評估。此外，《規定》針對深度合成數據和技術管理提出了更進一步的規范要求。第一，深度合成服務提供者和技術支持者都被納入到了監管的對象中。這是由于深度合成服務不僅由服務提供者向公眾提供，技術支持者也對深度合成服務產生重要影響。因此二者都需要對深度合成訓練數據加強管理，并保障數據安全。同時，深度合成服務提供者提供人臉、人聲等生物識別信息編輯功能，還要提示深度合成服務使用者履行個人信息保護義務，征得被編輯個人的單獨同意。第二，深度合成服務提供者和技術支持者提供具有能夠生成或者編輯人臉、人聲等生物識別信息的，或生成或者編輯可能涉及國家安全、國家形象、國家利益和社會公共利益的特殊物體、場景等非生物識別信息的功能的模型、模板等工具的，應當依法自行或者委托專業機構開展安全評估。這是由于換臉、換聲等視頻可顯著改變個人身份特征，具有較高的風險。同時，涉及到國家安全的如國家標志性場所、歷史遺跡等，即使是非生物識別信息，也有可能被偽造而帶來重大的安全風險。

三、規范深度合成服務保障網絡空間清朗

針對深度合成服務帶來的機遇與惡意使用帶來的挑戰，世界各國紛紛出臺管理法律法規，探索對深度合成服務的依法治理。歐盟與美國均有相關立法考慮，同時加強打入數字水印、開發真偽鑒別等技術治理手段，要求互聯網企業對平臺內容進行自我審查，從源頭打擊網絡虛假內容。

我國《規定》的重要特色，是基于深度合成服務技術性強的特點，從技術開發、模型訓練、服務提供和使用等環節對深度合成服務提供者和技術支持者提出全面管理要求。一是要求添加深度合成隱式標識，確保信息內容的可追溯性。深度合成服務提供者對使用其服務生成編輯的信息內容，應當采取技術措施添加隱式標識，這既不影響用戶的使用體驗，也實現了深度合成信息內容的可追溯性。二是要求添加顯著標識，確保信息內容傳播的可感知性。對于可能會導致公眾混淆或者誤認的深度合成信息內容，深度合成服務提供者還應當添加顯著標識，在合理位置、區域向公眾進行提示，避免對公眾產生誤導，引起信息內容安全風險。三是明確法律責任，保證深度合成標識的可查驗性。規章要求任何組織和個人不得采用技術手段刪除、篡改、隱匿深度合成標識。這既要求深度合成標識在深度合成內容全生命周期存在，也要求深度合成服務提供者和技術支持者保證隱式標識和顯著標識的魯棒性，使得該標識不因壓縮、傳輸等環節丟失，進一步通過技術手段壓實主體責任。

深度合成技術展現了其強大的能量和可能性，加速應用已經成為現實趨勢。但其帶來效率和便利的同時，也帶來了技術的伴生風險。深度合成服務從相繼被納入到《網絡音視頻信息服務管理規定》《網絡信息內容生態治理規定》《互聯網信息服務算法推薦管理規定》中監管，到出臺專門的規章進行規制，顯示出我國一方面引導深度合成技術良性發展，另一方面堅決打擊利用深度合成服務制作傳播違法不良信息、危害信息內容安全、社會公共利益和國家安全的行為。在合規前提下，深度合成技術創新發展，不斷開拓應用場景，將形成對人工智能產業整體的帶動效應，促進技術向上向善。(作者：時建中，中國政法大學副校長）