國家互聯網信息辦公室等部門聯合發布《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》）及配套強制性國家標準《網絡安全技術 人工智能生成合成內容標識方法》（以下簡稱《標識標準》），旨在防范人工智能生成合成內容引發的信息安全風險，提升人工智能安全水平，規范人工智能行業應用和健康發展。從技術規則到技術標準的有機組合，是一種兼具靈活性和約束力的制度創新，符合全球人工智能治理通用做法，提出人工智能標識管理的中國方案，為全球人工智能治理規則形成和兼容協調提供更多基礎共識。
一、《標識辦法》和《標識標準》的制定背景
當前以ChatGPT、Sora、DeepSeek等為代表的生成式人工智能迅猛發展，借助人工智能生成合成文本、圖像、音頻、視頻、虛擬場景等，逐漸演變為重要的信息生產模式。然而，伴隨技術門檻降低，虛假信息、深度偽造、惡意輸出等安全問題突出，加劇傳統信息安全風險的動態性、滲透性和全局性。聯合國2024年《治理人工智能，助力造福人類》報告將“損害信息完整性”列為排名第一的風險。
生成合成內容標識已成為國際慣例。無論是已施行的歐盟《人工智能法》、正式出臺的澳大利亞《安全和負責任的人工智能咨詢：澳大利亞政府的臨時回應》，還是正在制定中的美國《編輯和深度偽造內容來源保護完整性法案》《數字內容溯源標識法案》、英國《人工智能（監管）法案》等提案，均對水印、標識義務有要求。在我國，2023年1月施行的《互聯網信息服務深度合成管理規定》提出針對文本、圖像、音頻、視頻、虛擬場景等信息內容的標識要求，2023年8月施行的《生成式人工智能服務管理暫行辦法》承襲這一規定。盡管各國對數字水印、數字指紋、加密元數據等標識技術的具體要求存在不同，對平臺標識義務的強度設定也存在差異，但在從事后內容審核轉向生成端風險內嵌控制、提高人工智能治理技術能力的理念是一致的。
二、《標識辦法》和《標識標準》的核心內容與治理邏輯
作為網絡信息內容治理制度體系的有機組成部分，《標識辦法》和《標識標準》是我國人工智能法治建設進程中的重要一步，既與《中華人民共和國網絡安全法》一脈相承，又與《互聯網信息服務算法推薦管理規定》《互聯網信息服務深度合成管理規定》《生成式人工智能服務管理暫行辦法》等有效銜接，構建的人工智能標識管理要求具有體系性、技術性、協同性、融貫性、全流程、精細化等特點，在明確治理標準和落地機制、促成治理實效方面，具備可操作性、落實基礎和前景。
1.體系性、技術性：技治與法治互嵌運行，探索顯隱雙標識機制
技治與法治彼此的內嵌、牽連、塑造在人工智能標識管理中尤為明顯。《標識辦法》援引的《互聯網信息服務深度合成管理規定》涵蓋人工智能輸出的基本數據類型，并明確各類信息內容的可標識性。其中，顯式標識能夠對主體權利、義務進行明確提示；而元數據的隱式標識、基于技術中立性選擇的內容隱式標識和加密，在不影響輸出數據質量、用戶感觀的同時，其內容的完備性、唯一性要求，形式的強制性、規范性等共同構成結構化數據的一部分。《標識標準》中顯式標識與隱式標識的有機結合、綜合運用，使得通過技術檢測機制識別人工智能生成合成內容成為可能，并在一定程度上具有確立主體行為性質的初步證據效力。
2.協同性、融貫性：多部門監管統籌協調，多制度銜接資源整合
在人工智能標識監管執法中，厘清相關主管部門管理職責，明確標識違規行為法律責任，強化標識管理與算法備案、安全評估等制度的銜接和程序協調至關重要。《標識辦法》規定，服務提供者在履行算法備案、安全評估等手續時，應當按照本辦法提供生成合成內容標識相關材料，并加強標識信息共享。《標識辦法》明確，違反本辦法規定的，由網信、電信、公安、廣播電視等有關主管部門依據職責，按照有關法律、行政法規、部門規章的規定予以處理。
3.全流程、精細化：產業生態鏈治理，科學設定上下游主體義務
《標識辦法》和《標識標準》從網絡信息服務提供者這一整體視角切入，進一步明晰適用標識義務的主體。通過深入審視各主體在人工智能生態體系中的角色、定位、行為模式以及影響程度，精準區分為生成合成內容服務提供者、內容傳播服務提供者這兩大類主體。同時，針對其他關鍵參與方，如互聯網應用程序分發平臺主體的責任范疇等，也進行明確規定，基本實現對生成合成內容上下游主體的全覆蓋。將行為主體作為抓手進行識別和義務分配，法律的追責機制和后果承擔方得以落實。此外，《標識辦法》體現出在數據內容創作與打擊濫用間尋求平衡的考量，也表明在立法思路上對當前蓬勃發展的人工智能產業整體上的鼓勵傾向，可理解為早期確立的平臺避風港原則在新時代背景下的創新性發展。
三、《標識辦法》和《標識標準》的制度意義
從制度構建角度審視，《標識辦法》和《標識標準》的制度化進程，本質是將人工智能標識產業實踐經驗升維為有約束力的治理范式。依托“立法確認-標準轉化-產業傳導”機制，我國構建起從技術共識邁向法律秩序的進階之路。這一過程契合我國人工智能立法秉持的總體思路，即靈活運用既有規則，鼓勵行業產業先行開展試點探索，同時針對痛點、難點問題精準發力，靶向施策，其產生的影響也將輻射至全球人工智能治理的理念層面以及標準實踐領域。
從規范協同角度審視，人工智能標識治理體系呈現“規則+技術”雙輪驅動特征，覆蓋從內容生產到傳播的全鏈條治理。《標識辦法》側重構建“責任鏈閉環”，通過主體資質審查、過程性義務設定等形成行為約束。《標識標準》聚焦“技術錨點”建設，針對關鍵技術要件確立具備可驗證性的實施基準。我國《中華人民共和國標準化法》規定，對保障人身健康和生命財產安全、國家安全、生態環境安全以及滿足經濟社會管理基本需要的技術要求，應當制定強制性國家標準。將生成合成內容標識的最低要求上升為國家強制性標準，不僅是對《標識辦法》的具體落地，更是表明在社會應用全過程中，人工智能標識及活動已與人身健康和生命財產安全、國家安全等緊密相連。
從技術治理效能角度審視，人工智能標識制度并非顛覆人工智能既有的生產環境，而是致力于在現有生產基礎之上，提升人類對相關內容的辨識度以及機械處理的準確性。《標識辦法》和《標識標準》不僅及時響應了將人工智能的“海量、逼真”輸出納入監管視野的緊迫需求，標準化且有所區分的顯式、隱式技術要求也為權利記載、算法備案、數據溯源、執法協助、安全評估等工作，提供具有普適性的、可量化度量與評價的操作方法及實用工具，同時通過建立“生成即標識”的技術規范推動產業內生合規，實現安全和發展之間的動態平衡。這一制度體系也切實回應在人機互動、人機融合的新一輪技術跨越式發展中，人類對真實與虛擬進行辨別，從而形成行為、決策依據的基本需求。
四、《標識辦法》和《標識標準》的未來展望
可以預見，我國人工智能安全執法將延續重點事項監管、促進產業有序發展的方向。伴隨標識管理與算法備案、安全評估等機制逐步實現有機銜接，生成合成內容標識合規有望成為相關部門開展人工智能監督檢查、專項行動的重點關注領域。在此進程中，一系列深層次問題亟待審慎思考與妥善解決——如何平衡發展與安全、創新與責任、公益與私益等多元目標的內在張力，怎樣達成不同執法部門、不同層級、不同地域執法的一致性、協調性，又該通過何種路徑提升執法的專業化、精細化、智慧化水平，從而培育出安全、開放、公平、符合國情的人工智能產業生態環境。這些都是標識管理中需要深入探究的重要課題。
此外，“人的因素”應融入人工智能標識管理的全過程，著重提升公眾對于信息內容真實性、來源可追溯性的批判性評估能力，無疑是重中之重。積極培育公眾人工智能素養，確保人工智能技術成果普惠共享，這也是應有之義。（作者：金波，公安部第三研究所副所長）
