人工智能技術掀起的浪潮方興未艾，新技術給人類帶來了前所未有的生產力和體驗的提升。我國重點關注人工智能領域，迄今已備案生成式人工智能產品300余款，生成合成服務3000余個，有力推動了人工智能行業的快速發展。與此同時，人工智能技術帶來的虛假信息、技術濫用風險逐漸顯露，給網絡生態安全帶來了新的風險挑戰，各國陸續推出或完善法案加以應對。《人工智能生成合成內容標識辦法》（以下簡稱《標識辦法》）及其配套國家強制性標準《網絡安全技術 人工智能生成合成內容標識方法》（以下簡稱《標識標準》），是對我國人工智能算法治理體系的進一步完善。《標識辦法》是對《互聯網信息服務算法推薦管理規定》、《互聯網信息服務深度合成管理規定》、《生成式人工智能服務管理暫行辦法》的繼承和延伸，從人工智能技術特性出發，在生成合成標識這一人工智能安全治理關鍵上提出了針對性的管理思路，將成為我國建立健全人工智能新技術安全體系的重要推動力。《標識標準》作為《標識辦法》的補充，明確了生成合成內容標識應當遵循的技術方法，為產業落地提供了參考依據。
一、銜接技術安全法規，擴展治理覆蓋范疇
《互聯網信息服務算法推薦管理規定》等規章對生成合成類算法的標識做出了明確要求。《互聯網信息服務算法推薦管理規定》中要求“發現未作顯著標識的算法生成合成信息的，應當作出顯著標識后，方可繼續傳輸”。《互聯網信息服務深度合成管理規定》在此基礎上，進一步對標識的種類進行細分，要求“可能導致公眾混淆或者誤認的，應當在生成或者編輯的信息內容的合理位置、區域進行顯著標識”，同時要求“深度合成服務提供者對使用其服務生成或者編輯的信息內容，應當采取技術措施添加不影響用戶使用的標識”。《生成式人工智能服務管理暫行辦法》中要求“提供者應當按照《互聯網信息服務深度合成管理規定》對圖片、視頻等生成內容進行標識”。
《標識辦法》重點關注人工智能生成合成內容傳播環節的安全治理，有效銜接已有的備案評估、風險防范等管理措施，逐步完善面向人工智能全生命流程管理的新技術安全體系：一是明確了文本、圖像、音頻、視頻等多模態的標識要求，將安全治理深入到內容模態層面；二是創新性地將傳播平臺納入監管范疇，實現從生成到傳播的全鏈條治理；三是明確了隱式標識的技術實現方式，通過元數據標識為安全追溯提供了可靠保障。
二、適應生成合成特性，提煉務實科學方法
人工智能生成合成技術發展已覆蓋各個模態，生成合成內容滲透至互聯網領域信息傳播的各個環節，如何在當前互聯網絡環境下精準高效地對生成合成內容進行標識成為關鍵核心問題。要解決這一問題，一方面需要管理措施及方法落實得當，有效督促人工智能生成合成服務提供者及傳播平臺落實企業責任；另一方面，人工智能生成合成內容標識方法要符合技術發展規律，體現技術管理手段的科學性、可用性及高效性。
為促進《標識辦法》的實施落地，《標識標準》中對照《標識辦法》內容，對標識的方式方法進行了技術性闡述，對重點環節及關鍵要素進行了精細提煉，以科學性、技術性視角對管理要求進行更為落地的細化：一是《標識標準》中明確了每個模態生成合成內容顯式標識的位置、樣式、區域和大小的要求，同時結合各模態的特點，如針對視頻模態，要求“在視頻起始畫面和視頻播放周邊的適當位置”，針對音頻模態，要求“應采用語音標識或音頻節奏標識”，在企業責任落實的同時減少對于用戶瀏覽相關內容的干擾；二是明確了元數據隱式標識的字段要素，在盡量不影響元數據處理和傳輸的前提下，嵌入必要字段，記錄生成合成內容的關鍵信息和關鍵環節，為互聯網生成合成內容的可追溯性提供保障；三是提供了豐富的標識示例，給出了多個模態規范性標識方法，便于人工智能生成合成服務提供者及傳播平臺技術人員進行標識的技術實踐落地，充分體現了《標識標準》的科學性。在《標識標準》的指引下，積極探索切實可行的標識實施路徑，逐步構建支撐生成合成內容有序傳播與安全治理的技術能力，不斷豐富人工智能技術管理體系。
三、體現柔性管理思路，筑牢安全應用基礎
《標識辦法》的制定和出臺，是我國推進人工智能領域安全治理、促進產業規范健康發展、引導技術向善的重要舉措。《標識辦法》充分彰顯了監管理念的與時俱進，從傳統的嚴格監管轉向更加靈活的引導與規范，既尊重了技術創新的內在規律，又體現對潛在風險的有效防范。通過清晰、透明的內容標識，用戶能夠清楚識別人工智能生成的內容，一方面提高了信息透明度，增強了用戶的知情權和選擇權，另一方面也有助于培養公眾對人工智能技術的理性認知，防止因誤解或過度依賴人工智能而產生的負面影響。對于人工智能生成合成服務提供者及傳播平臺，內容標識制度既是責任，更是機遇，在鼓勵企業追求技術能力提升的同時，推動企業提升對產品社會影響的關注度，主動承擔起人工智能負責任發展的重任，這不僅有利于贏得用戶信任，也能推動整個行業向更加規范、健康的方向發展。從長遠來看，標識管理為構建人工智能治理體系提供了重要抓手，指引了未來人工智能安全治理的思路，也為后續更精細化、智能化的管理奠定了基礎，有助于在保護創新活力與維護公共利益之間找到平衡點。
《標識辦法》為國際人工智能治理貢獻了中國方案，展現了我國在全球人工智能發展中的責任與擔當。《標識辦法》既是對當前人工智能快速發展趨勢的積極回應，也是對未來人工智能應用場景的安全保障。它通過構建信任、明確責任、保護權益等多重機制，體現了我國“以人為本、智能向善”的積極理念，為打造可審核、可監督、可追溯、可信賴的人工智能技術鋪設了一條安全、可信、可持續的道路，助力技術創新與社會價值和諧共生，促進人工智能技術和數字經濟的蓬勃發展。（作者：張震，國家計算機網絡應急技術處理協調中心正高級工程師）
