近期，我國針對人工智能技術生成的文字、圖片、音頻和視頻等合成內容出臺了一系列新的管理措施，旨在有效遏制虛假信息的傳播。國家網信辦、工信部、公安部以及廣電總局聯合發布了《人工智能生成合成內容標識辦法》（簡稱《標識辦法》），以規范人工智能生成合成內容的標識方式。
《標識辦法》明確規定了兩種標識形式：顯式標識和隱式標識。顯式標識通過在生成合成內容或交互界面中以文字、聲音、圖形等方式呈現，使用戶能夠明顯感知到；隱式標識則通過技術措施在內容文件數據中添加，不易被用戶直接感知。這一區分旨在確保在不影響用戶體驗的同時，提高信息內容的透明度和可追溯性。
具體而言，《標識辦法》要求人工智能生成合成內容服務提供者在提供智能寫作、合成人聲、人臉替換等可能導致公眾混淆或誤認的深度合成服務時，必須添加顯式標識，如文字、角標、語音和節奏等。同時，在提供下載、復制、導出等功能時，必須確保文件中包含符合要求的顯式標識。配套的強制性國家標準《網絡安全技術 人工智能生成合成內容標識方法》（簡稱《標識標準》）也同步獲批發布，并將與《標識辦法》共同實施。
中國政法大學數據法治研究院教授張凌寒表示，通過隱式標識和顯式標識的具體規定，《標識辦法》旨在在不影響用戶體驗的前提下，減少虛假有害信息的傳播，并為內容的進一步追溯提供便利。這一措施的實施，對于構建可信賴的人工智能技術環境具有重要意義。
近年來，AI謠言的傳播已多次引發社會廣泛關注。例如，近期網絡上流傳的關于某超一線男星在澳門豪賭輸掉巨額資金的謠言，一度將周杰倫卷入其中。經調查，該謠言是由一名網民利用AI智慧生成功能制作的，并通過互聯網平臺迅速傳播擴散，嚴重擾亂了公共秩序。類似的案例還包括西藏日喀則地震期間被大量轉發的AI生成圖片，以及利用AI技術偽造的“雷軍”配音視頻等。
為了從源頭上遏制AI虛假信息的生成和傳播，《標識辦法》明確規定，AI服務提供者應在生成合成內容的文件元數據中添加隱式標識，包括內容屬性信息、服務提供者名稱或編碼、內容編號等制作要素信息，并鼓勵添加數字水印等形式的隱式標識。同時，傳播平臺也需采取適當方式在發布內容周邊添加顯著的提示標識，明確提醒公眾該內容屬于生成合成內容。
國家網信辦相關負責人表示，《標識辦法》旨在解決“哪些是生成的”“誰生成的”“從哪里生成的”等問題，推動由生成到傳播各環節的全流程安全管理，以打造可信賴的人工智能技術?？紤]到企業需要時間充分理解相關規定和標準規范，并針對性地開展能力建設和功能研發，因此設定了六個月左右的施行過渡期，將于2025年9月1日起正式施行。
此次《標識辦法》的出臺，不僅有助于遏制AI虛假信息的生成和傳播，還通過內容可驗證的機制設計，提高了網絡空間中信息內容的可信性和真實性。這對于維護網絡空間的健康發展和保護公眾的合法權益具有重要意義。
