近期，人工智能深度合成技術，特別是“AI換臉擬聲”功能，在影視創作、廣告宣傳及社交媒體等領域迅速普及，成為備受矚目的技術熱點。然而，這一技術的濫用現象也引發了社會各界的廣泛關注。
全國人大代表、小米集團創始人雷軍在接受專訪時透露，他本人也成為了“AI換臉擬聲”技術的受害者，并強烈呼吁盡快立法，對這一領域進行重點整治。雷軍指出，“AI換臉、AI擬聲在網上的濫用已經成為一個嚴重問題?！?/p>
雷軍在建議中詳細闡述了“AI換臉擬聲”技術的雙重影響。一方面，它推動了技術的創新與應用，成為傳播力強、易于成為熱點的技術手段；另一方面，其濫用行為卻成為了侵犯肖像權、公民個人信息以及詐騙等違法行為的溫床，對社會治理構成了嚴重威脅。由于AI深度合成技術素材獲取便捷、使用門檻低且侵權手段隱蔽，治理工作面臨巨大挑戰。
針對這一問題，雷軍提出了多項具體建議。首先，他主張針對“AI換臉擬聲”等典型問題，探索制定人工智能單行法，提高立法層級，明確技術應用的紅線，完善侵權證據規則，并加大對利用AI技術實施犯罪行為的刑事處罰力度。其次，他強調應強化行業自律，壓實平臺責任，鼓勵平臺開發識別AI深度合成內容的技術，優化審核與舉報機制，確保及時阻斷不良內容傳播。最后，他建議加強人工智能法制宣傳教育，提升公眾警惕性和鑒別力，特別是在中小學教材中加入倫理規范內容，并在老年社區普及相關知識，構建“以人為本、智能向善”的人工智能發展環境。
事實上，近年來，包括雷軍、劉德華、張文宏在內的多位名人紛紛遭遇AI換臉擬聲技術的惡意應用，這些以假亂真的視頻極易誤導公眾。專家指出，相關法律法規已明確規定，未經授權，不得深度合成制作發布他人信息。然而，網絡上仍存在眾多換臉換聲軟件，盡管它們的使用門檻較高，但已有多起網店接單制作名人視頻并發布的侵權行為發生。
據法律專家介紹，利用AI合成的名人音視頻不僅侵犯了名人的肖像和聲譽，還存在散布虛假信息的風險。例如，某知名游戲制作人因AI偽造的回應而引發廣泛誤解。針對普通人的音視頻合成詐騙行為也層出不窮，未成年人和中老年人尤其容易成為受害者。
為了應對這一問題，國家相關部門已出臺多項規定，要求對人工智能生成合成內容進行標識，以確保其在網絡空間中的安全流通。例如，《互聯網信息服務管理辦法》和《網絡信息內容生態治理規定》等法規均明確了信息發布的相關規定。同時，專家還提出，技術上可以對AIGC進行顯式或隱式標識，以便檢測和識別。
浙江大學研究員韓蒙表示，AI合成偽造與AI標識之間存在博弈關系。隨著技術升級，國內團隊正在研究隱式標識技術，這種標識肉眼不可見，但可通過特定檢測手段顯現，從而為打擊AI濫用行為提供有力支持。
