近年來，AI深度合成技術引發的音視頻侵權事件層出不窮，從對企業家雷軍的惡搞，到假冒張文宏醫生進行商品推廣，乃至詐騙行為，這一技術濫用現象日益嚴峻。
早前有網友利用AI技術模仿劉德華的聲音吸引流量，迫使劉德華的電影公司發布聲明，警告公眾警惕偽造聲音的AI騙局。這一現象不僅限于個別案例，而是逐漸泛濫。
記者近期調查發現，AI深度合成音視頻的制作門檻并不高。在某些電商平臺，該技術已成為網店盈利的手段，消費者僅需支付幾十元，即可定制名人的AI深度合成音視頻。
更令人擔憂的是，制作這些深度合成的聲音和換臉視頻并不復雜。網絡上存在大量開源軟件和工具，供用戶下載并在個人電腦上使用。一些網絡主播甚至開設直播課程，教授網友如何使用這些軟件。
盡管這些軟件在網絡上易于獲取，但它們的使用仍需一定的技術基礎。不同的場景需要調整不同的參數，步驟繁瑣。然而，短視頻平臺上眾多主播的教學，使得這些技術逐漸普及。
針對電商平臺使用AI深度合成技術制作并出售名人音視頻的行為，專家指出，這已明確違反相關法律法規。未經授權，不得深度合成并發布他人信息，否則將承擔法律責任。
根據《中華人民共和國民法典》及國家網信辦、工信部、公安部發布的相關規定，利用信息技術偽造他人聲音、肖像等行為均構成侵權。2024年網信辦發布的征求意見稿也提出，對AI生成合成內容需進行標識，以防止誤導性信息的傳播。
在實際案例中，國內已審結首例AI生成聲音人格權侵權案。法院認定，未經授權使用配音演員的聲音進行AI生成并出售，構成侵權行為。這一判決為類似案件提供了法律依據。
面對AI深度合成技術的普及，專家建議從法律、平臺和公眾等多個層面綜合施策。法律層面需完善相關立法，細化法律條款，加強執法力度。平臺層面則需強化政策執行，利用技術手段規避侵權問題，同時建立健全內容審核和侵權舉報機制。
法律專家提醒，AI深度合成制作和信息發布者切勿心存僥幸。法律沒有灰色地帶，任何違法行為都將受到嚴厲制裁。合理使用AI技術，避免侵權行為的發生，是保障個人權益和社會秩序的關鍵。
