近年來，AI技術在音視頻領域的深度合成應用引發了廣泛的關注與爭議。從對企業家雷軍的惡搞，到利用AI技術制作張文宏醫生的音視頻進行帶貨，這一系列事件標志著AI深度合成音視頻侵權現象的日益嚴重。
早前，網絡上曾出現過利用AI技術合成的劉德華聲音，這一行為不僅誤導了廣大網民，還迫使劉德華的電影公司發布緊急聲明，警告公眾警惕偽造其聲音的AI語音合成技術陷阱。
據央視新聞的近期調查，制作AI深度合成音視頻的技術門檻并不高。在某些購物平臺上，AI深度合成技術已成為網店盈利的手段。消費者只需支付數十元，即可定制AI深度合成的名人音視頻。
21世紀經濟報道的記者曾親身體驗了一款個性化定制的文生音模型。該模型僅需198元即可定制一個角色，若花費超過千元，則可定制多達六個角色。在該產品的頁面上，已經列出了包括楊冪、劉亦菲、丁真、成龍等知名人士的聲音。用戶只需簡單操作，即可將這些克隆聲音添加到角色庫中。
針對這一現象，相關法律法規已明確規定，未經授權，禁止深度合成制作并發布他人的信息。網店接單制作AI深度合成的名人視頻，無疑構成了侵權行為，并應承擔相應的法律責任。這一規定旨在保護個人肖像權和聲音權，維護網絡環境的健康與秩序。
隨著AI技術的不斷發展，其在音視頻領域的深度合成應用將繼續引發更多的討論與關注。社會各界應共同努力，加強監管，提高公眾的法律意識，以確保技術的健康發展。
同時，消費者也應保持警惕，避免落入不法分子的陷阱，共同營造一個健康、安全的網絡環境。
