近期，AI深度合成技術引發的音視頻侵權事件頻發，從戲謔企業家雷軍到冒充張文宏醫生帶貨，乃至利用該技術實施詐騙，種種亂象層出不窮。
早前，網絡上曾出現利用AI模仿劉德華聲音吸引流量的案例，迫使劉德華的電影公司發布緊急聲明，警示公眾警惕此類AI語音合成騙局。記者最新調查顯示，制作AI深度合成音視頻門檻并不高，甚至在電商平臺上，該技術已成為不少網店盈利的手段，僅需小額費用，即可定制名人音視頻。
記者發現，網絡上存在眾多開源的深度合成軟件，部分網絡主播甚至通過直播教授網友如何使用這些軟件。盡管手機應用商店中的換臉換聲工具眾多，但效果往往不夠逼真，且場景固定。那么，網店是如何制作出高度逼真的AI合成音視頻的呢？
據中國網絡空間安全協會人工智能安全治理專業委員會專家薛智慧介紹，當前網絡上存在數十種開源軟件和工具，可實現換聲換臉效果，供網民自由下載使用。盡管這些軟件具有一定的技術門檻，屬于半專業軟件，但在短視頻平臺上，仍有不少主播教授使用方法。
針對電商平臺使用AI深度合成技術制作并出售名人音視頻的行為，法律專家表示，相關法律法規明確規定，未經授權，不得深度合成制作發布他人信息。此類行為已構成侵權，并需承擔法律責任。中國計算機學會計算機安全專業委員會委員呂延輝指出，《中華人民共和國民法典》明確規定，自然人享有肖像、聲音等權益，任何組織或個人利用信息技術偽造均屬侵權行為。國家網信辦、工信部、公安部聯合發布的相關規定也要求，不得利用深度合成服務制作、復制、發布、傳播法律禁止的信息。
北京航空航天大學法學院副教授趙精武透露，國內已審結首例AI生成聲音人格權侵權案。在該案中，一名配音演員的聲音未經授權被AI生成并出售，法院最終認定被告行為構成侵權。
對于如何防范AI深度合成音視頻侵權問題，專家建議，從技術角度看，可利用AI技術對抗和檢測AI。目前已有一些典型技術能夠檢測圖片或音視頻是否經過后期加工和合成。呂延輝強調，防范AI侵權需從法律、平臺和公眾等多個層面綜合施策，包括完善立法、加強執法力度、強化平臺政策執行和技術手段應用，以及建立健全內容審核和侵權舉報機制。
法律專家同時提醒AI深度合成制作和信息發布者，切勿心存僥幸。趙精武副教授表示，法律并不禁止使用AI合成技術，但禁止不合法、不合理的使用，尤其是未經顯著標識和提示的AI合成信息的發布和傳播。
