近年來，AI深度合成技術引發的音視頻侵權問題日益凸顯，從對企業家雷軍的惡搞，到利用AI制作張文宏醫生的音視頻進行帶貨，甚至有不法分子借此實施詐騙，這一系列事件引發了廣泛關注。
此前，有網友通過AI技術模仿劉德華的聲音以博取流量，此舉迫使劉德華的電影公司緊急發布聲明，提醒公眾警惕偽造劉德華聲音的AI語音合成技術騙局。近期，記者調查發現，實現AI深度合成音視頻的技術門檻并不高，甚至在一些購物平臺上，AI深度合成技術已成為網店盈利的工具，消費者只需支付幾十元，即可定制名人音視頻。
為了探究這些高度逼真的AI深度合成音視頻是如何制作的，記者進行了深入調查。結果顯示，網絡上存在多種深度合成軟件可供下載，且部分網絡主播通過直播教授網友如何使用這些軟件。盡管手機應用商城中也能找到一些換臉換聲工具，但這些工具的效果往往不夠逼真，且場景固定。
據中國網絡空間安全協會人工智能安全治理專業委員會專家薛智慧介紹，當前網絡上存在大量開源軟件和工具，均可實現換聲換臉效果，網民可以自由下載并在自己的電腦上安裝使用。這些軟件雖然種類繁多，但由于涉及復雜的參數調整和操作步驟，屬于半專業軟件，因此并不為普通網民所熟知。然而，記者發現，短視頻平臺上已有眾多主播在教授如何使用這些軟件。
針對網絡購物平臺上使用AI深度合成技術制作并出售名人音視頻的行為，專家指出，這已構成侵權行為。根據相關法律法規，未經授權，不得深度合成制作發布他人信息。因此，這些網店應承擔相應的法律責任。
北京航空航天大學法學院副教授趙精武提到，國內已經審結了一起AI生成聲音人格權侵權案。在這起案件中，一名配音演員的聲音在未經授權的情況下被AI生成并對外出售。法院最終認定被告方構成侵權，并判決其書面賠禮道歉，同時賠償原告各項損失25萬元。
為了防范AI深度合成音視頻侵權問題，專家提出了多項建議。從技術角度來看，可以利用AI技術來檢測和對抗AI。當前已有一些典型的AI技術能夠對圖片或音視頻進行檢測，以判斷其是否經過后期加工或合成。薛智慧還提到，防范AI侵權需要法律、平臺和公眾等多個層面的綜合施策。法律層面應完善相關立法，細化AI克隆技術的法律條款，并加強執法力度。平臺層面則需強化政策法規的宣貫和執行，應用技術手段規避AI克隆侵權問題的發生，同時建立健全內容審核和侵權舉報機制。
法律專家也提醒AI深度合成制作和信息發布者，不要心存僥幸。法律沒有灰色地帶，任何違法行為都將受到法律的制裁。趙精武強調，法律并不禁止使用AI合成技術，而是禁止不合法、不合理的使用，尤其是禁止不進行任何顯著標識和提示的AI合成信息的發布和傳播。
