近年來，AI深度合成技術在網絡上掀起了一場風波，從對企業家雷軍的惡搞，到假冒張文宏醫生音視頻進行商品推銷，甚至出現了利用該技術實施詐騙的犯罪活動。這些事件頻發，揭示了AI深度合成音視頻侵權現象的日益嚴重。
據報道，早前有網民通過AI技術模仿劉德華的聲音，以此吸引流量。劉德華的電影公司迅速發表聲明，警告公眾不要落入偽造劉德華聲音的AI語音合成技術陷阱。央視新聞的記者近期調查發現，制作AI深度合成音視頻并非難事，在某些購物平臺上，這種技術已成為網店盈利的手段，僅需幾十元即可定制名人音視頻。
那么，這些高度逼真的AI合成聲音和換臉視頻是如何制作的呢？記者發現，相關深度合成軟件在網絡上并不難獲取，甚至有網絡主播通過直播教授網友如何使用這些軟件。雖然手機應用商城中有不少換臉換聲工具，但它們的逼真度往往不高，且場景固定。相比之下，網店制作的AI深度合成音視頻則更為逼真。
中國網絡空間安全協會人工智能安全治理專業委員會的專家薛智慧指出，當前網絡上有許多開源軟件和工具可以實現換聲和換臉效果，公眾可以自由下載并在自己的電腦上安裝使用。這些軟件雖然有一定的技術門檻，但并非遙不可及，已有數十種在網絡上流傳。
專家表示，這些軟件的使用需要調整不同場景下的參數，步驟繁瑣，屬于半專業軟件。盡管如此，仍有不少短視頻平臺的主播在教授如何使用這些軟件。這引發了公眾對于個人隱私和信息安全的擔憂。
針對網絡購物平臺上使用AI深度合成技術制作并出售名人音視頻的行為，專家指出，這已構成侵權。相關法律法規明確規定，未經授權，不得深度合成制作發布他人信息。網店接單制作名人視頻的行為，不僅侵犯了他人的肖像權和聲音權，還應承擔相應的法律責任。
北京航空航天大學法學院副教授趙精武提到，國內已經審結了首例AI生成聲音人格權侵權案。在該案中，一名配音演員的聲音未經授權被AI生成并出售，法院最終認定被告行為構成侵權。這一判決為類似案件提供了法律依據。
面對AI深度合成音視頻侵權的嚴峻形勢，專家建議提高公眾的防范意識。薛智慧指出，從技術角度來看，可以利用AI技術來檢測和對抗AI。當前已有一些典型的AI技術能夠對圖片或音視頻進行檢測，判斷其是否經過后期加工或合成。
中國計算機學會計算機安全專業委員會委員呂延輝認為，防范AI侵權問題需要從法律、平臺和公眾等多個層面綜合施策。法律層面應完善相關立法，細化AI克隆技術的法律條款，明確侵權行為的定義和責任，并加強執法力度。平臺層面則應強化政策法規的宣貫和執行，做好數據保護，應用技術手段規避AI克隆侵權問題的發生，同時建立健全內容審核和侵權舉報機制。
法律專家提醒AI深度合成制作和信息發布者，不要抱有僥幸心理。法律沒有灰色地帶，任何不合法、不合理的使用AI合成技術的行為都將受到法律的制裁。趙精武副教授強調，法律并不禁止使用AI合成技術，而是禁止不合法、不合理的使用，尤其是禁止不進行任何顯著標識和提示的AI合成信息的發布和傳播。
