近年來，AI深度合成技術引發的侵權問題日益凸顯，從惡搞企業家雷軍到制作張文宏音視頻帶貨，甚至有不法分子利用該技術合成視頻進行詐騙，社會影響惡劣。
去年，AI深度合成音視頻侵權現象頻發，引發廣泛關注。有網友曾利用AI技術模仿劉德華的聲音，以此博取流量，劉德華的電影公司也不得不緊急發布聲明，提醒公眾注意。
記者調查發現，實現AI深度合成音視頻的技術門檻并不高。在一些購物平臺上，AI深度合成技術已成為眾多網店牟利的工具，只需花費少量金錢，即可定制名人音視頻。
更令人擔憂的是，網絡上存在大量教授如何使用AI深度合成技術的直播內容。這些主播不僅提供軟件下載鏈接，還親自演示如何制作換聲和換臉效果。盡管一些手機應用商城也能搜索到換臉換聲工具，但效果逼真度普遍不高。
中國網絡空間安全協會人工智能安全治理專業委員會專家薛智慧指出，當前有眾多開源軟件和工具可以實現換聲換臉效果，這些軟件可供網民自由下載和使用。然而，此類軟件多屬于半專業軟件，有一定的技術門檻，但仍有眾多主播在短視頻平臺上教授使用方法。
針對這一現象，法律專家表示，未經授權，不得深度合成制作發布他人信息。網店接單制作名人視頻的行為已構成侵權，并應承擔相應的法律責任。事實上，國內已經審結了首例AI生成聲音人格權侵權案，法院最終認定被告方構成侵權，并判決賠償原告損失。
為了防范AI深度合成音視頻侵權問題，專家建議從技術、法律和平臺等多個層面綜合施策。從技術角度來看，可以利用AI技術對抗和檢測AI，目前已有一些典型的AI技術能夠對圖片或音視頻進行檢測，判斷其是否經過后期加工和合成。法律層面，則需要進一步完善相關立法，細化AI克隆技術的法律條款，并加強執法力度。
平臺也應強化相關政策法規的宣貫和執行，做好數據保護，應用技術手段規避AI克隆侵權問題，同時建立健全內容審核和侵權舉報機制，及時發現和處理侵權問題。法律專家還提醒AI深度合成制作和信息發布者，不要心存僥幸，法律沒有灰色地帶。
