近年來，AI深度合成技術在網絡空間內引發了諸多爭議，從惡搞企業家雷軍，到AI制作的張文宏醫生音視頻被用于帶貨，甚至有不法分子借此進行詐騙活動，這一系列事件讓AI深度合成音視頻侵權問題日益凸顯。
早前，有網友利用AI技術模仿劉德華的聲音博取流量，這一行為迫使劉德華的電影公司發布緊急聲明，警告網民不要落入偽造聲音的AI語音合成技術陷阱。近日，記者深入調查發現，AI深度合成音視頻的制作門檻并不高，甚至在一些購物平臺上，這項技術已成為網店牟利的工具，消費者僅需花費幾十元，便可定制名人AI深度合成音視頻。
更令人驚訝的是，這些AI深度合成技術的學習門檻并不高。記者在手機應用商城搜索“換臉換聲”關鍵詞，發現眾多相關工具。盡管一些工具的逼真度不高，且場景固定，但網店制作的AI深度合成音視頻卻能達到高度逼真。這究竟是如何做到的？
據中國網絡空間安全協會人工智能安全治理專業委員會專家薛智慧介紹，當前網絡上有眾多開源軟件和工具可以實現換聲換臉效果，網民可以自由下載并在自己的電腦上安裝使用。這些軟件雖有一定的技術門檻，但已有眾多網絡主播在短視頻平臺上教授如何使用。
那么，在網絡購物平臺上使用AI深度合成技術制作并出售名人音視頻，是否觸犯法律？專家指出，相關法律法規明確規定，未經授權，不得深度合成制作發布他人信息。網店接單制作名人AI深度合成視頻，已構成侵權行為，并需承擔相應法律責任。
中國計算機學會計算機安全專業委員會委員呂延輝引用《中華人民共和國民法典》指出，自然人享有肖像、聲音等權益，任何組織或個人利用信息技術偽造都是侵權行為。國家網信辦、工信部、公安部聯合發布的《互聯網信息服務深度合成管理規定》也明確要求，不得利用深度合成服務制作、復制、發布、傳播法律禁止的信息。2024年網信辦發布的《人工智能生成合成內容標識辦法（征求意見稿）》還提出，對AI生成合成內容要進行標識，以防止誤導性信息傳播。
北京航空航天大學法學院副教授趙精武指出，國內已審結首例AI生成聲音人格權侵權案。在該案中，一名配音演員的聲音未經授權被AI生成并出售，法院最終認定被告行為構成侵權。這意味著，AI深度合成技術的不當使用，將受到法律的嚴厲制裁。
面對AI深度合成音視頻侵權的嚴峻形勢，專家建議提高公眾防范意識。薛智慧表示，從技術角度來看，可以利用AI技術對抗和檢測AI。當前已有一些典型的AI技術能夠檢測圖片或音視頻是否經過后期加工和合成。
呂延輝則強調，防范AI侵權問題需要從法律、平臺和公眾等多個層面綜合施策。法律層面要完善立法，細化AI克隆技術的法律條款，明確侵權行為的定義和責任；平臺層面要強化政策法規的宣貫和執行，應用技術手段規避AI克隆侵權問題，同時建立健全內容審核和侵權舉報機制。
法律專家也提醒AI深度合成制作和信息發布者，切勿心存僥幸。法律沒有灰色地帶，任何違法行為都將受到嚴厲制裁。
