近期，AI深度合成技術引發的音視頻侵權事件頻發，從戲謔企業家雷軍到冒充張文宏醫生帶貨，甚至詐騙行為也層出不窮，引發了社會各界的廣泛關注。
早前，有網友利用AI技術模仿劉德華的聲音，企圖吸引流量，此舉迫使劉德華的電影公司緊急發表聲明，警示公眾警惕偽造劉德華聲音的AI語音合成技術陷阱。記者近期調查發現，制作AI深度合成音視頻并非難事，甚至在電商平臺上，這類技術已成為網店盈利的手段，只需花費少量金錢，就能定制名人音視頻。
記者進一步探究發現，這些AI深度合成的聲音和換臉效果的制作并不復雜。在網絡上，有多種開源軟件和工具可供下載，用于實現換聲和換臉效果。一些網絡主播甚至開設直播課程，教授如何使用這些軟件。
據中國網絡空間安全協會人工智能安全治理專業委員會的專家薛智慧介紹，目前網絡上有數十種開源軟件和工具可以實現換聲和換臉效果，公眾可以自由下載并在自己的電腦上安裝使用。盡管這些軟件屬于半專業軟件，有一定的技術門檻，但在短視頻平臺上，已有眾多主播在教授網民如何使用。
那么，電商平臺使用AI深度合成技術制作并出售名人音視頻，是否違反了法律呢？專家明確指出，相關法律法規已明確規定，未經授權，不得深度合成制作發布他人信息。因此，網店接單制作名人視頻的行為已構成侵權，應承擔相應的法律責任。
北京航空航天大學法學院副教授趙精武提到，國內已經審結了首例AI生成聲音人格權侵權案。在該案中，一名配音演員的聲音未經授權被AI生成并出售，法院最終認定被告行為構成侵權。這意味著，不僅是名人，普通人甚至動畫形象，如果未經同意就被AI合成制作音視頻，同樣構成侵權行為。
面對AI深度合成音視頻侵權的蔓延，公眾應如何提高防范意識呢？薛智慧專家表示，從技術角度看，可以利用AI技術來對抗和檢測AI。目前已有一些AI技術能夠檢測圖片或音視頻，判斷其是否經過后期加工或合成。
中國計算機學會計算機安全專業委員會委員呂延輝建議，防范AI侵權問題需要從法律、平臺和公眾等多個層面綜合施策。法律層面應完善相關立法，明確AI克隆技術的法律條款和侵權行為的定義及責任，并加強執法力度。平臺層面則應強化政策法規的宣貫和執行，保護已有數據，應用技術手段規避AI克隆侵權問題，同時建立健全內容審核和侵權舉報機制。
趙精武副教授提醒AI深度合成制作和信息發布者，法律并非禁止使用AI合成技術，而是禁止不合法、不合理的使用，尤其是未經顯著標識和提示的AI合成信息的發布和傳播。公眾應保持警惕，避免成為侵權行為的受害者。
