近年來，人工智能（AI）技術的飛速發展帶來了諸多便利，但同時也引發了新的社會問題，尤其是AI深度合成音視頻技術的濫用現象日益嚴重。
從模仿企業家雷軍的搞笑視頻，到利用AI技術制作張文宏醫生的音視頻進行商品推廣，甚至有不法分子通過AI深度合成的視頻進行詐騙活動。這些案例無不顯示出AI深度合成技術在被錯誤使用后所帶來的惡劣影響。
此前，有網友利用AI技術模仿劉德華的聲音，以此吸引流量。劉德華的電影公司迅速發表聲明，警告公眾不要上當受騙，這是偽造劉德華聲音的AI語音合成技術騙局。記者最近的調查發現，制作AI深度合成的音視頻并不復雜，甚至在購物平臺上，這種技術已成為一些網店盈利的手段。消費者只需支付幾十元，就可以定制名人的AI深度合成音視頻。
網絡主播們也在直播中教授如何使用AI深度合成技術。記者在應用商城搜索“換臉換聲”，發現了許多相關工具。然而，這些工具的逼真度普遍不高，且場景固定。那么，網店是如何制作出高逼真度的AI深度合成音視頻的呢？
據中國網絡空間安全協會人工智能安全治理專業委員會的專家薛智慧介紹，目前網絡上有許多開源軟件和工具可以實現換聲和換臉效果，網民可以自由下載并在自己的電腦上使用。這些軟件雖然有一定的技術門檻，但并非遙不可及。
專家指出，這些軟件多達數十種，雖然操作起來步驟較多，屬于半專業軟件，但在短視頻平臺上，已有不少主播在教授如何使用這些軟件。這進一步降低了AI深度合成技術的使用門檻。
那么，在購物平臺上使用AI深度合成技術制作并出售名人的音視頻，是否違法呢？專家明確表示，相關法律法規嚴禁未經授權深度合成制作發布他人信息。網店接單制作名人視頻的行為已構成侵權，應承擔相應的法律責任。
北京航空航天大學法學院副教授趙精武提到，國內已經審結了一起AI生成聲音人格權侵權案。在這起案件中，一名配音演員的聲音在未經授權的情況下被AI生成并出售。法院最終認定被告方構成侵權，并判決其書面賠禮道歉，賠償原告各項損失25萬元。
面對AI深度合成音視頻技術的濫用，專家建議從多個層面進行防范。從技術角度看，可以利用AI技術來檢測和對抗AI。目前已有一些AI技術能夠檢測圖片或音視頻是否經過后期加工和合成。
法律專家呂延輝認為，需要從法律、平臺和公眾等多個層面綜合施策。法律層面應完善相關立法，細化AI克隆技術的法律條款，明確侵權行為的定義和責任，并加強執法力度。平臺層面則應強化政策法規的宣貫和執行，利用技術手段規避AI克隆侵權問題的發生，同時建立健全內容審核和侵權舉報機制。
法律專家還提醒AI深度合成制作和信息發布者，不要抱有僥幸心理。法律沒有灰色地帶，任何違法行為都將受到法律的制裁。
趙精武強調：“法律并不是禁止使用AI合成技術，而是禁止不合法、不合理的使用，尤其是禁止不進行任何顯著標識和提示的AI合成信息的發布和傳播。”
