近期，AI深度合成技術在網絡空間引發的侵權問題日益凸顯，從對企業家的惡搞到利用AI制作名人音視頻進行商業推廣，甚至詐騙活動，這一技術被不法分子濫用的情況愈演愈烈。
劉德華的聲音曾被網友利用AI技術模仿，以此博取網絡流量，這一事件促使劉德華的電影公司緊急發布聲明，警告網民防范利用AI語音合成技術的騙局。記者深入調查發現，制作AI深度合成音視頻并非難事，在某些購物平臺上，這項技術已成為網店盈利的手段，消費者僅需支付數十元，即可定制名人音視頻。
那么，這些高度逼真的AI換聲和換臉視頻是如何制作的呢？記者發現，相關深度合成軟件在網絡上并不難獲取，甚至一些網絡主播還在直播中教授網友如何使用這些軟件。盡管一些手機應用商城提供的換臉工具效果并不逼真，但網店制作的高度逼真音視頻卻讓人驚嘆。
中國網絡空間安全協會人工智能安全治理專業委員會專家薛智慧指出，目前有許多開源軟件和工具可以實現換聲和換臉效果，網民可以自由下載并在自己的電腦上安裝使用。然而，這些軟件屬于半專業軟件，有一定的技術門檻，因此不為大眾所熟知。盡管如此，短視頻平臺上仍有眾多主播在教授如何使用相關軟件。
對于在購物平臺上使用AI深度合成技術制作并出售名人音視頻的行為，專家表示這已觸犯相關法律。根據相關法律法規，未經授權，不得深度合成制作發布他人信息。網店接單制作名人視頻的行為已構成侵權，并應承擔相應的法律責任。
北京航空航天大學法學院副教授趙精武提到，國內已經審結了首例AI生成聲音人格權侵權案。在這起案件中，一名配音演員的聲音在未經授權的情況下被AI生成并出售，法院最終認定被告的行為構成侵權。這一案例強調了自然人聲音作為人格權益的重要性。
面對AI深度合成音視頻侵權的日益嚴重，專家建議提高公眾的防范意識。薛智慧表示，從技術角度來看，可以利用AI技術來檢測和對抗AI。目前已有一些典型的AI技術能夠對圖片或音視頻進行檢測，以判斷其是否經過后期加工或合成。
中國計算機學會計算機安全專業委員會委員呂延輝強調，防范AI侵權問題需要從法律、平臺和公眾等多個層面綜合施策。法律層面需要完善相關立法，細化AI克隆技術的法律條款，并加強執法力度。平臺層面則需要強化政策法規的執行，應用技術手段規避AI克隆侵權問題的發生，同時建立健全內容審核和侵權舉報機制。
法律專家提醒AI深度合成制作和信息發布者，不要心存僥幸。法律沒有灰色地帶，任何不合法、不合理的使用都可能面臨法律責任。趙精武副教授強調，法律并不禁止使用AI合成技術，而是禁止不合法、不合理的使用，尤其是禁止不進行任何顯著標識和提示的AI合成信息的發布和傳播。
隨著AI技術的普及，公眾也應提高警惕，學會識別AI合成的音視頻，以避免被誤導或欺騙。
