近期，AI深度合成技術在網絡上引發的侵權現象日益嚴峻，從對企業家雷軍的惡搞，到冒充張文宏醫生進行帶貨直播，再到利用該技術實施詐騙，一系列事件引起了廣泛關注。
據報道，一些不法分子已掌握了AI深度合成技術，并以此為工具牟取利益。例如，曾有網友利用該技術模仿劉德華的聲音，以此吸引流量。劉德華的電影公司迅速發表聲明，提醒公眾警惕此類利用AI語音合成技術的騙局。媒體進一步調查發現，制作AI深度合成音視頻并非難事，在某些購物平臺上，這項技術已成為網店盈利的手段，僅需花費少量金錢，就能定制名人音視頻。
那么，這些高度逼真的AI深度合成音視頻究竟是如何制作的呢？調查發現，網絡上存在多種深度合成軟件，部分軟件甚至可以通過手機應用商城輕松下載。然而，這些軟件的逼真度往往有限，因為它們預設了固定場景。相比之下，網店制作的音視頻則更加逼真。專家指出，這是由于使用了開源的深度合成軟件，這些軟件雖然有一定的技術門檻，但經過調整參數和多個步驟，仍能實現高質量的換聲和換臉效果。
針對這一現象，中國網絡空間安全協會人工智能安全治理專業委員會的專家薛智慧表示，當前網絡上有數十種開源軟件可以實現換聲和換臉效果，公眾可以自由下載并在自己的電腦上使用。然而，這些軟件屬于半專業軟件，需要一定的技術基礎。
關于網店制作并出售名人音視頻的行為，法律專家指出，這已構成侵權。相關法律法規明確規定，未經授權，不得深度合成制作并發布他人信息。北京航空航天大學法學院副教授趙精武提到，國內已經審結了首例AI生成聲音人格權侵權案，法院最終認定被告的行為構成侵權。這起案件中，一名配音演員的聲音在未經授權的情況下被AI生成并出售。
面對AI深度合成技術的普及和侵權問題的加劇，專家建議從多個層面進行防范。從技術角度看，可以利用AI技術對抗和檢測AI。目前已有一些AI技術能夠判斷圖片或音視頻是否經過后期加工和合成。中國計算機學會計算機安全專業委員會委員呂延輝強調，法律層面需要完善相關立法，細化AI克隆技術的法律條款，并加強執法力度。平臺層面則應強化政策法規的宣貫和執行，應用技術手段規避AI克隆侵權問題的發生，同時建立健全內容審核和侵權舉報機制。
法律專家還提醒AI深度合成制作和信息發布者，不要抱有僥幸心理。趙精武副教授指出，法律并不禁止使用AI合成技術，而是禁止不合法、不合理的使用，特別是禁止未經顯著標識和提示就發布和傳播AI合成信息。
對于這一系列AI深度合成技術引發的侵權問題，社會各界反響強烈。你對此有何看法？歡迎在評論區留言。
