近年來，AI深度合成技術在網絡上引發的侵權事件層出不窮，從對企業家雷軍的惡搞，到假冒張文宏醫生進行商品推廣，甚至有不法分子利用該技術制作高度逼真的視頻進行詐騙，這一系列事件引發了廣泛的社會關注。
早前，有網友利用AI技術模仿劉德華的聲音，企圖借此吸引流量。對此，劉德華的電影公司迅速發表聲明，提醒公眾警惕這種利用AI語音合成技術的詐騙行為。
經過記者的深入調查，發現制作AI深度合成的音視頻并非難事。在一些購物平臺上，AI深度合成技術已成為不少網店謀取利益的手段。消費者只需花費數十元，就能定制到名人的AI深度合成音視頻。
據中國網絡空間安全協會人工智能安全治理專業委員會的專家薛智慧介紹，目前網絡上有許多開源軟件和工具可以實現換聲和換臉效果，公眾可以自由下載并在自己的電腦上安裝使用。這些軟件雖然有一定的技術門檻，但在短視頻平臺上，已有不少主播開始教授如何使用這些軟件。
針對網絡購物平臺上利用AI深度合成技術制作并出售名人音視頻的行為，法律專家指出，這已明顯違反了相關法律法規。根據《中華人民共和國民法典》，自然人享有肖像權和聲音權等人格權益，未經授權，任何組織或個人都不得利用信息技術進行偽造，否則將構成侵權行為。
北京航空航天大學法學院副教授趙精武提到，國內已經審結了一起利用AI生成聲音侵犯人格權的案件。在這起案件中，一名配音演員的聲音在未經授權的情況下被AI生成并出售，法院最終認定被告的行為構成侵權。
面對AI深度合成技術的普及，公眾應如何提高防范意識？薛智慧專家建議，從技術角度來看，可以利用AI技術來對抗和檢測AI。目前已有一些AI技術能夠對圖片或音視頻進行檢測，判斷其是否經過后期加工或合成。
中國計算機學會計算機安全專業委員會委員呂延輝強調，防范AI侵權問題需要從法律、平臺和公眾等多個層面綜合施策。法律層面需完善相關立法，明確侵權行為的定義和責任，并加強執法力度。平臺層面則需強化政策宣貫和執行，應用技術手段規避AI克隆侵權問題，同時建立健全內容審核和侵權舉報機制。
趙精武副教授進一步指出，法律并不禁止使用AI合成技術，而是禁止不合法、不合理的使用，特別是禁止未進行顯著標識和提示的AI合成信息的發布和傳播。
