近年來，AI深度合成技術引發的音視頻侵權事件頻發，從惡搞企業家雷軍到模仿醫生張文宏進行帶貨，甚至有不法分子利用該技術制作詐騙視頻，社會影響惡劣。
此前，有網友利用AI技術模仿劉德華的聲音，試圖博取流量，劉德華的電影公司迅速發布聲明，提醒公眾警惕偽造劉德華聲音的AI語音合成技術陷阱。近期記者調查發現，制作AI深度合成音視頻并非難事，在一些購物平臺上，該技術已成為網店牟利的手段，花費少量金錢即可定制名人音視頻。
記者發現，網絡上存在多種深度合成軟件，部分網絡主播甚至開設直播教程，教授網友如何使用這些軟件。盡管一些手機應用商城中的換臉工具逼真度不高，但網店制作的AI深度合成音視頻卻相當逼真。
據中國網絡空間安全協會人工智能安全治理專業委員會專家薛智慧介紹，目前網絡上存在許多開源軟件和工具，可實現換聲換臉效果，網民可自由下載并在個人電腦上安裝使用。然而，這些軟件具有一定的技術門檻，需要調整參數和步驟較多。
專家指出，在網絡購物平臺上使用AI深度合成技術制作并出售名人音視頻，已觸犯相關法律。根據相關法律法規，未經授權，不得深度合成制作發布他人信息。中國計算機學會計算機安全專業委員會委員呂延輝表示，《中華人民共和國民法典》明確規定，自然人享有肖像、聲音等權益，任何組織或個人利用信息技術偽造均屬侵權行為。
北京航空航天大學法學院副教授趙精武提到，國內已審結首例AI生成聲音人格權侵權案。在此案中，一名配音演員的聲音未經授權被AI生成并出售，法院最終認定被告行為構成侵權。
面對AI深度合成音視頻侵權的泛濫，專家建議從技術角度提高防范意識。薛智慧表示，可以利用AI技術對抗和檢測AI，目前已有一些典型技術能夠檢測圖片或音視頻是否經過后期加工和合成。
呂延輝強調，防范AI侵權需要從法律、平臺和公眾等多個層面綜合施策。法律層面需完善相關立法，細化AI克隆技術的法律條款，明確侵權行為定義和責任，并加強執法力度。平臺層面則需強化政策法規的執行，應用技術手段規避AI克隆侵權問題，同時建立健全內容審核和侵權舉報機制。
法律專家提醒，AI深度合成制作和信息發布者切勿心存僥幸，法律沒有灰色地帶，任何違法行為都將受到嚴厲制裁。趙精武副教授指出，法律并非禁止使用AI合成技術，而是禁止不合法、不合理的使用，尤其是未經顯著標識和提示的AI合成信息的發布和傳播。
