近年來，AI深度合成技術在網絡上引發了諸多爭議，從模仿企業家雷軍到偽造張文宏醫生的音視頻，甚至被不法分子用于詐騙活動，這一系列事件讓公眾對該技術的濫用感到擔憂。據報道，過去一年中，AI深度合成音視頻侵權事件頻發，不僅損害了名人的權益，也對社會造成了不良影響。
其中，一起引人注目的案例是，有網友利用AI技術模仿劉德華的聲音，以此吸引流量。這一行為迫使劉德華的電影公司緊急發布聲明，警告網民不要上當受騙，因為這是一種利用AI語音合成技術的騙局。記者調查發現，制作這樣的AI深度合成音視頻并非難事，一些購物平臺上的網店甚至以此為生，只需支付幾十元，就能定制名人音視頻。
那么，這些高度逼真的AI換聲和換臉是如何制作的呢？記者發現，雖然手機應用商城中有許多換臉換聲工具，但效果并不理想，逼真度不高。相比之下，網店制作的AI深度合成音視頻則更加真實。據專家解釋，目前網絡上有許多開源軟件和工具可以實現換聲和換臉效果，但這些軟件屬于半專業軟件，需要調整參數和多個步驟，因此不為普通網民所熟知。然而，一些網絡主播在短視頻平臺上直播教學，教授如何使用這些軟件。
對于網店使用AI深度合成技術制作并出售名人音視頻的行為，法律專家指出，這已構成侵權。根據相關法律法規，未經授權，不得深度合成制作發布他人信息。網店的行為不僅違反了民法典中關于肖像權和聲音權的規定，也違反了國家網信辦、工信部、公安部聯合發布的《互聯網信息服務深度合成管理規定》。網信辦發布的《人工智能生成合成內容標識辦法（征求意見稿）》也要求，對AI生成合成內容要進行標識，以防止誤導性信息的傳播。
那么，網店使用AI深度合成技術制作名人視頻，應該承擔什么樣的法律責任呢？法律專家表示，國內已經審結了首例AI生成聲音人格權侵權案。在這起案件中，一名配音演員的聲音在未經授權的情況下被AI生成并對外出售，法院最終認定被告的行為構成侵權。這意味著，網店的行為同樣可能面臨法律制裁。
面對AI深度合成音視頻侵權的嚴峻形勢，專家提醒公眾要提高防范意識。從技術角度來看，可以利用AI技術來檢測和對抗AI。目前已有一些AI技術能夠對圖片或音視頻進行檢測，判斷其是否經過后期加工和合成。同時，法律、平臺和公眾也需要共同努力，防范AI侵權問題的發生。法律層面需要完善相關立法，細化AI克隆技術的法律條款，并加強執法力度。平臺層面需要強化政策法規的宣貫和執行，應用技術手段規避AI克隆侵權問題的發生，并建立健全內容審核和侵權舉報機制。
法律專家還提醒AI深度合成制作和信息發布者，不要心存僥幸。法律沒有灰色地帶，任何不合法不合理的使用AI合成技術的行為都將受到法律的制裁。因此，公眾和相關從業者應自覺遵守法律法規，共同維護一個健康、安全的網絡環境。
