近年來，人工智能（AI）深度合成技術在音視頻領域的應用引發了廣泛關注和爭議。從對企業家雷軍的惡搞，到利用AI技術制作張文宏醫生的音視頻進行商品推廣，甚至有不法分子通過深度合成視頻進行詐騙活動，AI深度合成技術的濫用現象愈演愈烈。
此前，有網友利用AI技術模仿劉德華的聲音，以此吸引流量。這一行為迫使劉德華的電影公司緊急發布聲明，警告公眾不要上當受騙，避免陷入偽造劉德華聲音的AI語音合成技術騙局。近期，記者調查發現，實現AI深度合成音視頻的技術門檻并不高，甚至在一些購物平臺上，AI深度合成技術已成為網店盈利的工具，消費者只需支付幾十元，即可定制名人AI深度合成的音視頻。
那么，這些高度逼真的AI深度合成聲音和換臉是如何制作的呢？記者調查發現，相關的深度合成軟件在網絡上并不難獲取，甚至一些網絡主播還在直播中教授網友如何使用這些軟件。雖然手機應用商城中有眾多換臉換聲工具，但大多數逼真度不高，且設定了固定場景。那么，網店是如何制作出高度逼真的AI深度合成音視頻的呢？
據中國網絡空間安全協會人工智能安全治理專業委員會專家薛智慧介紹，目前有許多開源軟件和工具可以實現換聲和換臉效果，公眾可以自由下載并在自己的電腦上安裝使用。雖然這些軟件多達數十種，但由于涉及多個步驟和參數調整，屬于半專業軟件，具有一定的技術門檻，因此不為大眾所熟知。然而，記者發現短視頻平臺上已有眾多主播在教授如何使用這些軟件。
針對在網絡購物平臺上使用AI深度合成技術制作并出售名人音視頻的行為，專家指出，這違反了相關法律法規。未經授權，不得深度合成制作發布他人信息，網店接單制作名人視頻的行為已構成侵權，并應承擔相應的法律責任。
北京航空航天大學法學院副教授趙精武指出，國內已經審結了首例AI生成聲音人格權侵權案。在此案中，一名配音演員的聲音未經授權被AI生成并出售，法院最終認定被告的行為構成侵權。這一案例表明，自然人的聲音被視為一種具有人身專屬性的人格權益。
專家提醒，不僅是名人，普通人甚至動畫形象，如果未經本人或版權方同意，使用AI合成制作其音視頻，同樣構成侵權行為，應承擔法律責任。那么，面對AI深度合成音視頻侵權的普及，我們應如何防范呢？
薛智慧專家表示，從技術角度來看，可以利用AI技術對抗和檢測AI。當前已有一些典型的AI技術能夠對圖片或音視頻進行檢測，判斷其是否經過后期加工和合成。中國計算機學會計算機安全專業委員會委員呂延輝則建議，防范AI侵權問題需要從法律、平臺和公眾等多個層面綜合施策。法律層面應完善相關立法，細化AI克隆技術的法律條款，明確侵權行為的定義和責任，并加強執法力度。平臺層面應強化政策法規的宣貫和執行，保護已有數據，應用技術手段規避AI克隆侵權問題的發生，同時建立健全內容審核和侵權舉報機制。
趙精武副教授強調，法律并不禁止使用AI合成技術，而是禁止不合法、不合理的使用，特別是禁止未經顯著標識和提示的AI合成信息的發布和傳播。他提醒AI深度合成制作和信息發布者，不要心存僥幸，法律沒有灰色地帶，切勿因小失大。
