近期，AI深度合成技術在網絡空間引發了廣泛的關注與爭議，一系列侵權事件頻發，從惡搞企業家雷軍到假冒張文宏醫生進行帶貨，甚至有不法分子利用該技術實施詐騙，社會影響惡劣。
早前，有網友利用AI技術模仿劉德華的聲音博取流量，劉德華的電影公司迅速發表聲明，警告公眾警惕偽造劉德華聲音的AI語音合成技術騙局。記者近日的調查顯示，AI深度合成音視頻的制作門檻并不高，在一些購物平臺上，該技術已成為網店盈利的工具，僅需幾十元，即可定制名人的AI深度合成音視頻。
記者發現，網絡上下載深度合成軟件相對容易，更令人驚訝的是，一些網絡主播甚至通過直播教授網友如何使用這些軟件。在手機應用商城搜索“換臉換聲”，可以找到多款相關工具，但這些工具通常預設固定場景，逼真度有限。那么，網店如何制作出高度逼真的AI合成音視頻呢？
據中國網絡空間安全協會人工智能安全治理專業委員會專家薛智慧介紹，當前存在許多開源軟件和工具，可以實現換聲和換臉效果，網民可以自由下載并在個人電腦上安裝使用。這些軟件種類繁多，但由于涉及多個場景和復雜參數調整，屬于半專業軟件，具有一定的技術門檻。
針對網絡購物平臺使用AI深度合成技術制作并出售名人音視頻的行為，專家指出，這違反了相關法律法規。未經授權，不得深度合成制作發布他人信息，此類行為已構成侵權，并應承擔相應的法律責任。
北京航空航天大學法學院副教授趙精武指出，國內已經審結首例AI生成聲音人格權侵權案。在該案中，一名配音演員的聲音未經授權被AI生成并出售，法院最終認定被告行為構成侵權。這表明，我國民法典已將自然人的聲音視為一種具有人身專屬性的人格權益。
面對AI深度合成音視頻侵權的蔓延，專家建議公眾提高防范意識。薛智慧提出，可以利用AI技術對抗和檢測AI。目前已有一些AI技術能夠檢測圖片或音視頻是否經過后期加工和合成。
中國計算機學會計算機安全專業委員會委員呂延輝強調，防范AI侵權需要從法律、平臺和公眾等多個層面綜合施策。法律層面需完善相關立法，明確AI克隆技術的法律條款和侵權責任，加強執法力度。平臺層面則需強化政策法規的宣貫和執行，保護已有數據，應用技術手段規避AI克隆侵權，同時建立健全內容審核和侵權舉報機制。
法律專家提醒AI深度合成制作和信息發布者，切勿心存僥幸。法律沒有灰色地帶，任何不合法、不合理的使用都可能引發嚴重的法律后果。
趙精武副教授進一步強調，法律并不禁止使用AI合成技術，而是禁止不合法、不合理的使用，尤其是禁止未進行顯著標識和提示的AI合成信息的發布和傳播。
