近期，網絡上興起了一股利用AI技術深度合成音視頻的風潮，引發了社會各界的廣泛關注。這股風潮中，小米公司CEO雷軍意外“現身”多個短視頻平臺，針對堵車、假期安排、游戲等熱門話題發表了一系列言辭犀利的評論，甚至夾雜不文明語言，一時間引起了網友的熱議。
然而，經核實，這些視頻中的聲音并非雷軍本人所出，而是借助先進的AI技術生成的配音。這一發現讓不少網友大跌眼鏡，同時也引發了對于AI技術濫用的擔憂。
不僅如此，網絡上還出現了“張文宏醫生”推銷蛋白棒的音視頻，由于口型和聲音與張文宏本人高度相似，導致部分老年人誤信并下單購買。張文宏醫生對此表示無奈，并向平臺方投訴，稱自己也曾考慮報警，但對方賬號頻繁更換且均為虛擬身份，難以追蹤。
更令人震驚的是，不法分子也開始利用AI深度合成技術制作虛假音視頻進行詐騙。他們通過模仿名人親屬的聲音，實施精準詐騙，讓不少受害者上當受騙。多位配音演員也發聲稱，自己的聲音被AI“盜用”，用于制作各種虛假音視頻。
央視新聞近日對這一現象進行了深入報道，指出AI深度合成音視頻技術的濫用已經成為一個不容忽視的社會問題。據報道，去年3月，劉德華電影公司就曾發布聲明，稱有網友利用AI技術合成的劉德華聲音進行虛假宣傳，騙取演唱會門票訂金。
調查還發現，在一些購物平臺上，AI深度合成技術已經成為眾多網店牟利的工具。只需花費幾十元，就可以定制AI深度合成的名人音視頻。這些軟件和工具雖然有一定的技術門檻，但隨著算法的不斷迭代升級，如今已經能夠生成“真假難辨”的音視頻內容。
值得注意的是，相關法律法規已經明確規定，未經授權，不得深度合成制作發布他人信息。然而，這些網店接單制作名人音視頻的行為已經構成了侵權，并應承擔相應的法律責任。不僅是名人，普通人甚至動畫形象，如果未經本人或版權方同意，就被用于AI合成制作音視頻，同樣構成侵權行為。
面對這一亂象，專家呼吁相關部門應加強監管力度，打擊利用AI技術進行侵權和詐騙的行為。同時，廣大網民也應提高警惕，避免上當受騙。
