全國兩會期間，小米集團創始人雷軍提出了一項針對“AI換臉擬聲”技術濫用問題的治理建議，引發了廣泛關注。
雷軍指出，隨著人工智能深度合成技術的快速發展，“AI換臉擬聲”技術已在多個領域得到廣泛應用。然而，這一技術的濫用現象日益嚴重，成為違法侵權行為的高發區，對構建健康的人工智能發展生態構成了嚴重威脅。
作為受害者之一，雷軍分享了去年國慶假期期間，網絡上流傳的各種“雷軍語音包”，其中不乏惡意吐槽和辱罵內容，給他帶來了極大的困擾。盡管他發布視頻呼吁停止惡搞，但此類侵權行為仍然屢禁不止。
事實上，受到“AI換臉擬聲”技術侵害的并非雷軍一人。演員劉曉慶也發文稱，有網友向她反饋，有人在視頻號上利用AI技術假冒她發布視頻。從網友分享的截圖可見，該賬號發布的視頻均利用劉曉慶的形象與聲音通過AI生成，雖然部分視頻標注了“內容為AI技術制作”，但仍有未標注的視頻，令人難辨真假。
劉德華也遭遇了AI偽造視頻的侵害。一些營銷賬號為了博取眼球和流量，通過拼湊視頻素材和AI偽造視頻，宣稱劉德華在演唱會上為電影宣傳，并承諾向粉絲贈送電影票。這些虛假視頻讓不少網友信以為真，對劉德華的聲譽造成了一定影響。
“AI換臉擬聲”技術本身具有巨大的應用潛力，在影視制作、教育、醫療等領域都能發揮重要作用。然而，當這項技術被不法分子惡意利用時，就會變成侵犯他人權益、擾亂社會秩序的“兇器”。它不僅侵犯了公眾人物和普通人的肖像權、名譽權，還可能引發公民個人信息泄露和詐騙等嚴重犯罪行為。
為了有效遏制“AI換臉擬聲”技術的濫用現象，雷軍提出了多項具有針對性和建設性的建議。他呼吁加快人工智能單行法的立法進程，明確“AI換臉擬聲”技術的應用邊界和紅線，完善侵權證據規則，并加大對利用人工智能技術實施犯罪行為的刑事處罰力度。
同時，雷軍還建議加大AI方面的普法宣傳力度，提高民眾的警惕性和鑒別力。他提出在中小學人工智能教材中加入倫理規范內容，并在老年人聚居的社區開展知識普及活動，以增強全社會對“AI換臉擬聲”技術濫用問題的認識和防范能力。
為了營造健康、安全、有序的網絡環境和人工智能發展生態，需要法律、行業、平臺和民眾等多方面的共同努力。法律層面應加快完善相關法律法規，填補法律空白；行業方面，企業應強化自律意識，加強技術研發的合規審查；平臺需切實履行主體責任，加強對內容的審核管理；民眾自身也應提高辨別能力和法律意識，遇到侵權行為及時舉報。
