隨著人工智能技術的飛速發展，AI在聲音和視頻領域的濫用及侵權問題日益凸顯，成為社會關注的焦點。近期，“國慶假期被‘雷軍’罵了8天”和劉曉慶回應“畫面是我、聲音像我、但不是我”等事件，再次將AI聲音和視頻合成技術的爭議推向風口浪尖。
去年，北京互聯網法院對全國首例“AI聲音侵權案”作出一審判決，明確指出，如果AI合成的聲音能讓公眾根據音色、語調和發音風格聯想到特定自然人，即具有可識別性，這標志著法律對AI合成技術的規制邁出了重要一步。然而，當前針對AI換臉擬聲等領域的單行法仍屬空白。
在全國兩會期間，多位代表委員圍繞人工智能生成內容的規范、預防和治理展開了熱烈討論。小米CEO雷軍、TCL創始人兼董事長李東生、科大訊飛董事長劉慶峰等人紛紛提議，應加速制定針對AI生成合成內容的單行法，明確各方責任，強制標識生成內容，并對易感人群加大普法力度。
據了解，雖然《互聯網信息服務深度合成管理規定》和《生成式人工智能服務管理暫行辦法》等法規已出臺，但針對“AI換臉擬聲”的具體規定仍存在效力位階偏低、內容分散、部門職責交叉等問題。因此，現階段主要依靠基礎法律中關于隱私權、肖像權、名譽權等的零散法條來規制相關侵權行為。
雷軍建議，應加快單行法的立法進程，提升立法位階，針對“AI換臉擬聲”等代表性問題進行專門立法，明確應用邊界紅線，完善侵權證據規則，并加大對利用AI技術實施犯罪行為的刑事處罰力度。同時，他強調應與時俱進地探索新議題的細化監管措施，凝聚人工智能倫理規范共識。
針對人工智能損害的救濟問題，《人工智能法（學者建議稿）》提出了人工智能公益訴訟條款，旨在通過公益訴訟實現對AI偽造現象的有效治理。最高人民檢察院公益訴訟檢察廳廳長徐向春表示，人工智能技術的廣泛應用雖然帶來了便利，但不當使用也可能對公共利益造成損害，傳統私益訴訟難以實現有效救濟，因此檢察機關正在探索大數據法律監督模型構建，積極應對人工智能濫用可能引發的公益損害。
在厘清人工智能生成合成全鏈條各方責任方面，雷軍提議通過技術和法律手段并重、監督管理和自律自治相結合的方式，加強跨區域、跨部門的協調聯動，實現治理效果最大化。同時，他強調應強化行業自律共治，壓實平臺企業等各方的責任和義務，支持開發可精準識別人工智能深度合成內容的技術能力。
李東生也提到，應明確對人工智能深度合成服務商未履行標識義務的懲罰制度，完善相關行為界定、分類細則及處罰標準。昆侖萬維董事長兼CEO方漢則建議AI企業應強化AI生成內容的審核與溯源能力，嚴格實施實名認證和使用場景分級管理。
在傳播鏈條上，李東生建議要求深度合成服務提供商對AI生成的內容進行強制標識，減少惡意濫用，并加快出臺相關管理規章制度和技術標準。雷軍則提議加大普法宣傳力度，特別是針對青少年和老年人等易感人群，提升他們的警惕性和鑒別力，同時在中小學人工智能教材中加入倫理規范內容。
科大訊飛董事長劉慶峰指出，隨著生成式人工智能用戶規模的快速增長，AI幻覺問題日益突出，特別是深度推理模型的邏輯自洽性提升使得AI生成內容真假難辨。他建議從技術層面研發AIGC幻覺治理技術和平臺，開展深度鑒偽和虛假信息檢測工作，并定期清理幻覺數據。
