人工智能技術的迅猛發展正深刻改變著社會的各個角落。近期，全國人大代表、科大訊飛董事長劉慶峰針對“AI幻覺”現象引發的數據污染及其潛在社會危害表達了深切關注。
據中國互聯網絡信息中心發布的最新報告《生成式人工智能應用發展報告（2024）》顯示，我國生成式人工智能產品的用戶規模已經突破2.49億，占據了整體人口的17.7%。這一快速增長的用戶基數，雖彰顯了技術的廣泛普及，但背后隱藏的風險也不容忽視。
尤其是生成式人工智能存在的“幻覺”問題，尤其是隨著深度推理模型邏輯自洽性的不斷提升，AI生成的內容愈發難以分辨真偽。這種帶有算法偏差的虛假信息一旦被新一代AI系統循環學習，便可能陷入“數據污染—算法吸收—再污染”的惡性循環。由于普通大眾對AI技術原理及其生成機制缺乏深入了解，他們往往容易將這些由算法輸出的“幻覺數據”誤認為是真實可靠的信息。
當互聯網上充斥著由大型AI模型生成的“幻覺數據”時，這不僅會嚴重削弱公眾的信任感，還可能對社會穩定構成潛在威脅。針對這一現狀，劉慶峰強調，必須采取積極措施，從技術研發和管理機制兩方面入手，共同構建一個可信的信息環境。
首先，他建議構建一套安全可信的數據標簽體系，以此提升內容的可靠性。具體而言，應建立一個安全、可信且能夠動態更新的信源和數據知識庫，并為不同類型的數據根據其可信度和潛在危害程度打上標簽。這樣做可以有效降低人工智能產生“幻覺”的概率，從而提升生成內容的可靠性。
其次，劉慶峰還呼吁研發AIGC幻覺治理技術和平臺，定期對幻覺數據進行清理。這包括研究幻覺自動分析技術和開發相應的軟件平臺，開展幻覺自動分析、AIGC深度鑒偽、虛假信息檢測、有害內容識別以及互聯網傳播溯源等工作。他建議由中央網信辦、國家數據局等相關部門主導，定期清理幻覺數據，并向公眾提供AIGC幻覺信息檢測工具與服務，以維護一個健康、可信的網絡信息生態。
