近日，一項關于人工智能（AI）生成研究的警告引起了廣泛關注。瑞典布羅斯大學學院的研究人員在《錯誤信息評論》期刊上發表報告，指出AI生成的研究不僅在社會知識層面構成威脅，還影響了公眾對科學的信任度。
研究團隊在谷歌學術平臺中發現了上百篇疑似由AI生成的文章，這些文章的存在對學術界的真實性提出了嚴峻挑戰。據報告指出，這些有問題的文章已經迅速傳播到網絡研究基礎設施的多個部分，包括檔案庫、社交媒體平臺等，即使被撤回，也可能已經造成了潛在影響。
研究人員強調，AI生成的“垃圾科學”不僅侵蝕了學術平臺，還為惡意行為者提供了以更低成本制造和傳播虛假科學的途徑。這一現象對社會和科研界都構成了危險，特別是證據篡改風險的增加，使得虛假研究可能被用于戰略操縱。
AI生成的研究還給同行評審系統帶來了額外的壓力。由于這些研究在搜索引擎數據庫中廣泛傳播，參與在線研究的人員需要具備更高的信息素養，以避免基于錯誤信息作出決策。這不僅是一個科學不端行為的問題，還涉及到媒體和信息素養的挑戰。
報告還指出，谷歌學術平臺雖然使用便捷、搜索迅速，但缺乏必要的質量保證流程。這一缺陷在普通搜索結果中已顯現出問題，而在科學知識的普及與傳播方面，問題則更為嚴重和復雜。因此，研究人員建議，在依賴谷歌學術平臺時，應更加謹慎，并結合其他專業學術數據庫進行驗證。
