近期，人工智能（AI）在科學界的影響力顯著增強，這一趨勢引發了廣泛討論。特別是2024年諾貝爾化學和物理學獎的揭曉，五位得主的研究中均有人工智能的身影，這無疑凸顯了AI在基礎科學中的重要地位。
科學家們紛紛慶祝這一變革性的力量，有諾貝爾獎得主甚至將人工智能譽為“人類歷史上最具變革性的技術之一”。然而，這一轉變也為科學界帶來了新的挑戰和擔憂。
AI在科學研究中的應用，意味著科學家們能以更低的成本、更快的速度獲得更多的研究成果。例如，Sakana AI Labs開發的“AI科學家”機器，每個想法都可以自動生成一篇研究論文，成本僅為15美元。然而，這也引發了人們對科學質量的擔憂，批評者指出，這樣的系統可能會產生大量毫無價值的“科學垃圾”，進一步加劇同行評審系統的壓力。
專家們還指出了使用AI進行科學研究的三種錯覺。首先是“解釋深度的錯覺”，即認為AI模型能夠準確解釋其預測結果，而實際上，這些模型可能只是優化預測的工具，對潛在的機制缺乏深入理解。其次是“探索廣度的錯覺”，科學家們可能認為AI已經涵蓋了所有可測試的假設，而實際上，這只是基于一組有限的、可用AI進行測試的假設。最后是“客觀幻覺”，即認為AI模型沒有偏見，能夠客觀反映所有可能的人類偏見，而實際上，AI模型不可避免地會反映其訓練數據和開發者意圖中的偏見。
在公眾對科學和科學家的信任度仍然較高的情況下，AI的崛起也帶來了新的挑戰。信任是復雜而脆弱的，特別是在科學證據和計算模型存在爭議、不完整或存在多種解釋的情況下。例如，在COVID大流行期間，“相信科學”的呼吁就遭遇了信任危機。因此，科學界必須認識到細微差別和背景的重要性，以重建公眾信任。
隨著21世紀的到來，科學家們被賦予了新的社會契約，即將他們的才能集中在我們這個時代最緊迫的問題上，以換取公共資金。AI的興起為科學家提供了一個履行這一責任的機會，但同時也需要解決一些重要問題。例如，將AI用于科學研究是否是一種可能損害公共資助工作完整性的“外包”？AI的環境足跡如何？研究人員如何在將AI融入研究管道的同時保持與社會期望的一致？
這些問題不僅關乎科學的未來，更關乎整個社會的福祉?？茖W家需要在實踐社區和研究利益相關者中就AI的未來進行真正的對話，反映共同的目標和價值觀。只有這樣，我們才能確保AI在科學研究中的應用既能夠推動科學進步，又能夠造福整個社會。
