
2025年10月,Futurism嘅報道根據一份預備性報告,向學術界敲響警鐘:研究人員對AI工具嘅信任喺過去一年內大幅下跌。報告唔係空泛講法,而係透過訪談同問卷,涵蓋唔同學科同職級嘅研究者,呈現一個反直覺嘅關係——接觸AI愈多,懷疑愈深。
受訪者具體舉例佢哋遇到嘅情況:喺統計分析上,生成模型會好有自信噉畀出錯誤結論;喺文獻綜述同論文撰寫時,模型經常「造」唔存在嘅引用;喺實驗設計同假設檢驗環節,AI推薦嘅路徑冇經過可重複性檢驗就被採納,造成後續無法複現嘅研究。多位科學家指出,呢啲唔係偶發事件,而係頻繁出現嘅系統性問題,促使佢哋喺日常科研中對AI結果做更多人工核查。
報道亦記錄到研究者對行業「炒作文化」嘅反感。受訪者話,科技媒體同廠商常常放大模型潛力,掩蓋或忽視局限,導致科研新手喺初期過度依賴工具。與此同時,部分科研團隊開始內部制定更嚴格嘅AI使用準則,包括喺方法部分清楚標註AI參與程度、保存原始數據同模型輸出以便審查,並喺提交同行評審前做第三方複核。
信任下降背後,監管同透明度嘅缺失被反覆提及。研究者呼籲模型開發者提供更可解釋嘅決策路徑、更詳細嘅訓練數據說明,並對模型不確定性做量化報告。
報道指出,學術界正喺技術同政策兩方面探索應對方案:一方面要喺方法學上提升對AI輸出嘅魯棒性,另一方面要喺期刊同資助機構層面建立使用AI嘅倫理同透明標準。Futurism強調,從盲目信任到謹慎使用嘅轉變,對年輕研究者特別重要;佢哋一方面比任何世代更早接觸AI,另一方面亦更早發現模型侷限,從而喺科研文化中推動更務實嘅討論。
報道最後引述該預備性報告嘅結論:信任下降唔係純粹悲觀嘅信號,而係一種成熟化過程,促使科學共同體喺工具使用上回歸方法論同可驗證性嘅核心。報道提醒學術同產業界,喺推廣AI工具時必須同步配套清晰嘅性能邊界、可複現流程同倫理規範;欠缺呢啲配套措施嘅話,AI喺加速科研嘅同時亦可能侵蝕學術信任嘅基石。