LogoAIRosetta

科学家使用AI越多,信任度越低——Futurism报告揭示研究界冷静期

Futurism
00:0000:00

Summary2025年10月,Futurism援引一份预备性报告指出:过去一年间,参与AI相关工作的科研人员对AI软件的信心出现“断崖式”下降。研究者越深入使用模型,越能观察到其局限、错误和被夸大的能力,从而产生更强的不信任感。

2025年10月,Futurism发布的报道基于一份预备性报告,直接给学术界敲响警钟:研究人员对AI工具的信任度在过去一年内出现剧烈下滑。报告并非泛泛而谈,而是通过对从事不同学科、不同级别研究者的访谈和问卷收集细节,呈现出一种反直觉的关联⁠—⁠⁠—⁠与AI接触越频繁,怀疑越深。

受访者具体举例了他们遭遇的场景:在统计分析中,生成模型会自信地给出错误结论;在文献综述与论文撰写中,模型常常“编造”不存在的引用;在实验设计和假设检验环节,AI推荐的路径未经过可重复性检验便被采纳,造成后续无法复现的研究。多位科学家指出,这些并非偶发,而是频繁出现的系统性问题,促使他们在日常科研中对AI结果进行更多人工核查。

报道还记录了研究者对行业“炒作文化”的反感。受访者表示,科技媒体与厂商常常放大模型的潜力,而掩盖或忽视局限性,导致科研新手在初期过度依赖工具。与此同时,部分科研团队开始在内部制定更严格的AI使用准则,包括要求在方法部分明确标注AI参与程度、保存原始数据与模型输出以便审查,以及在提交同行评审前进行第三方复核。 在信任下降的背后,监管与透明性的缺失被反复提及。研究者呼吁模型开发者提供更可解释的决策路径、更细致的训练数据说明,以及对模型不确定性进行量化报告。

报道指出,学术界正在探索技术和政策双管齐下的应对方式:既要在方法学上提升对AI输出的鲁棒性,也要在期刊与资助机构层面建立使用AI的伦理与透明标准。 Futurism的报道强调,这种从盲目信任到谨慎使用的转变,对年轻研究者尤为关键。一方面,他们比以往任何世代更早接受AI工具;另一方面,频繁接触也让他们率先发现模型局限,从而在科研文化中推动更务实的讨论。

报道最后引述预备性报告结论:信任的下降并非纯粹悲观信号,而是一种成熟化的过程,促使科学共同体在工具使用上回归方法论和可验证性的核心。 这篇报道提示学术与产业界在推广AI工具时,必须与清晰的性能边界、可复现流程和伦理规范并行。若缺失这些配套措施,AI在加速科研的同时,也可能侵蚀学术信任的基石。

CopyrightStatement

Comment

Please login before commenting

NoComments

RelatedNews

LoadingMore

科学家使用AI越多,信任度越低——Futurism报告揭示研究界冷静期 - Airosetta News