引言

随着大语言模型（Large Language Models，LLMs）在全球范围内的广泛应用，“幻觉”（hallucination） 已成为最受关注的问题之一。所谓幻觉，指的是模型在生成文本时输出了看似合理、实际上错误或虚构的信息。这一问题不仅影响用户体验，更在法律、医疗、科研等高风险场景中带来潜在危害。

2025年9月，OpenAI 发布了一篇题为《Why Language Models Hallucinate》的研究论文，试图从训练目标与评估机制的角度，系统解释幻觉的根本原因，并提出减少幻觉的新思路。本文将对该论文的核心思想进行梳理，并结合学界和业界的讨论，形成一份综合性综述。

一、幻觉的根本原因：训练与评估激励失衡

论文的核心观点是：

幻觉并不是模型“撒谎”或“逻辑错误”，而是训练与评估机制在无意间鼓励模型“盲猜”而不是“承认不知道”。

1. 训练目标的局限性

当今主流的大语言模型，训练目标是下一个词预测（next‑token prediction）。这一方式虽然能学习到语言模式，但存在一个天然问题：

• 当模型面对不确定或缺失信息时，它仍然会“尽力生成”一个合理的词，而不是拒绝作答。
• 这种“尽力填补”的行为在统计上可提高似然，但在事实层面就可能形成幻觉。

2. 评估标准的问题

研究进一步指出，现有的模型评估体系⁠—⁠⁠—⁠尤其是基准测试（benchmarking）⁠—⁠⁠—⁠往往只关注准确率，而没有惩罚“错误回答”或“虚构输出”。

• 如果模型在 10 道题中答对 6 道（准确率 60%），即使另外 4 道答得“自信但错误”，它的分数仍然不低。
• 相比之下，如果一个模型答对 5 道，但对 5 道选择拒答（承认不知道），它的准确率反而更低。
• 这种机制会促使模型“冒险猜测”而非“谨慎拒绝”。

因此，幻觉在根本上是由训练目标与评估方式的激励机制所驱动的系统性产物。

二、实证研究：对比实验揭示矛盾

论文中给出了多个对比实验，展示了不同模型在“准确率⁠—⁠拒答率⁠—⁠错误率”之间的权衡。

• 模型A：拒答率 52%，错误率 26%。
• 模型B：拒答率仅 1%，但错误率高达 75%。

在传统准确率指标下，模型B似乎表现更好，但从实际应用角度看，它带来了大量错误信息，反而危害更大。

这一对比凸显出一个关键矛盾：传统评价体系奖励“会编造”的模型，而惩罚“诚实谨慎”的模型。

三、幻觉的统计学本质

OpenAI 进一步将幻觉问题抽象为二分类统计错误：

• 当模型面对一个问题时，本质上是在判断“是否能给出正确答案”。
• 如果它不能准确区分“知道”与“不知道”，那就必然会在部分情况下给出“看似合理但错误”的回答。

论文指出，幻觉并不是偶发的 bug，而是统计建模不可避免的结果。只要训练目标仍是最大化似然，幻觉就会长期存在。

四、应对思路：奖励“诚实”，惩罚“盲猜”

研究提出，减少幻觉的关键在于改变激励机制。核心思路包括：

1. 重新设计评估标准

• 不仅考察准确率，还要同时度量 错误率与拒答率。
• 将“适当拒答”纳入积极评价，而不是一味惩罚。

1. 优化训练目标

• 在训练中明确奖励模型表达不确定性（如“我不知道”）。
• 对“自信但错误”的回答进行惩罚。

1. 应用层面结合外部知识

• 引入检索增强生成（RAG）、事实校验器等工具，让模型在缺乏答案时可以“查找”而不是“编造”。

通过以上手段，模型在面对不确定问题时，更倾向于谨慎回答，从而显著降低幻觉率。

五、学界与媒体的反响

这篇论文一经发布，引发了学界和媒体的广泛讨论。

• 媒体评论（如 India Today）：指出问题的关键在于“模型被训练成应试者”，它的策略是“永远答题”，而不是“知道何时说不知道”。
• 学界观点：部分研究者认为，这与考试制度中的“减分机制”高度类似⁠—⁠⁠—⁠如果答错要扣分，学生就会更谨慎。同理，语言模型的奖励函数也需要类似调整。
• 社区讨论（如 Reddit）：有人认为这是老生常谈，但 OpenAI 的贡献在于系统性地证明了激励机制的缺陷，并提出明确的改进方向。

六、潜在影响与未来展望

这项研究对未来语言模型的发展有深远影响：

1. 在安全性层面：减少幻觉意味着模型更适合用于医疗、法律、科研等高风险领域。
2. 在训练范式层面：可能推动业界从“单一准确率”转向“多维评价体系”。
3. 在用户体验层面：未来模型或许会更频繁地说“我不确定”，这虽然看似“保守”，但在可靠性上更具价值。
4. 在产业生态层面：减少幻觉或将成为下一代模型竞争的核心指标，而不仅仅是参数规模或推理速度。

结论

OpenAI 的这篇论文提出了一个关键洞见：幻觉不是偶发错误，而是现有训练和评估体系所必然导致的副产物。传统的“准确率至上”评估方式无意间鼓励了盲猜与编造，导致模型在事实性任务中屡屡失真。

未来的突破点，不在于简单增加数据或参数，而在于重新定义“好模型”的标准：一个理想的模型不仅要尽可能正确，还要在不确定时学会沉默。

换言之，减少幻觉的真正解药，是在奖励机制中嵌入“诚实”。