为什么AI语言模型会产生幻觉：虚假答案的研究背景

AI幻觉是由语言模型生成的陈述，听起来流畅自信，但在事实上是错误的——虚假的引用、错误的日期、不存在的人物。在2025年9月发表的研究论文中，OpenAI研究人员用这些术语描述了幻觉，并声称在当前的训练和评估方法下，这个问题无法完全解决。

训练过程如何产生错误

根据OpenAI在arXiv上发表的论文，部分解释在于模型如何进行预训练。在预训练期间，模型仅从流畅的文本中学习，没有标签标记哪些陈述是真实的或虚假的。它使用统计目标（交叉熵损失）进行训练，该目标奖励预测可能的下一个词，而不是验证事实。

研究人员表明，即使在本身不包含错误的数据上，这也会产生错误。对于在训练数据中仅出现一次的事实——研究人员以一个人的生日为例——论文的分析发现，这些事实的幻觉率应该至少与训练集中这类"单例"事实的比例一样高。换句话说，如果一个事实只被提及一次，模型在数学上容易出错。论文称某些错误即使对于计算能力无限制的模型也是不可避免的，因为某些任务是论文所说的计算上不可行的。

为什么评分系统奖励猜测

论文的第二个论点涉及模型在预训练后如何被评估。它将语言模型与面对多选题考试的学生相比较：空白答案得零分，所以当每个错误答案的成本与不回答问题相同时，猜测总是统计上更好的策略。OpenAI的研究人员检查了十个广泛使用的AI基准——包括GPQA、MMLU-Pro和SWE-bench——并发现其中九个使用二进制评分，对"我不知道"之类的答案给予零分，与错误答案的分数相同。

论文辩称，这种评分模式驱使模型继续猜测而不是承认不确定性，因为有信心的猜测平均来说比诚实的对冲得分更高。TechCrunch在报道该论文时，将其描述为评估，通过以与真正有根据的答案相同的方式奖励幸运的正确猜测来制造错误的激励。

推理模型的幻觉增加而不是减少

这一趋势不仅限于较旧的模型。OpenAI自己针对其o3和o4-mini推理模型的系统卡，于2025年4月发布并由TechCrunch报道，发现在公司的内部PersonQA基准上，较新推理系统的幻觉率上升，该基准测试关于人物的事实问题。

OpenAI表示需要更多研究来理解为什么随着推理模型规模扩大，幻觉会增加，指出这些模型总体上会提出更多声明，这会产生更多正确和更多不正确的陈述。TechCrunch引用的AI研究小组Transluce的研究人员Neil Chowdhury提出了一个假设：用于训练o系列推理模型的强化学习类型可能会放大标准训练技术通常会缓解的问题。

OpenAI提议如何解决

2025年9月的论文建议改变基准如何评分，而不是添加单独的幻觉测试。其建议的修复是将明确的置信度阈值构建到评分说明中——例如，告诉模型仅在超过75%确信的情况下回答问题，错误的成本比弃权更高。从理论上讲，当模型不确定时，这使得弃权成为数学上更好的选择，而不是目前评分系统中发生的更差的选择。

论文明确指出这种方法会减少而不是消除幻觉。因为某些错误来自于统计上罕见的事实或来自研究人员描述为计算上不可行的任务，作者得出结论，使用当前方法无法实现零幻觉的语言模型。