AI聊天机器人为何会出现"幻觉"：语言模型错误的统计学根源

AI幻觉是聊天机器人或语言模型的响应，读起来流畅可信，但在事实上是错误的——伪造的法庭案件、虚构的统计数据、以完全的自信呈现的错误日期。随着越来越多的人使用ChatGPT等工具进行研究、写作和法律工作，这个术语已从小众的机器学习术语演变为日常词汇。

OpenAI的研究认为其原因是什么

在2025年9月发表于OpenAI网站和arXiv预印本服务器的题为《语言模型为何出现幻觉》的论文中，研究人员Adam Tauman Kalai、Ofir Nachum、Santosh S. Vempala和Edwin Zhang辩称，幻觉不是神秘的故障，而是模型如何构建和评分的可预测结果。这是根据OpenAI对论文的总结。

在预训练期间，模型从只展示正确语言使用示例的文本中学习——它从不被明确展示一个需要避免的虚假陈述的标注列表。研究人员将此描述为将幻觉转变为二元分类问题：如果模型无法在其训练数据中可靠地区分真实陈述和虚假陈述，错误将通过普通的统计压力产生，这与工程质量如何无关。根据OpenAI的报告。

为什么模型会猜测而不是说"我不知道"

该论文的核心主张涉及预训练后、评估期间发生的情况。根据OpenAI的说法，大多数广泛使用的准确性基准对自信的错误答案和对不确定性的承认给予相同的评分——两者都只是计为"错误"——而自信正确的答案得分最高。研究人员将此比作学生在多项选择考试中的猜测：猜测有被正确的机会，而留下问题空白保证零分。据OpenAI报告。

OpenAI提议的解决方案不是一个单独的幻觉测试，而是改变现有基准的评分方式：对自信的错误进行更严厉的惩罚而非表达不确定性的惩罚相同，这样模型就不再被优化为在知识空白中虚张声势。OpenAI表示。

不同模型的幻觉率变化有多大

OpenAI的研究人员报告了这种权衡的一个具体例证：根据InfoQ报告的论文，对一个名为GPT-5-thinking-mini的模型的评估将其错误率降至26%，相比之下早期的o4-mini模型为75%。研究人员指出，较低错误率的模型通过在超过一半的响应中给出"我不知道"的等价答案而不是猜测来部分实现这一点。InfoQ报告。

现实后果：伪造的法律引文

幻觉的实际成本在美国法院中反复出现。据CalMatters报道，加州第二地区上诉法院在2025年9月对洛杉矶地区律师Amir Mostafavi罚款10,000美元，原因是他提交的上诉摘要中23份案件引文中有21份是由ChatGPT伪造的。法院写道，任何法律文件都不应包含提交律师"未亲自阅读和核实"的引文。CalMatters报道。

据CalMatters报道，Mostafavi在2023年7月提交简报时未检查AI生成的内容，他对法院说，"我希望这个例子能帮助其他人不陷入这个坑。我在为我的行为付出代价"。该媒体还报道，加州司法委员会要求全州法院在2025年12月15日前要么禁止生成式AI，要么采取使用政策，法律技术追踪者已记录了美国法院文件中超过600份有据可查的AI伪造引文实例。

要点

• 幻觉是语言模型的流畅、自信的表述，但在事实上是错误的，不是随机故障。
• OpenAI的2025年9月论文将其部分归因于预训练的限制——模型不能总是区分训练数据中的真假陈述。
• 更大的驱动因素，根据OpenAI的说法，是评估设计：奖励自信猜测并对不确定性的承认与错误答案的惩罚相同的基准。
• 在一个OpenAI报告的例子中，一个较新的模型（GPT-5-thinking-mini）将其错误率从早期模型（o4-mini）的75%降至26%，部分是通过更频繁地说"我不知道"来实现的，但该公司表示潜在的激励问题需要改变整个行业评估基准的评分方式。
• 伪造的AI生成的法律引文已经在美国导致法院制裁，包括2025年加州的10,000美元罚款。