大模型为什么会「幻觉」？从概率采样角度彻底解释！

文章主旨：

作者认为，大模型幻觉根源于逐 token 概率生成机制、以训练分布概率为优化目标以及缺乏“知道自己不知道”的元认知，因此不能被简单消灭，而应作为系统设计约束，通过 RAG、人工审核和高风险场景限制等方式缓解。

关键要点：

• 大模型不是搜索引擎或知识库，其核心是给定当前 token 序列预测下一个 token；所谓“知识”是训练文本中词语共现统计关系被编码进参数。
• 采样策略影响输出：贪心解码、温度采样、Top-k 和 Top-p 各有机制与典型问题；但即使 temperature=0，模型仍可能幻觉，因为最高概率输出本身可能错误。
• 核心矛盾是“统计概率高”不等于“命题为真”：训练语料含错误、过时和偏见内容，流畅性与准确性弱相关，伪造论文引用因此难以识别。
• 模型缺乏“知道自己不知道”的元认知，确定与猜测在形式上都是 token 概率采样；“我不知道”也只是另一个 token 序列，RLHF 只能让模型模仿不确定性表达，并非真正置信度感知。
• RAG、更好训练数据与对齐、置信度分数只能缓解幻觉，不能消灭幻觉；务实做法是把幻觉当系统设计约束，在高风险场景加入外部验证、人工审核并限制自由生成。

内容结构：

1. 引子与总述

以模型伪造论文标题、作者、期刊和 DOI 的场景引出“它为什么这么自信”，并总述幻觉的三条根因链路：采样机制、训练目标、模型的“无知之知”。

2. 大模型的工作机制

说明模型逐 token 计算概率分布并采样，循环生成直到结束符；过程中没有“查询知识库”步骤，学到的不是经过验证的事实，而是文本分布与共现关系。

3. 概率采样：生成方式与幻觉来源

比较贪心解码、温度采样、Top-k 采样和 Top-p 采样的机制及典型问题；用“沙丘流动性”比喻温度，并指出即使 temperature=0 也可能出现幻觉，因为最高概率输出本身可能错误。

4. 高概率不等于真实：核心矛盾

指出统计概率高与命题为真不同；训练语料包含错误、过时和偏见内容。以“感冒喝姜汤”的民间偏方为例说明高频搭配不等于事实；并强调流畅性与准确性弱相关，伪造论文引用因此难以识别。模型优化目标是训练分布下高概率的 token 序列，而非“输出真实内容”。

5. 模型不知道自己不知道

说明标准自回归语言模型缺乏人类式元认知，无法在机制上区分“确定”与“合理猜测”；“我不知道”也只是另一个 token 序列。RLHF 可让模型模仿表达不确定性的文本模式，但不等于真正感知置信度。

6. 幻觉可减轻但不可消灭

评估 RAG、更好训练数据与对齐、置信度分数等方案的边界：它们能降低幻觉概率，但不能改变底层采样机制，无法保证零幻觉。作者主张把幻觉视为系统设计约束，在高风险场景加入外部验证和人工审核，并把模型定位为草稿生成器而非可信事实来源。

7. 结论与延伸

总结大模型是强大的“语言预测机器”而非“知识存储系统”；提出若未来模型具备感知自身不确定性的能力，相关问题和模型定义可能改变，并预告下一篇讨论 RAG 的边界。

文章总结：

全文偏技术辨析与务实警示，建议将大模型视为需要审核的草稿生成器，而非可直接信赖的事实来源。