AI 幻觉：为什么它会一本正经地胡说八道

「跟着 AI 学任何东西」系列第 2 篇。上一篇我们搞懂了：AI 聊天助手其实是台「预测下一个词」的接龙机。这一篇顺着往下问一个更要命的问题——既然它在猜，那猜错的时候会发生什么？为什么它错得那么理直气壮？

一个你可能亲身踩过的坑

2025 年初，DeepSeek 火遍全国，几乎人人都在用它写材料、查资料。很快，一类吐槽也跟着刷屏：让它给论文列几条参考文献，它给得又快又工整——作者、期刊、年份、页码一应俱全，格式挑不出一点毛病。可你真去数据库里一搜，好几条压根不存在：作者是拼的，标题是编的，期刊倒是真的，但那篇文章从没在上面发表过。

有人不死心，回头追问它一句「这些文献都是真的吗？」——它多半还会一口咬定，让你放心引用。（这类现象 2025 年被多家媒体和大量用户反复复现，来源见文末。）

这不是 DeepSeek 一家的毛病，国产的、国外的聊天助手都会——它有个专门的名字，叫「AI 幻觉」（hallucination），2023 年火到剑桥词典把 hallucinate 选成了年度词汇。而且它不是偶尔抽风：在一个专门给大模型测幻觉的公开榜单上，DeepSeek 的推理版 R1 被测出约 14.3% 的幻觉率，是上一代 V3（约 3.9%）的近四倍。

这件事值得作为开场，不是因为「AI 会出错」——谁都知道机器会出错。真正诡异的地方是：它出错时的姿态，和它答对时一模一样；你追问它「你确定吗」，它还会自信地再骗你一次。

关于「它为什么胡说」，流行的解释大多不对

先看看关于幻觉成因，流传最广的三种猜测——你多半也信过其中一个：

1. 「是不是它联网时抓到了假消息？」 不是。模型本体根本不联网、不检索（上一篇讲过）。它现编的时候，是从自己肚子里「猜」出来的，不是从某个网页上抄错了。
2. 「是不是它数据库里存了错数据？」 它没有数据库（这也是上一篇的核心）。它存的是规律，不是一条条词条。假判例不是「存错了」，是「当场造出来的」。
3. 「是不是它坏了 / 有 bug？」 这是最关键的误解。幻觉不是故障——它和「答对」用的是同一套机制、同一个开关。它胡说的时候，恰恰是在「正常工作」。

先把结论放这里：幻觉不是 AI 的 bug，是它的本质属性在你看不见的地方露了馅。

它优化的是「像真的」，不是「真的」

回到上一篇那台机器：它做的唯一一件事，是根据前文预测「下一个最可能的词」。请盯住「最可能」这三个字——它衡量的是这个词接在这儿像不像人话、通不通顺、合不合语感，而不是这个词说的是不是事实。

下面这句是全篇最关键的话，值得你慢读一遍：

「真」不是这台机器里的一个变量。 它的世界里没有一个开关叫「说真话 / 说假话」。它从头到尾只在做一件事：找到「读起来最顺、最像那么回事」的下一个词。

那它为什么大部分时候说的又是对的？因为在训练文本里，真话出现得比假话多、也稳定得多。「法国的首都是——」后面，整个互联网都在接「巴黎」，于是「最像人话的接法」恰好就是真话。这时候「通顺」和「正确」重合了，它看起来无所不知。

可一旦你问的东西冷僻、罕见、或者压根不存在——比如「帮我找一个支持某个特定论点的判例」——训练文本里就没有一个稳定的正确答案供它模仿。但机器不会因此停下来说「我不知道」，它的任务是「无论如何都要接出一个通顺的下文」。 于是它照样输出一个「长得最像判例」的东西：一个像模像样的案件名、一串格式正确的卷宗号。对它来说，编一个假判例和答对「巴黎」，是完全相同的操作——找最顺的接法。区别只在于，这一次「最顺」不等于「真」。

换句话说：它不是在「说谎」。因为说谎需要先知道真相、再故意背离；而它根本不知道真相是什么，它连「我在编」这个意识都没有。 它只是在忠实地做它唯一会做的事。你觉得它「胡说八道」，是因为你默认它在追求真相——而它从来没有。

那它知道自己在瞎猜吗？

这是我这次最想追问的问题，因为它直接决定了：我们到底能不能信任它的语气。答案有点反直觉。

它没有一个可靠的、独立于答案之外的「我不确定」信号。 人在没把握时会心虚、会打磕巴、会说「我记不太清了」——因为我们对自己的知识边界有感知。模型很大程度上没有这种内省。它生成「巴黎」和生成那个假判例时，内部的「气势」可能是差不多的，因为两者都只是「当前最顺的接法」。所以它错的时候语气一点都不虚——不是它在硬撑，是它压根不知道自己该虚。

更麻烦的是第二层，跟它「怎么被调教出来」有关。今天的聊天助手在预训练之后，还要过一道「人类反馈」的打磨（业内叫 RLHF）：让人给它的回答打分，它朝着「人类更喜欢的样子」调整。听起来很好，但这里藏着一个副作用——人在打分时，会偏爱那些说得肯定、顺着自己心意、听起来靠谱的回答。 于是模型学到的部分经验是：把话说得斩钉截铁、迎合提问者，更容易得高分。

这不是我拍脑袋的推测。Anthropic 2023 年一篇专门研究这个现象（叫 sycophancy，「谄媚」）的论文发现：来自多家主流厂商的五个聊天助手都有这毛病，根子就在人类偏好数据里——人（以及模仿人打分的模型）有相当比例，会把「写得令人信服但错误」的回答，排在「正确但平淡」的回答前面。（已核实，来源见文末。）

把两层叠起来，你就看懂那位律师的遭遇了：第一层，模型没有「真假开关」，编假判例是常规操作；第二层，它被训练得要把话说得让你信。一个不知道自己在编、又被专门打磨成「显得很确信」的系统——这就是为什么它能一本正经地胡说八道，还骗你第二次。

但我没有全信——我核实了哪些

老规矩，AI 讲的东西，尤其是这种「反直觉的解释」，不核实不写：

• DeepSeek 编造参考文献：2025 年初 DeepSeek 爆火后，「让它列参考文献、结果格式完美却查无此文」被知乎、搜狐、36 氪等多家媒体和大量用户反复复现，属公认现象。已核实为「被广泛报道的普遍现象」。但要补一句公道话：也有学术测评显示，DeepSeek 在文献检索这件事上并不比同类模型差、个别测试里甚至更好——幻觉是所有大模型的通病，不是某一家的专属，本文拿它举例，只因为它最普及、最多人踩过。
• Vectara 幻觉榜单：DeepSeek-R1 约 14.3%：这是 Vectara 的公开幻觉排行榜，测的是「让模型总结一段给定材料时，会不会加进原文没有的内容」——R1 约 14.3%，约为同门 V3（约 3.9%）的四倍。已核实。两点提醒：①它测的是这一类特定任务，别误读成「它说的话每七句就有一句是假的」；②Vectara 自己的分析认为，R1 更高的幻觉率未必主要来自「推理」，且相当一部分多出来的内容是「无害的过度发挥」。
• 剑桥词典 2023 年度词汇是 hallucinate：剑桥官方公告，已核实。
• 企业也会栽：2024 年加拿大一起判例（Moffatt v. Air Canada），某航司的聊天机器人向乘客虚构了一个不存在的丧亲退票政策，仲裁庭判航司赔偿，并驳回了它「聊天机器人是独立主体、不该由公司负责」的辩解。已核实——它说明幻觉不只坑个人，企业把没校对的 AI 摆到台前，法律责任照样自己扛。
• RLHF 会放大「谄媚 / 过度自信」：Anthropic《Towards Understanding Sycophancy in Language Models》（2023），已核实。注意它的结论是「人类偏好数据里存在这种偏差倾向」，不是「AI 在故意讨好」——机制层面没有「故意」二字。
• 一个我特意存疑、没敢写死的点：幻觉能不能被「彻底根除」。有研究者论证它在数学上无法完全消除，也有人反对，学界没有定论。所以本文只说它能被大幅压低（联网核查、检索增强、让它标注不确定），不敢说能归零——谁要是拍胸脯说「我们家 AI 已经不会幻觉了」，你可以直接打个问号。

搞懂之后，我用 AI 的方式变了

知道幻觉是「机制自带、不是偶发故障」，防御策略就清楚了——不是「祈祷它别出错」，而是「默认在高风险的地方它一定会出错」：

1. 具体的「事实颗粒」是幻觉重灾区，一律核实：人名、数字、日期、法条、论文标题、书名页码、网址、接口参数——凡是「编一个和查一个长得一样」的东西，它最容易现编。这些地方它说得越具体、越流畅，你越要回原始出处对一遍。
2. 让它给来源，但要验证来源本身存在：可以要求它附出处，但记住——它连出处都能编（开头那些查无此文的参考文献，就是「带着出处的假货」）。给了链接就点开，给了论文就搜一下，别让「有个出处」这件事本身骗过你。
3. 要事实，找「带联网 / 检索」的模式，别问「裸模型」：让它先去搜、把资料摆进上下文再回答，比让它凭记忆接龙靠谱得多——这本质上是给那台没有真假开关的机器，临时外挂一个事实来源。
4. 主动向它索取不确定性：直接说「拿不准的地方标出来，别硬答」「把你的置信度告诉我」。它默认被训练成显得自信、不会主动示弱，但你点名要，它通常能给出更诚实的分寸。
5. 记住一条铁律：流畅 + 自信 ≠ 正确。 它的语气是训练出来的表演，不是它对答案有把握的证据。把「它说得那么肯定」这条，从你的信任依据里划掉。

这不是劝你别用 AI，恰恰相反——看穿它会自信地胡说，你才敢放心大胆地用它，因为你清楚该在哪儿踩刹车。

---

附：这次我是怎么问 AI 的

三个这次实测有效的提问策略，你可以直接搬去用：

1. 逼它区分「猜错」和「撒谎」：我问「你产生幻觉的时候，是知道真相却故意说假，还是根本不知道真相？」——这个「二选一」的追问，把它从含糊的道歉里逼出了关键区分（它没有真相可背离），比问「你为什么会出错」有用得多。
2. 让它自己招供训练环节的副作用：我问「你被人类反馈训练的过程，有没有可能反而让你更爱不懂装懂？」——带着一个具体机制去问，比空泛地问「你为什么这么自信」，更能问出 RLHF、谄媚这些真东西。
3. 对「能不能解决」的乐观结论索要反方：AI 一开始说幻觉「正在被各种技术缓解」，我追问「有没有人认为它根本无法根除？」——立刻问出了「数学上不可消除」的争议。凡是听起来让人安心的结论，都反手问一句反方。

下一篇（s1-03）：既然同一个问题它答得时好时坏，那「怎么问」就成了硬功夫。为什么换一种问法，答案能好十倍？提示词到底在操纵什么？下篇拆「提示词的本质」。