大模型的工作原理：AI 是在思考，还是在预测下一个词？

「跟着 AI 学任何东西」系列第 1 篇。这个系列做一件事：把那些一直想搞懂、但总被公式和术语劝退的知识，用 AI 当老师学明白，过程和结论全部公开。第一篇，我们让 AI 解释它自己。

一切从一个翻车现场开始

你大概也见过这个场面：问 AI 聊天助手一个刁钻的问题——写代码、改合同、解释量子力学——它答得头头是道；转头问它一个小学生的问题，「strawberry 里有几个 r」，它信誓旦旦地告诉你：两个。

这件事在 2024 年被全网复现过，各家的聊天助手都被拉出来考过，一度成为群嘲 AI 的梗。但笑完之后有个问题值得认真想：一个能写代码的东西，怎么会数不清六个字母里的 r？

这个匪夷所思的翻车，恰恰是理解大模型的最佳入口。要解释它，就得回答那个更根本的问题：这些 AI 到底是怎么工作的？

大多数人想象中的 AI，是错的

关于它的工作方式，流传最广的想象有三种，你多半也持有其中一种：

1. 检索式想象：「它背后有个巨大的答案库，我问什么，它查什么。」——相当于一个会说人话的超级搜索引擎。
2. 理解式想象：「它像人一样读懂了我的话，想明白了，再组织语言回答我。」
3. 拟人式想象：「它这么聪明，肯定多少有点意识了。」

先把结论放在这里：**第一种错得最实在，第二种错得最微妙，第三种目前没有任何证据。**下面一个一个拆。

它真正在做的事：一场超大规模的文字接龙

大模型的核心机制，用一句话就能说完，而且这句话没有任何夸张和简化：

它在预测下一个词。

你输入「白日依山尽，黄河入海」，它计算出下一个词最可能是「流」。就这一件事。它的全部能力，都建立在把这一件事做到极致之上。

具体过程是这样的：

• 你的整段输入（加上它已经生成的部分）被切成一个个小块，术语叫 token——可以粗糙地理解为「字词碎片」，一个 token 可能是一个汉字、半个英文单词、或者一个标点。
• 模型拿着这串 token，输出一张概率表：下一个 token 是「的」的概率 12%，是「流」的概率 9%，是其他几万个候选的概率各多少。
• 从概率表里选一个（不一定选概率最高的，稍后解释），拼到序列末尾。
• 然后拿着新序列，重复上面的过程——一个 token 一个 token 地，把回答「接」出来。

这里有一件事重要到值得放大：

大模型没有答案库。它不检索、不查询、不复制粘贴。你得到的每一句回答，都是它现场一个词一个词「猜」出来的。

那它凭什么猜得这么准？凭训练。训练一个大模型，本质是让它读互联网量级的文本（万亿级 token），在海量的「接龙练习」里不断修正自己内部的几百上千亿个参数。这些参数最终存下的，不是原文，而是文字世界的统计规律——什么词跟着什么词、什么说法出现在什么语境、什么问题通常怎么被回答。

顺带解答一个日常疑惑：为什么同一个问题问两次，答案不一样？因为在「从概率表里选词」这一步，模型是抽签而不是永远选最大的——这个随机度就是设置里的「温度」。温度调到 0，它才会每次都走概率最高的那条路。它不是有情绪，是在掷骰子。

🎲 试一试：下一个字，是抽签抽出来的

白日依山尽，黄河入海？

「流」

65.3%

「深」

13.7%

「奔」

9.5%

「归」

6.3%

「天」

5.3%

温度 1.0

同一张概率表，每次抽的结果可能不同——这就是「同一个问题两次答案不一样」的全部秘密。把温度拖低，它越来越保守；拖高，越来越放飞。（概率为示意，非真实模型输出）

为什么「猜词」能猜出智能？

到这里你可能会有一个强烈的反驳，这个反驳非常好：接龙而已，怎么可能接出代码、翻译、推理这种东西？

这是整个领域最深的问题。目前最有解释力的说法是：

要在海量文本上把「猜下一个词」猜准，死记硬背是行不通的——文本组合是天文数字，参数根本背不下。于是在训练压力下，模型被迫走了一条捷径：学会规律本身。要接对语法，就得「学会」语法；要接对「法国的首都是__」，就得存下这条事实；要接对一道数学题的下一步，就得摸到推理的模式。

换句话说：**为了把接龙玩到极致，它不得不学会一部分世界的运作方式。**智能不是设计目标，是副产品。

那这算不算「理解」？这里我要做一个诚实声明——这个问题，人类还没有共识：

• 一派认为它只是「随机鹦鹉」（这是华盛顿大学语言学家 Emily Bender 等人 2021 年论文里的著名说法）：拼接统计规律，无所谓理解。证据：换个题型、改个说法，它就可能崩。
• 另一派（包括 Hinton、Ilya Sutskever 这些造出它的人）认为：预测做到极致必然需要某种程度的理解，模型内部确实形成了对世界的压缩表征。证据：它能解决训练数据里不存在的新问题。
• 中间还有一个提醒：2023 年斯坦福有研究指出，一些被热炒的「涌现能力」（模型规模一大、能力突然出现）可能部分是度量方式造成的错觉。

所以「它是在思考还是在预测」这个标题问题，最诚实的回答是：它确定在预测；这种预测算不算思考，取决于你如何定义思考——而这个定义，AI 正在逼着全人类重新做一遍。

回到开头：strawberry 之谜

现在可以解开篇的案子了。

还记得吗——模型看到的不是字母，是 token。「strawberry」在它眼里可能是「str + aw + berry」这样两三个块，每个块是一个整体编号，字母级的细节根本不在它的视野里。让它数 r，就像隔着毛玻璃让你数芝麻。

所以这个翻车不是「它笨」，而是它感知文字的方式和人类根本不同——这恰恰是「它不是一个装在服务器里的人」最好的证据。（补一句：新一代模型大多已经修复了这个具体问题，靠的主要是针对性训练和调用工具，而不是学会了「看字母」。）

哪些说法我核实过

按本系列的规矩，AI 教我的东西，不核实不写：

• 「模型本体没有答案库、不联网」——需要限定。这说的是模型本身。2023 年之后，各家产品纷纷给模型外挂了搜索工具，你在聊天产品里看到「正在搜索」，那是产品在把搜到的资料塞进上下文，再让模型照着接龙——外挂是真的，机制没变。
• strawberry 翻车：2024 年被媒体和用户大规模复现，主流解释即 tokenization，已核实。
• 「随机鹦鹉」：出自 Bender 等人 2021 年论文《On the Dangers of Stochastic Parrots》，已核实。
• 「涌现能力可能是度量错觉」：斯坦福 2023 年论文《Are Emergent Abilities of Large Language Models a Mirage?》，已核实，注意它质疑的是「突然性」而非能力本身。

搞懂原理之后，用法立刻不一样了

这不是屠龙术。知道它「在猜词」，至少四个用法当场升级：

1. 它是概率的：重要问题换个问法多问两次，对比答案。一次回答只是概率表上的一次抽签。
2. 它没有跨对话的记忆库：别问「你昨天跟我说过什么」，把背景资料自己带进对话。上下文就是它的全部现场记忆。
3. 它按 token 感知文字：数数、精确字数、字母游戏是它的天然盲区，这类活让它写代码来算，别让它口算。
4. 它的知识有截止日期：训练数据停在某个时间点，时效性问题要么让它联网搜，要么自己核实。

---

附：这次我是怎么问 AI 的

三个这次实测有效的提问策略，你可以直接搬去用：

1. 给它一个错误立场让它反驳：不问「你是怎么工作的」（会得到教科书式套话），而是问「假设我坚持认为你就是个高级搜索引擎，你怎么证明我错了？」——AI 反驳错误观点时，讲得比正面阐述清楚得多。
2. 每懂一层就复述让它挑错：「我理解你在玩超大型文字接龙，这个说法哪里不准确？」——它指出的偏差，就是你理解的边界。
3. 对太顺耳的结论索要反方：「涌现能力有人反对吗？」——就是这一问，问出了斯坦福那篇「度量错觉」论文。对 AI 和对人一样：只给一面之词的老师，要警惕。

下一篇（s1-02）：接龙机制想通了，一个更麻烦的问题会自动浮现——既然它是在猜，那它猜错了怎么办？为什么它错得那么自信？这就是「AI 幻觉」，我们下篇拆。