大语言模型（LLM）是什么：用大白话讲清 Token、训练与幻觉

更新日期：2026-09-30 ｜ 适用人群：想弄懂 AI「为什么这样回答」的使用者

「它怎么知道下一句该写什么？」「为什么偶尔一本正经地胡说？」——大语言模型（Large Language Model，LLM）的原理有很多数学细节，但普通人理解它，只需要想通四件事：它处理的单位（Token）、学会的方式（训练）、回答的方式（推理）、出错的原因（幻觉）。

一、一句话原理：预测下一个 Token

大模型做的事，本质上是「根据前文，猜下一个最小文字单位最可能是什么」——像超级加强版的输入法联想。它一次只猜一个 Token，猜完接到后面，再猜下一个，循环往复直到写完。

这件事听起来简单，但把「猜得准」做到极致，就逼出了写作、翻译、编程、推理等能力。这是理解 LLM 的第一块基石，也预告了它的天花板。

二、Token 与上下文窗口：它的「眼睛」和「工作台」

概念	大白话解释
Token	模型处理文字的最小单位，可能是一个字、一个词，或半个词
上下文窗口	一次对话里模型能「看到」的 Token 上限，像工作台的大小
超出窗口	超出的内容被挤出去，模型「忘记」前面说过的话

由此得到三个实用结论：长文档要分段喂；重要背景要在对话里重复强调；「记忆」是产品在模型外面做的功能，不是模型天生就有。常见词汇可对照术语速查。

尺寸感也有必要：主流产品的上下文窗口从早期几千 Token，发展到今天普遍能容纳数万甚至更多——它决定了「一次最多能喂多少资料」，用之前值得确认一次。

三、训练三步：从「读书」到「上岗」

阶段	类比	在学什么
预训练	读万卷书	从海量文本里学语言的统计规律
指令微调	老师带教	学会「接到指令就干活」的对话方式
对齐（RLHF 等）	试用期考核	按人类偏好调整：更有用、更安全

预训练决定了它的「知识面」，后两步决定它的「工作态度」。训练结束后模型参数就固定了——这就是「知识截止日期」的由来：训练之后发生的事，它不知道。

四、推理：为什么同样的问题答案不同

你每发一次消息，模型都会当场生成回答（这个过程叫推理）。生成时它按概率采样，并受「温度」等参数影响：温度高，答案更多样；温度低，答案更保守稳定。

所以同一个问题问两次、答案不一样，是正常机制，不是出错。要结果稳定，就把要求写死（详见提示词基础）。

五、幻觉：它为什么会自信地胡说

幻觉（Hallucination）指模型生成听起来合理、实际上错误或不存在的内容。成因分三层：

层级	原因
目标层面	它优化的是「像不像」的统计合理性，不是「对不对」
机制层面	没有内置事实核查，除非你给它资料或工具
数据层面	训练语料本身有错漏、过时与空白

所以幻觉不是能一次修好的 bug，而是机制性特征。对策不是祈祷它别错，而是：给它资料（粘贴原文/检索增强）、让它标注出处、关键结论人工核验——这正是「可检查」原则的由来。

六、能力边界：擅长什么、不擅长什么

擅长	不擅长
改写、翻译、总结、风格转换	精确计算、逐字统计
起草初稿、头脑风暴、解释概念	最新事实、内部数据
按格式批量转换文本	长链条一致性推理
按你的标准做初筛、归类	需要工具的真值核对

一句话解释这条边界：它处理的单位是 Token 的概率，而不是数字与逻辑符号——所以要算数、要最新事实，就给它工具或检索「外挂」，而不是指望它硬算。

七、心智模型：一个「读过互联网的实习生」

记住这句话就够了：LLM 是知识面极广、表达流畅、态度谦逊，但会自信说错、且不承担责任的实习生。你的用法因此固定为三件事：给足背景、给清标准、验收结果。

它的技术家底（多层神经网络）详见机器学习 vs 深度学习。

📖 这只是基础。系统学习 AI 应用？查看课程体系 →

返回基础入门栏目 ｜ 相关阅读：提示词基础：和 AI 有效沟通的四个原则