大语言模型原理：Token、上下文、生成与幻觉

信息层级：【有据可查】= 附官方文档或可信来源链接；【社区共识】= 社区用户普遍经验，未经官方确认；【待考察/推测】= 推测或暂未能核实，请谨慎对待。

🎯 读完你能回答：Token 是什么？为什么模型会"一本正经地胡说八道"？上下文窗口、温度、参数量、推理模型这些词到底指什么？

1. 一句话版本

【有据可查】今天主流的大语言模型（LLM）基于 Transformer 架构（Vaswani 等，2017，arXiv:1706.03762），核心工作就是：根据前面所有的内容，预测下一个 Token 的概率分布，再从中选一个，循环往复。

💡 比喻：它像一个读过海量书的"超级接龙选手"。它不是在"查数据库"，而是在"根据语感续写"——这解释了它为什么既能写出漂亮文章，又会编造不存在的论文。【社区共识】

概念	白话解释	你会在哪里遇到	层级
Token	模型处理文字的最小单位，可能是一个字、半个词或一个标点	API 按 Token 计费；"上下文 128K"指 Token 数	有据可查（各家文档均以 Token 计量）
参数量	模型内部可调"旋钮"的数量，如 7B = 70 亿	本地部署选模型（见本地部署值不值：硬件、显存、电费与时间）	有据可查
上下文窗口	模型一次能"看到"的最大 Token 数（输入 + 输出）	长文档、长对话、Agent 读代码库	有据可查
温度 Temperature	采样的随机程度：低 = 保守稳定，高 = 发散有创意	API 参数、酒馆（SillyTavern 酒馆图解：连接、角色卡、世界书与提示词）	有据可查
Embedding 向量	把文字变成一串数字，语义相近的向量也相近	RAG 知识库检索	有据可查
注意力 Attention	让每个 Token 去"看"其它 Token，决定谁和谁相关	Transformer 的核心机制	有据可查（原论文）
幻觉 Hallucination	模型自信地输出错误或编造的内容	所有场景，尤其事实/引用类问题	社区共识

【社区共识】同样一段话，中文、英文、代码被切成的 Token 数不同；不同厂商的分词器（tokenizer）也不同，所以"同样字数"的账单会有差异。很多厂商提供在线 Tokenizer 工具可以自己试。

【有据可查】多家厂商提供"思考"模式：模型在给出最终答案前，先生成一段（可能对你隐藏的）推理过程，再作答。例如 DeepSeek 的 thinking 模式、OpenAI 的 reasoning 模型、Claude 的 extended thinking（见各家 API 文档）。

	普通模式	思考模式
速度	快	慢
费用	低	高（思考过程也算 Token）
擅长	闲聊、改写、简单问答	数学、编程、多步规划
在 Agent 里	简单任务	复杂任务；dsh/Codex 的 effort 档位就是在调它（见DSH 日常工作流、profile 与进阶用法/Codex 本地使用：安装、权限、项目规则与排错）

【社区共识】"思考更久 ≠ 一定更对"，但在难题上通常有帮助。

降低幻觉的方法【社区共识】：

【作者观点】同一个模型，换一个外壳体验可能天差地别。所以模型能力实测：固定条件、题库与评分表才强调"测组合，不测单个模型"。

练习目标：区分模型生成、联网检索与知识库检索。

上文已介绍概念、配置和操作示例。下面侧重第一次实际操作时的顺序、检查点和结果核对；需要查具体参数时回到对应小节。命令逐条输入，看到上一条的结果后再继续。