Chat Template 是一块**贯穿全书的地基**：它不只关系到 KV Cache，还决定了多轮工具调用、思维链保留、状态栏注入等诸多机制能否正确工作，因此值得单独讲清楚。注意力可视化实验中的 token 序列（如 `<|im_start|>`、`<|im_end|>` 等特殊标记）看起来与前面 API 的 JSON 格式很不一样。这是因为 API 层面的结构化消息需要被转换为模型能理解的线性 token 流------负责这个转换的就是 **Chat Template**（聊天模板）。
!图2-8 Chat Template 的 Token 结构(images/fig2-8.svg)
可以把 Chat Template 想象成**信封格式**：API 消息是信的内容，Chat Template 规定了如何在信封上写明寄件人、收件人------用特殊标记（如 `<|im_start|>system`、`<|im_end|>`）划分每条消息的边界和角色。不同的模型家族（Qwen、Llama、Gemma）使用不同的"信封格式"，就像不同国家有不同的邮政编码规则。API 服务端（vLLM、Ollama 等）会根据模型的 Chat Template 自动完成这个转换，开发者通常不需要手动处理。
以 Qwen 系列模型为例，同一段对话在 API 和模型内部看到的是完全不同的形式：
!图2-9 API 消息到模型 Token 流的转换(images/fig2-9.svg)
左侧是结构化的 JSON 消息，右侧是模型实际处理的线性 token 流。`<|im_start|>` 和 `<|im_end|>` 是特殊 token，告诉模型每条消息的角色和边界。
对于 Agent 开发者来说，**你不需要手动编写或修改 Chat Template**------API 服务端会自动处理。但理解它的存在对 Agent 开发有两个实用价值：
**第一，解释了为什么必须使用标准 API 格式**。如果开发者绕过 API、自行拼接消息（比如把工具结果作为普通 user 消息而非 tool 类型传递），Chat Template 会误将工具响应识别为新的用户查询，导致模型的思维链保留机制被破坏。以 Qwen3 的 Chat Template 为例：模型在多轮工具调用中，会把之前的内部思考过程（`<think>` 标签内的内容）保留下来，像草稿纸上的推导步骤，确保思路的连贯性。但当 Chat Template 检测到新的用户查询时，会默认"用户换了个话题"，于是清理之前的思考过程重新开始。问题在于，如果工具结果被错误地标记为用户消息，就会误触发这种清理------相当于模型正算到一半，草稿纸被人收走了，只能从头再来，严重影响多步思考的连贯性。需要注意的是，不同模型家族对历史思维链的处理策略差异很大------DeepSeek 会剥离全部历史思考内容；Claude 则要求客户端在工具调用循环中把 thinking block（带签名校验）原样回传给 API，而在新的用户轮次之后，服务端会忽略历史 thinking------使用前应查阅对应模型的模板文档。
**第二，解释了 KV Cache 为什么对前缀如此敏感**。Chat Template 将 system 消息和工具定义转换为固定的 token 序列放在最前面。这些 token 的键值对（Key-Value pairs）被缓存后可以跨请求复用。但如果前缀中任何一个 token 发生变化------哪怕只是系统提示词里多了一个空格------整个缓存就会失效。