一、Transformer 架构（基石）
这部分主要解释了"大模型为什么长这样"。
-
大语言模型和传统的机器学习有哪些差异
- 传统机器学习：通常用于特定任务（如分类、回归），依赖人工提取特征，模型较小，数据量需求相对少。
- 大语言模型：基于深度学习，具有"涌现"能力（能完成未见过的任务），参数量巨大（百亿/千亿级），依靠海量数据自动学习特征，通用性强。
-
为什么会用到 Transformer
- 为了解决传统模型（特别是 RNN）在处理长文本时无法并行计算 （太慢）和长距离遗忘（记不住前面的话）的问题。Transformer 带来了极致的并行效率和强大的上下文理解力。
-
什么是 Transformer
- 一种基于**自注意力机制（Self-Attention）**的神经网络架构。它抛弃了循环结构，完全通过注意力机制来捕捉输入序列中词与词之间的关系，是目前所有主流大模型（GPT, BERT等）的底座。
-
RNN 的原理与局限性
- 原理：像人读书一样，按顺序一个字一个字读，把前一个字的记忆传给下一个字。
- 局限性 ：
- 串行计算：必须等上一个字处理完才能处理下一个，无法利用 GPU 并行加速，训练极慢。
- 长距离依赖丢失：读到句子末尾时，开头的信息可能已经"忘"得差不多了（梯度消失）。
-
Transformer 架构分析
- 主要由 编码器（Encoder） 和**解码器（Decoder）**组成。核心组件包括多头注意力机制（Multi-Head Attention）、位置编码（Positional Encoding，因为不像 RNN 有顺序，必须告诉模型词的先后顺序）和前馈神经网络。
二、大模型运行基本机制（内核）
这部分解释了"模型是怎么思考和说话的"。
-
大模型如何理解和表示单词
- 大模型处理单元 --- Token：模型不是按"字"或"词"处理的，而是按 Token（词元）。一个 Token 可以是一个字、一个词，甚至是一个偏旁部首。英文中通常对应 subword（子词）。
- 单元的近远亲疏关系：通过 **嵌入层（Embedding）**将 Token 转化为高维向量。在这个向量空间里，意思相近的词（如"猫"和"狗"）距离更近，意思无关的词距离更远。
- 大模型词义的载体和表现特征：词义不再是字典里的定义，而是由成千上万个数字组成的向量。这个向量包含了语法、语义、语境等丰富信息。
-
大模型如何理解并预测输入的内容
- 注意力机制：这是模型的"聚光灯"。当模型看到"苹果"时，它会去关注上下文。如果上下文有"好吃"，它就聚焦于"水果"的含义；如果有"手机"，它就聚焦于"科技产品"的含义。
- 自注意力机制 (Self-Attention)：允许句子中的每个词都与其他所有词进行交互，计算它们之间的关联权重。这让模型能理解复杂的句法结构和指代关系（比如知道"他"指的是谁）。
- 基于语义理解的内容生成：大模型本质上是一个"文字接龙"机器（Next Token Prediction）。它根据上文的所有信息，计算词表中每个词出现的概率，然后采样出下一个最可能的 Token，如此循环直到生成结束。
三、预训练、SFT、RLHF（进化之路）
这部分解释了"模型是如何从'懂文字'变成'懂人类'的"。
-
预训练 (Pre-training)
- 阶段目标：通识教育。
- 做法：给模型喂海量的互联网文本（书、代码、网页）。
- 结果：模型学会了语言的规律、世界知识、逻辑推理能力，变成了一个"博学但可能不听话"的基座模型。
-
SFT (Supervised Fine-Tuning，监督微调)
- 阶段目标：职业技能培训。
- 做法：使用高质量的问答对（Instruction-Response）进行微调。例如："请帮我写首诗" -> "好的，这是一首..."。
- 结果：模型学会了如何遵循指令，变成了一个能对话的助手，不再只是单纯地续写文字。
-
RLHF (Reinforcement Learning from Human Feedback，人类反馈强化学习)
- 阶段目标：价值观对齐与偏好优化。
- 做法：让人类对模型生成的多个回答进行打分或排序（哪个更好、更安全、更有用），训练一个奖励模型，然后用这个奖励模型去指导大模型优化。
- 结果：模型的回答更符合人类的价值观（有用、诚实、无害），减少了胡言乱语或有害内容的输出。