第7篇:GPT 系列大模型架构演进与提示工程入门

一、Encoder vs Decoder 架构选择

BERT 和 GPT 都源自 Transformer,但取了不同的"半边":

维度 Encoder-only(BERT) Decoder-only(GPT)
结构 双向自注意力 因果(掩码)自注意力
擅长 理解、分类、抽取 生成、续写、对话
看上下文 同时看左右 只看左侧(不能偷看未来)
典型任务 NER、情感分类 问答、写作、代码

为什么生成式偏好 Decoder? 因为生成是自回归的:第 t 个词只能依赖已生成的 1...t-1 个词,因果掩码恰好强制了这一约束。而 Encoder 的双向注意力会"泄露未来",不适合逐词生成。

一句话:要"读懂"用 BERT,要"写出"用 GPT。


二、GPT 家族技术演进时间线

  • GPT-1(2018):1.17 亿参数,验证"生成式预训练 + 微调"可行。

  • GPT-2(2019) :15 亿参数,展现**零样本(zero-shot)**能力------不微调,仅靠提示就能做任务,惊艳业界。

  • GPT-3(2020) :1750 亿参数,提出少样本(few-shot) 提示:在上下文里给几个例子,模型就能照着做,引出规模定律(Scaling Law)。

  • InstructGPT / GPT-3.5(2022) :引入 RLHF(基于人类反馈的强化学习),让模型输出更符合人类意图,ChatGPT 由此引爆大众认知。

  • GPT-4(2023):多模态、更强推理与长上下文,确立"大模型即平台"的生态位。

核心启示 :能力提升 ≈ 数据 × 参数 × 算力,但对齐(alignment) 决定了模型"好用不好用"。


三、规模定律与 RLHF 对齐

3.1 Scaling Law(规模定律)

Kaplan 等人发现:模型的测试损失随参数量、数据量、算力呈幂律下降。这意味着"大力出奇迹"不是玄学,而是可预测的缩放规律------当然也带来巨大的训练成本。

3.2 RLHF(人类反馈强化学习)

预训练让模型"懂语言",但未必"懂人话"。RLHF 三步:

  1. SFT:用人工标注的高质量问答微调(监督);

  2. 奖励模型(RM):让人对多个回答排序,训练一个打分模型;

  3. PPO 强化学习:用 RM 当奖励,优化策略模型,使输出更符合人类偏好。

正是 RLHF 让 GPT 从"续写机器"变成"能对话的助手"。


四、提示工程四类范式

不微调、不改权重,只靠"怎么问",就能显著改变模型表现。四类高频范式:

1. 零样本(Zero-shot)

直接下达指令,不给例子:

复制代码
请把下面这句话翻译成英文:
"今天天气真好,我们去公园散步吧。"

2. 少样本(Few-shot)

给几个示范,模型照猫画虎:

复制代码
情感分类,输出 POS/NEG。
"这部电影太棒了" -> POS
"剧情拖沓无聊" -> NEG
"演员演技在线" -> POS
"__待分类文本__" ->

3. 角色设定(Role-playing)

给模型一个身份,稳定输出风格:

复制代码
你是一名资深 Python 后端工程师,回答要简洁、给出可运行代码。
用户:如何用 Redis 实现分布式锁?

4. 思维链(Chain-of-Thought, CoT)

让模型"一步步思考",把推理过程写出来再给答案,复杂任务提升显著(见下一节)。


五、思维链实战示例

问题:一个农夫有 17 只羊,除了 9 只以外都死了,还剩几只?

  • 直接问(易错):模型可能答"8 只"(误以为 17−9)。

  • CoT 提示:

复制代码
请一步步思考再回答:
复制代码
一个农夫有 17 只羊,除了 9 只以外都死了,还剩几只?
思考: "除了 9 只以外都死了" 意思是那 9 只没死,存活的就是这 9 只。
答案:9 只。

模板:

复制代码
问题:{question}
请先分步推理,最后用"答案:"给出结论。

CoT 在算术、常识推理、多步逻辑上效果最明显;配合少样本示例(Few-shot CoT)更稳。但 CoT 会增加 token 消耗与延迟,简单任务不必强行套用。


六、开源模型调用与边界

不想调 OpenAI API?本地/国产开源模型一样能用。以 Transformers 加载为例:

python 复制代码
from transformers import AutoTokenizer, AutoModelForCausalLM
​
model_id = "THUDM/chatglm3-6b"   # 或 Qwen/Qwen2-7B 等
tok = AutoTokenizer.from_pretrained(model_id, trust_remote_code=True)
model = AutoModelForCausalLM.from_pretrained(
    model_id, torch_dtype="auto", device_map="auto", trust_remote_code=True)
​
prompt = "你是一名翻译,把这句译成中文:The quick brown fox jumps over the lazy dog."
inputs = tok.apply_chat_template([{"role":"user","content":prompt}],
                                 add_generation_prompt=True, return_tensors="pt").to("cuda")
out = model.generate(inputs, max_new_tokens=128, do_sample=False)
print(tok.decode(out[0][inputs.shape[1]:], skip_special_tokens=True))

提示工程的边界

  • 不能替代领域微调:医疗、法律等高风险领域,提示再花哨也不如无监督微调/检索增强(RAG)可靠;

  • 受上下文长度限制:超长文档需切片或外接向量库;

  • 结果不稳定:同一提示多次采样可能不同,关键场景要加约束与校验。


参考资料

  1. Radford, A., et al. (2018). Improving Language Understanding by Generative Pre-Training (GPT-1). OpenAI.

  2. Brown, T., et al. (2020). Language Models are Few-Shot Learners (GPT-3). NeurIPS.

  3. Ouyang, L., et al. (2022). Training Language Models to Follow Instructions (InstructGPT/RLHF). NeurIPS.

  4. Wei, J., et al. (2022). Chain-of-Thought Prompting Elicits Reasoning in LLMs. ICLR.

往期回顾

提示工程是低成本撬动大模型的杠杆。下一篇《中文分词与序列标注技术对比》我们回到中文 NLP 的基础工程。


深学之路:从感知机到智能体》 ------ 从感知机到大模型智能体的完整深度学习连载(基础、工程化、扩散模型 / RAG / Agent 等)。每篇附可运行代码与原创实验,收藏专栏不迷路。

相关推荐
谙弆悕博士9 分钟前
从“预测下一个词”到“预测世界下一状态”:世界模型是不是下一个AGI叙事?
人工智能·gpt·深度学习·神经网络·agi·jepa·genie 4
XLYcmy15 小时前
基于大语言模型的智能漏洞检测与修复系统 作品报告评审分析报告 上
llm·prompt·模糊测试·漏洞修复·漏洞检测·deepseek·消融实验
小七-七牛开发者16 小时前
周 1 上线 | DSH 喜提原神进场动画,Anthropic 启动 IPO 路演;黄仁勋辞任;微软全球大宕机超 24 小时
ai·大模型·agent·token·工作流·claudecode·ai coding
泯泷17 小时前
Multica 真正打动我的,不是更多 Agent,而是一种新的团队协作方式
人工智能·llm·agent
XLYcmy17 小时前
基于大语言模型的智能漏洞检测与修复系统 作品报告评审分析报告 下
机器学习·llm·prompt·api·token·漏洞修复·漏洞检测
M--Y20 小时前
LangGraph 架构基石:持久化与运行控制
python·langchain·大模型·llm·持久化·langgraph
xyphf_和派孔明20 小时前
第十章: LangGraph的人机交互Human-in-the-loop实践
langchain·llm
泓博21 小时前
Android仿写苹果缩放窗口
人工智能·gpt·深度学习
泯泷1 天前
AI Agent 工具设计:给模型装上“手脚”,为什么不能只会调用 API?
人工智能·llm·agent
xyphf_和派孔明1 天前
第六章: LangGraph的工具调用代理-Tool Calling Agent
langchain·llm