

🎯 博主简介
你好,我是安逸,CSDN「人工智能技术领域新星创作者」,码龄 6 年。博客总访问量 31万+,博客粉丝 1.2万+。
我长期关注人工智能技术与工程实践,主要研究和分享 AI Agent、RAG 系统、MCP 协议、OpenClaw、AI 编程工具以及大模型工程化落地。同时也持续输出 Java / Spring、Transformer、机器学习、深度学习与计算机视觉等方向的学习笔记和项目经验。
📚 推荐系列合集
目前已经整理了 生产级 RAG 系统实战、Agent 记忆系统、MCP 协议深度解析、OpenClaw 系列、Hermes Agent + Obsidian、图解机器学习、Claude Code 系列和 Agent 经典面试题等系列合集,涵盖 AI 应用开发、智能体实践、知识管理、机器学习与 AI 编程工具。
📱GZH:安逸Ai (科技前沿新闻,Github热门项目,最新免费资料...)
网页观看完整系列合集:🌐 Anyi AI 学习资源站
这道题考的是你对大模型调优方法论的掌握程度。很多同学容易把"调 Prompt"和"微调"混为一谈,觉得都是在让模型变得更好。但实际上,它们在技术底层、适用场景、资源消耗上都有本质区别。搞不清楚这个,面试官随便追问两句就会露馅。
下面我把这道题拆成几个核心板块来讲,保证你听完能把这三个层次彻底搞明白。
板块1:先搞清楚三个层次------你到底在调什么?
很多人一说到"优化模型",脑子里就一个词:调参。但调参和调参不一样,你调的东西不同,效果天差地别。
硬提示(Hard Prompt),就是咱们平时说的 Prompt Engineering------你在文本层面做文章,改写、重写、设计更好的指令。比如你跟 ChatGPT 说"你是一个资深产品经理,要用简洁的语言回答",这就是在硬提示。
软提示(Soft Prompt / Prompt Tuning),你不改文本了,而是去调整模型输入层对应的那个向量。模型会把你的文本转成 embedding 向量,软提示的做法是让模型学习一串"虚拟的 token",这串 token 在文本上看不出是什么,但能引导模型往特定方向走。
完整微调(Full Fine-tuning),则是把模型的全部或大部分参数都重新训练。模型学到的不仅是"遇到这类问题怎么做",而是"这类问题的本质是什么"。
我用个类比:把模型想象成一个学生。
- 硬提示就是你给他出题时多给点线索,启发他自己思考
- 软提示是给他一个思维导图,引导他往正确方向推理,但思考过程还是他自己的
- 完整微调相当于直接改造他的脑子,让他遇到这类问题就能条件反射地做对
这三个层次,从"调文本"到"调向量"到"调全部参数",成本和效果都是递增的。

三种调优方法对比------硬提示写文本、软提示调向量、微调改参数
板块2:Prompt Tuning 在 PEFT 家族中的位置
你可能听说过 LoRA、听说过适配器Adapter,现在又看到 Prompt Tuning,它们都是 PEFT(参数高效微调)家族的成员。但它们在模型结构里的位置完全不同。
Prompt Tuning 作用在输入层。它在 embedding 阶段就介入,用学习到的软提示向量引导模型理解任务。你可以理解为:模型还没开始"思考"之前,软提示就已经在给它指路了。
LoRA 作用在权重层。它不直接改原始权重,而是学两 个低秩矩阵,用这两个矩阵的乘积去近似权重更新。相当于"在原有道路上改造,但不加宽路面,而是改变通行规则"。
适配器 则是插入层,在 Transformer 的前馈层或注意力层之间插入一个小模块。
Prompt Tuning 像是"在路口放指示牌",告诉模型往哪走。LoRA 像"改造道路本身",让模型自然地走对路。适配器则像"在路上增加检查站",随时纠正模型的行为。
这也解释了为什么 Prompt Tuning 特别适合"多任务"场景------你不需要改动模型本身,只需要准备不同的"指示牌"就能让同一个模型做不同的事。

PEFT方法架构对比------Prompt Tuning在输入层、LoRA在权重层、适配器串行插入
板块3:什么场景优先用 Prompt?
终于到重点了。面试官最常问的其实是:什么时候该用 Prompt,什么时候该上微调?
快速验证、小模型、任务简单------优先用硬提示。你任务简单、样本少、模型也不大,直接调 Prompt 是最划算的。花半小时优化一下指令,效果可能立竿见影,根本没必要去折腾微调。
大模型、多任务、资源有限------优先用 Prompt Tuning。模型参数动辄几十上百亿,全量微调成本太高,但用 Prompt Tuning 只需要训练几千个软提示参数,就能让同一个模型适配不同任务。换任务?换提示就行,不用重新训练模型。
学习全新模式、领域知识、需要深度定制------用 LoRA 或完整微调。比如你要让模型学会写特定领域的专业代码,或者掌握一个它完全没见过的任务模式,Prompt 的"提示"作用就有限了,必须深入到权重层面去改造。
我再用一个场景帮你理解:把大模型当成一个厨师。
- 硬提示就像你点菜时说"不要太辣,多放葱花",厨师按你的要求做调整
- Prompt Tuning 像你定制了一套套餐组合,告诉厨师以后遇到这种需求就按这个标准来
- 完整微调则是把厨师送去培训,让他从根本上学会做这类菜
你要做的是快餐速食,叫厨师调整一下就行;你要做连锁餐厅标准化,那就定制套餐;你要彻底改变菜单,那就得培训厨师。

场景选择决策流程图------5步判断该用硬提示、软提示还是微调
板块4:Prompt Tuning 的优势与局限
说完了怎么选,再给你讲讲 Prompt Tuning 本身的优缺点。面试时能说出局限性,说明你思考是全面的。
优势方面 ,Prompt Tuning 最突出的就是效率高。全量微调可能要训练几十亿参数,Prompt Tuning 只需要几千到几万参数。显存占用、训练时间、存储成本,都是量级上的差距。
其次是模块化。每个任务可以训练独立的软提示,需要哪个任务就加载对应的提示,不用改模型本身。这对于需要快速切换任务的生产环境非常友好。
还有一点:不破坏预训练知识。因为主干模型冻结,模型不会遗忘它原本学到的能力。LoRA 也有这个特性,但完整微调就存在灾难性遗忘的风险。
局限性方面 ,Prompt Tuning 最大的问题是对模型规模的依赖。研究表明,软提示的效果在大模型(通常 >100 亿参数)上才比较明显。模型太小,软提示能引导的信息量有限,效果甚至不如直接调 Prompt。
其次是表达能力的玻璃天花板。软提示本质上还是"给线索让学生推理",它无法改变模型已经固化的注意力模式。如果模型在预训练中形成的认知本身就是错的,软提示能做的很有限。
最后是不可解释性。软提示是一串向量,你没法直观看出它到底在引导什么。部署和调试的时候,这就是一个黑匣子,出了问题很难排查。

Prompt Tuning优劣势对比------效率高但存在表达力和规模依赖的局限
面试怎么答
基础版
Prompt 优化和微调有三个层次。硬提示是纯改文本,通过设计更好的指令引导模型;软提示(Prompt Tuning)是训练输入层的连续向量,用学习到的向量引导模型;完整微调是更新模型的全部或大部分参数。场景选择上,小模型和快速验证优先用硬提示,大模型多任务适配用 Prompt Tuning,学习全新模式用 LoRA 或完整微调。
加分版
我补充几点。首先,Prompt Tuning 本质是 PEFT 的一种,作用在输入层,和作用在权重层的 LoRA 是不同的技术路径。其次,Prompt Tuning 依赖模型规模,通常 100 亿参数以上效果才明显,小模型不建议使用。第三,软提示存在表达能力上限,它无法改变模型已固化的注意力模式,对于需要深度认知改造的任务效果有限。第四,软提示不可解释,部署调试时是潜在风险。实际选择时,优先级公式是:快速验证→硬提示;多任务适配+资源有限→Prompt Tuning;学新模式→LoRA。
一句话总结
Prompt 优化和微调的区别在于"调什么":硬提示调文本、软提示调向量、完整微调调参数;场景选择记住:小任务用 Prompt,大模型多任务用 Prompt Tuning,学新模式用微调。

方法选择速查表------5种典型场景对应的最优调优方法