大模型参数高效微调：PEFT、LoRA、QLoRA、DoRA原理与对比

**摘要：**大模型全参微调硬件门槛极高，PEFT参数高效微调成为工业界主流方案。本文讲解PEFT核心概念，对比LoRA、QLoRA、DoRA三者原理、优缺点、适用场景，附带代码示例与选型建议，帮助快速落地大模型微调。

一、什么是PEFT

PEFT（Parameter‑Efficient Fine‑Tuning，参数高效微调），既是一类微调技术思想，也是HuggingFace开源的peft工具库。

核心思想：冻结基座大模型绝大多数权重，仅训练少量新增适配器参数（0.1%~5%），用极低的显存开销，尽量逼近全参微调的效果。LoRA、QLoRA、DoRA全部属于PEFT技术家族。

全参微调 VS PEFT微调

全参微调 Full‑FT：更新模型全部权重 ✅ 效果上限最高 ❌ 显存消耗巨大，需要保存完整模型副本；容易出现灾难性遗忘，丢失预训练通用知识；7B模型就需要几十GB显存，普通消费显卡基本无法运行。

PEFT参数高效微调：基座权重冻结，仅训练适配器 ✅ 显存大幅降低；适配器文件体积很小，几MB~几十MB；同一个基座模型可以切换多个任务适配器；降低灾难性遗忘风险；消费级显卡也可以微调7B/13B大模型。

通俗理解：基座模型是一本完整书籍，全参微调等于重印整本书；PEFT只是写几张便签（适配器adapter），书本本身不改动，推理时叠加便签的效果。

PEFT技术主要分为四大类：

低秩适配（工业界首选） ：LoRA、QLoRA、DoRA、AdaLoRA； 2. Prefix/Prompt Tuning ：训练虚拟token向量，不改动权重；长文本表现一般； 3. Adapter Tuning ：Transformer层中间插入小型MLP网络；不能合并权重，推理存在额外延迟 ； 4. IA³：通过激活值缩放实现微调，参数量比LoRA更小。

二、LoRA（Low‑Rank Adaptation，低秩自适应）

LoRA是PEFT最基础、应用最广泛的算法。

原理

冻结原始基座权重 $W_0$ ，在Transformer注意力QKV/O线性层旁新增两个低秩矩阵A、B。训练阶段只更新A、B矩阵，原始权重全程冻结。

W' = W_0+BA

基座模型保持FP16/BF16全精度训练。训练完成后可以将BA合并进原始权重，推理阶段零额外开销。

优缺点

✅ 生态成熟，peft库原生支持，训练速度快；可训练参数仅原模型1%‑5%；支持权重合并，推理无损耗。 ❌ 显存占用依然偏高；秩r比较小时，和全参微调存在明显性能差距。

适用场景

显卡显存充足，快速迭代调试，老项目兼容。

三、QLoRA（Quantized‑LoRA，量化版LoRA）

QLoRA不是独立新算法，是4bit量化基座 + LoRA的组合方案，解决LoRA显存过高的痛点。

原理

将基座模型权重量化为NF4 4bit精度冻结存储，只有LoRA适配器A/B维持FP16/BF16精度参与训练，梯度可以反向传播到量化基座上。

优缺点

✅ 显存大幅下降，7B模型可以在单张消费级显卡完成微调；微调效果基本接近普通LoRA。 ❌ 存在量化、反量化计算开销，训练速度略慢；极少数任务存在微小精度损失。

注意：QLoRA和DoRA可以组合使用，也就是4bit量化基座上开启DoRA微调。

适用场景

显存资源紧张，本地消费显卡微调大模型。

四、DoRA（Weight‑Decomposed LoRA，权重分解LoRA）

DoRA是NVIDIA提出的LoRA改进算法，peft库通过use_dora=True直接开启。

LoRA存在的固有缺陷

LoRA更新的时候，权重的方向和幅度被绑定在一起变化，和全参微调的学习模式不一致，限制了微调效果的上限。

DoRA原理

将权重拆分为幅度m 和方向向量两个部分，解耦两者更新： - 方向部分：沿用LoRA(A,B)进行更新； - 幅度m：独立可学习向量，单独训练更新。

W' = m \\cdot \\frac{W_0+\\Delta W_{lora}}{\\\|W_0+\\Delta W_{lora}\\\|}

训练结束后同样可以合并权重，推理无任何额外开销。

优缺点

✅ 在相同秩r条件下，微调效果普遍优于普通LoRA，部分任务效果接近全参微调；SFT、RL微调场景表现优秀；合并后推理零开销。 ❌ 训练阶段会带来少量额外计算量；生态相比原生LoRA更年轻。

适用场景

希望用更小的r获取更好微调质量；追求微调最终效果。

五、三者横向对比

方案	核心改动	显存	训练速度	效果	典型场景
LoRA	新增低秩矩阵A、B	较高	快	基准	显存充足，快速迭代
QLoRA	基座4bit量化+LoRA	很低	较慢	接近LoRA	小显卡调大模型
DoRA	解耦权重幅度、方向，LoRA更新方向	同LoRA	略慢于LoRA	优于LoRA	追求微调质量

六、工程选型建议

显存资源充足：优先选择 DoRA ，同等参数量效果优于普通LoRA； 2. 显存资源紧张：QLoRA + DoRA，4bit量化基座同时开启DoRA； 3. 历史项目、追求极致训练速度：普通LoRA。

重要：DoRA仅改变训练逻辑；权重合并完成之后，和普通LoRA输出格式完全一致。

七、peft代码示例

复制代码

from peft import LoraConfig, get_peft_model # 普通LoRA配置 lora_config = LoraConfig( r=8, lora_alpha=16, target_modules=["q_proj", "v_proj"], use_dora=False ) # DoRA配置，仅开启use_dora=True即可 dora_config = LoraConfig( r=8, lora_alpha=16, target_modules=["q_proj", "v_proj"], use_dora=True ) # 挂载peft适配器 model = get_peft_model(model, dora_config) model.print_trainable_parameters() # 打印可训练参数占比 # 训练完成后，合并权重，得到普通完整模型 # model = model.merge_and_unload()

> QLoRA只需要额外通过bitsandbytes将模型以4bit加载，再传入上面的LoraConfig即可。

八、总结

本文系统梳理了PEFT参数高效微调核心体系，以及工业界最常用的LoRA、QLoRA、DoRA三大微调方案的核心差异与落地要点。核心关键点如下：

PEFT核心逻辑是冻结基座原始权重，仅训练少量适配器参数，兼顾训练效率、显存成本与模型泛化能力，有效规避全参微调的灾难性遗忘问题；
LoRA是基础低秩微调方案，生态成熟、速度快，是行业通用基准；QLoRA通过4bit量化大幅降低显存门槛，适配消费级显卡微调大模型；DoRA通过解耦权重方向与幅度，突破了传统LoRA的性能上限；
LoRA、DoRA均支持训练后权重合并，推理零额外开销，优于Prefix Tuning、Adapter Tuning等传统PEFT方案；
工程落地可遵循简单选型原则：显存充足选DoRA、显存紧张组合QLoRA+DoRA、老旧项目维稳用原生LoRA；
轻量化适配器可实现单基座模型适配多任务，无需存储多份完整大模型，极大降低模型存储与运维成本。

在实际大模型微调项目中，结合硬件资源、任务精度需求灵活选择微调方案，是平衡训练成本、微调效果与推理性能的关键。