主流微调框架（四大核心）
1. LLaMA-Factory
定位：最全面的开源微调框架，支持100+ LLMs和VLMs
一站式解决方案：集成SFT、DPO、RLHF等全流程
多模态支持：同时处理文本、图像、语音任务
零代码WebUI：提供Gradio界面，无需编程即可操作
国产模型适配：对Qwen、DeepSeek等模型支持完善
适用场景：个人开发者快速实验、中小企业生产部署
GitHub：https://github.com/hiyouga/LLaMA-Factory
2. unsloth
定位：极致资源优化的微调框架
独家4-bit动态量化技术，训练速度提升2倍
显存占用减少70%-80%，可在消费级GPU运行
兼容Hugging Face生态，无需修改现有代码
Google Colab/Kaggle友好，免费资源即可使用
适用场景：资源受限环境（如RTX 3060/4090）、个人开发者
GitHub：https://github.com/unslothai/unsloth
3. ms-SWIFT
定位：魔搭社区开发的全链路微调框架
支持450+ LLMs和150+多模态模型，覆盖最广
集成训练-推理-评测-部署全流程，一站式服务
支持分布式训练，可扩展至多GPU/多节点
提供Web界面，降低使用门槛
适用场景：企业级多模型管理、多模态任务
GitHub：https://github.com/modelscope/swift
4. ColossalAI
定位：高效分布式训练系统
仅需一半GPU即可完成GPT-3训练
支持数据并行、流水线并行、张量并行多种技术
显存优化技术，支持DeepSeek R1非量化模型高效微调
训练效率高，半小时内预训练ViT-Base/32
适用场景：大规模模型训练、企业级生产环境
GitHub：https://github.com/hpcaitech/ColossalAI
微调工具选型指南
1. 个人开发者/资源有限
首选：unsloth或LLaMA-Factory Online
理由：单张消费级GPU即可运行，RTX 3060/4090满足需求
推荐配置：
7B模型：RTX 3060（12GB显存）
13B模型：RTX 4090（24GB显存）
70B模型：单张A100（40GB显存）
*
成本：7B模型QLoRA微调成本通常低于5美元
2. 企业级生产环境
首选：LLaMA-Factory + ms-SWIFT组合
理由：全流程覆盖，从训练到部署一体化
推荐配置：
小规模：单台A100（80GB显存）
中规模：多台A100/H100集群
大规模：ColossalAI + DeepSpeed分布式训练
*