技术栈
xtuner
Silence4Allen
6 天前
人工智能
·
大模型
·
微调
·
xtuner
·
llamafactory
大模型微调终极方案：LoRA、QLoRA原理详解与LLaMA-Factory、Xtuner实战对比
微调（Fine-tuning）是深度学习中的一种常见方法，它通常用于在预训练模型的基础上进行进一步的训练，以适应特定的任务。微调的主要目的是利用预训练模型已经学习到的通用知识，从而提高模型在特定任务上的性能。常见的微调框架有 LLaMA-Factory 和 XTuner 等。
自律版光追
1 年前
笔记
·
学习
·
微调
·
internlm
·
llava
·
书生·浦语
·
xtuner
【书生·浦语大模型实战营第二期】XTuner微调LLM：1.8B、多模态、Agent——学习笔记4
Xtuner工具的运行原理： 总结来说模型微调基础步骤使用数据为openai格式的数据tips代码关于配置文件