一、webui的启动方式
LLaMA-Factory 支持通过 WebUI 零代码微调大语言模型。 在完成++++安装++++ 后，您可以通过以下指令进入 WebUI:
llamafactory-cli webui使用上面命令启动服务后，即可使用默认7860端口进行访问。访问地址：http://ip:7860,截止：2025年7月11日，页面结构如下：
二、开始训练前需设置的基本参数
在开始训练模型之前，您需要指定的参数有：
- 模型名称、路径及模型下载源
- 训练阶段
- 微调方法
- 训练数据集
- 学习率、训练轮数等训练参数
- 微调参数等其他参数
- 输出目录及配置路径
在这里由于我选择了加速方式为unsloth 所以需要在llama-factory的虚拟环境中执行命令：
pip install unsloth截止当前我安装的包版本如下：
并且需要将计算类型选择"fp16" 否则会报错，报错信息如下：
packages/unsloth/kernels/fast_lora.py", line 259, in forward
Q = matmul_lora(X, QW, QW_quant, QA, QB, QS)
File "/usr/local/miniconda3/envs/llama-factory/lib/python3.10/site-packages/unsloth/kernels/utils.py", line 703, in matmul_lora
out = torch_matmul(X, W, out = out)
RuntimeError: expected mat1 and mat2 to have the same dtype, but got: c10::BFloat16 != c10::Half
参数设置如下：
三、开始训练
至此，即可点击开始进行模型训练。训练完成后，如下图所示：
后台日志窗口如下所示：
