LLaMA Factory模型微调实战

目录：

• • [一、LLaMA Factory官网](#一、LLaMA Factory官网)
  • [二、LLaMA Factory的安装](#二、LLaMA Factory的安装)
  • 三、web界面
  • 四、模型微调
  • 五、法律大模型微调
  • • 1、准备数据集
    • 2、数据集数据处理
    • 3、dataset_info.json文件中配置处理的数据集
    • 4、加载模型检测

一、LLaMA Factory官网

LLaMA Factory官网地址

二、LLaMA Factory的安装

安装地址

git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory
pip install -e ".[torch,metrics]"

项目上使用conda虚拟环境安装效果更好，官网命令供参考。

三、web界面

测试回答，模型回答的不是很理想，所有我们需要进行微调处理。

四、模型微调

训练完成后，需要导出模型：

五、法律大模型微调

1、准备数据集

2、数据集数据处理

格式构建出来了。

3、dataset_info.json文件中配置处理的数据集

配置后就能在web页面找到我们配置的数据集。

接下来就是训练模型，使用web界面进行训练。

Abort里面可以加载模型和导入模型，上面训练完成后，可以通过这里导出模型，然后加载模型检测训练的效果。

4、加载模型检测

相同问题测试，效果要好很多，比之前更加简洁就能拿到答案。