LLaMA Factory模型微调实战

目录:

一、LLaMA Factory官网

LLaMA Factory官网地址

二、LLaMA Factory的安装

安装地址

powershell 复制代码
git clone --depth 1 https://github.com/hiyouga/LLaMA-Factory.git
cd LLaMA-Factory
pip install -e ".[torch,metrics]"

项目上使用conda虚拟环境安装效果更好,官网命令供参考。

三、web界面



测试回答,模型回答的不是很理想,所有我们需要进行微调处理。

四、模型微调



训练完成后,需要导出模型:

五、法律大模型微调

1、准备数据集

2、数据集数据处理



格式构建出来了。

3、dataset_info.json文件中配置处理的数据集

配置后就能在web页面找到我们配置的数据集。

接下来就是训练模型,使用web界面进行训练。



Abort里面可以加载模型和导入模型,上面训练完成后,可以通过这里导出模型,然后加载模型检测训练的效果。

4、加载模型检测

相同问题测试,效果要好很多,比之前更加简洁就能拿到答案。

相关推荐
Jurio.8 小时前
使用.py脚本下载并加载开源大模型LLMs
python·ai·llama
解局易否结局1 天前
FlashAttention 在昇腾NPU上的实现:从内存墙到IO感知
llama
Soari1 天前
性能压榨的暴力美学:深度拆解 llama.cpp,结合 GGUF 量化实测,看普通人如何用 2GB 内存硬核跑赢 7B 大模型
llama
weixin_446260852 天前
终极工程指南:llama.cpp 本地AI部署手册 (2026)
人工智能·llama
ONE_SIX_MIX3 天前
新版本 llama-cpp 构建/下载 webui 导致build 失败 解决
llama
Wanderer X3 天前
【LLM】LLaMA
llama
落痕的寒假3 天前
[深度学习] 大模型学习8上-推理部署框架llama.cpp与Ollama使用指北
深度学习·学习·llama
网络工程小王4 天前
【大模型vLLM 使用】学习笔记
笔记·学习·llama
TGITCIC5 天前
大模型训练师的炼丹之道 (1)-最新版llama-factory环境搭建和全排错
微调·sft·llama·模型训练·训练·大模型训练·llama-factory
周公5 天前
记一次在双 RTX 3090 工作站上部署 vLLM 与 Qwen3.6-35B-AWQ 的实战记录
python·ai·llama·vllm·ollama