再探模型训练,使用LLaMA-Factory实现LLM微调

今天,我们尝试使用LLaMA-Factory工具实现LLM的微调工作

首先,创建并激活conda环境

bash 复制代码
conda create -n llamafactory python=3.12 -y
conda activate llamafactory

然后,根据官方说明使用如下命令下载git,然后clone并从源码进行安装

bash 复制代码
apt update
apt install git -y
bash 复制代码
git clone --depth 1 https://github.com/hiyouga/LlamaFactory.git
cd LlamaFactory
pip install -e .
pip install -r requirements/metrics.txt -i https://pypi.tuna.tsinghua.edu.cn/simple/



然后,使用如下命令进行Qwen3-4B的LoRA微调、推理与合并

bash 复制代码
llamafactory-cli train examples/train_lora/qwen3_lora_sft.yaml
llamafactory-cli chat examples/inference/qwen3_lora_sft.yaml
llamafactory-cli export examples/merge_lora/qwen3_lora_sft.yaml



相关推荐
这张生成的图像能检测吗11 小时前
(论文速读)MANTIS:时间序列分类的轻量级基础模型
人工智能·时序模型·分类模型
u01030552711 小时前
AI Agent加速安卓应用快速落地
人工智能·新浪微博
angered11 小时前
「AI 应用 / AI Agent」行业日报 · 2026-08-21
人工智能
李昊哲小课11 小时前
大模型应用开发课程 —— 项目 09~12 完整教程
大数据·人工智能·大模型
xierui12312311 小时前
AI Agent 隐私架构:本地化重点为什么是登录态与执行权限
java·人工智能·网络安全·架构
u01030552711 小时前
昇腾AI赋能安卓智能助手
人工智能·笔记
回眸&啤酒鸭11 小时前
【回眸】Grok 4.6 核心能力落地与实战应用指南
大数据·人工智能
冬奇Lab12 小时前
Code Agent 解剖(07):外部工具怎么接进来?MCP 集成是怎么做的?
人工智能
日月新著12 小时前
微软2万人调查:天天用AI的你,为什么还是原地踏步?
人工智能·microsoft
cfm_291412 小时前
Spring AI Tool 调用架构全解
java·人工智能·spring