windows大模型llamafactory微调

硬件前提:Nivida显卡

1. 安装wsl

1.1 打开powe shell,

输入: wsl --install

1.2. 开启虚拟化

​编辑

1.3 重启电脑。

2. 下载llama-factory

地址:github.com/hiyouga/LLa...

​编辑

3. 安装

切换到解压后放到的目录,例如D:\llama-factory目录下,

在win系统菜单打开Ubuntu(注意这里不能是右键目录下打开linux)

bash 复制代码
1. 切换到目录:(如:G:\LLaMA-Factory-main,前面加上 /mnt/,转到目标)
cd /mnt/g/LLaMA-Factory-main

2. 安装miniconda3
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh

# 运行安装脚本(过程需要回车确认,注意看提示)
bash Miniconda3-latest-Linux-x86_64.sh

# 激活(确认上面已经完成了,不要过早的提前输入)
source ~/.bashrc

# 验证安装(显示版本即完成)
conda --version

3. 新增python运行环境
conda create -n venv2 python=3.12

# 激活环境
conda activate venv2

4. 安装llama-factory
pip install -e ".[torch,metrics]" -i https://mirrors.aliyun.com/pypi/simple/

# 启动
llamafactory-cli webui

# 打开进入界面:
http://localhost:7860

4. 下载不同模型(使用git方法)

  1. 在对应的模型下面对整个仓库进行克隆(这里需要安装lfs进行大文件安装)

​编辑

bash 复制代码
# 新建一个models文件夹,进入
# 安装lfs
git lfs install
# 克隆整个库
git clone https://hf-mirror.com/Qwen/Qwen1.5-0.5B
# 小文件完成100%后打断
ctrl+C
# 进入目录
cd Qwen1.5-0.5B
# 拉取大文件
git lfs pull
# (如果拉取闪退,使用这行命令强行拉取)
git lfs fetch --all
# (如果拉取不了,手动下载LFS的文件,下载后再剪切到目录下)

​编辑

5. 设置界面

​编辑

注意这里假设是 G://LLaMA-Factory-models/Qwen1.5-0.5B,要在前面改为/mnt/

/mnt/g/LLaMA-Factory-models/Qwen1.5-0.5B

参考:(有不太明白的看这篇网址,它有出错的看我上方的命令)使用llamafactory进行模型训练与微调-环境准备与工具部署-EOGEE_岳极技术_大模型与AI知识技术共享社区

相关推荐
try2find1 天前
安装llama-cpp-python踩坑记
开发语言·python·llama
西西弗Sisyphus1 天前
LLaMA-Factory 单卡后训练微调Qwen3完整脚本
微调·llama·llama-factory·后训练
顾道长生'1 天前
(Arxiv-2024)自回归模型优于扩散:Llama用于可扩展的图像生成
计算机视觉·数据挖掘·llama·自回归模型·多模态生成与理解
Zhijun.li@Studio11 天前
【LLaMA-Factory 实战系列】二、WebUI 篇 - Qwen2.5-VL 多模态模型 LoRA 微调保姆级教程
人工智能·自然语言处理·llama·多模态大模型
1213411 天前
LLM:重构数字世界的“智能操作系统”
gpt·aigc·ai编程·llama·gpu算力
冷雨夜中漫步19 天前
Java中如何使用lambda表达式分类groupby
java·开发语言·windows·llama
扫地的小何尚21 天前
全新NVIDIA Llama Nemotron Nano视觉语言模型在OCR基准测试中准确率夺冠
c++·人工智能·语言模型·机器人·ocr·llama·gpu
CFAteam21 天前
DeepSeek AI功能演示:如何生成Verilog脚本
人工智能·ai·fpga开发·llama
Tadas-Gao23 天前
从碳基羊驼到硅基LLaMA:开源大模型家族的生物隐喻与技术进化全景
人工智能·机器学习·大模型·llm·llama
Run_Clover23 天前
llama-factory微调大模型环境配置避坑总结
llama