WSL和LLamaFactory框架微调千问3大模型

WSL和LLamaFactory框架微调千问大模型

windows10安装WSL

1.1 什么是 WSL

复制代码
   WSL(Windows Subsystem for Linux)是微软推出的 Windows 系统 Linux 子系统技术,无需单独安装 Linux 系统或依赖虚拟机,即可在 Windows 中直接运行完整的 Linux 环境。它支持原生 Linux 命令行工具、软件包管理器(如 apt)及各类 Linux 应用程序,实现了 Windows 与 Linux 文件系统的无缝集成,极大消除了两大系统的开发隔阂,尤其适合需要在 Windows 平台使用 Linux 工具的开发者。

二、WSL2 安装步骤

2.1 启用 Windows 必备功能

方式一:

打开「开始菜单」,点击「应用与程序」;

滚动到页面底部,点击「程序与功能」;

点击左侧「启用或关闭 Windows 功能」;

在弹出的窗口中,勾选「虚拟机平台」和「适用于 Linux 的 Windows 子系统」两个选项(如图所示),点击「确定」。

方式二:使用PowerShell命令

powershell 复制代码
dism.exe /online /enable-feature /featurename:Microsoft-Windows-Subsystem-Linux /all /norestart
dism.exe /online /enable-feature /featurename:VirtualMachinePlatform /all /norestart
2.2 重启电脑

配置完成后必须重启电脑,确保上述功能生效,否则后续安装可能失败。接下来还需要更新wsl的内核。

  1. 安装/更新 WSL 内核

    powershell 复制代码
    wsl --update
  2. 安装 Linux 发行版(比如 Ubuntu 22.04)

  3. 设置默认版本为 WSL2,例如:

    wsl --set-default-version 2

2.3 命令安装 WSL 并初始化和安装ubuntu
  1. 管理员身份 打开命令提示符(CMD)或运行(WIN 键 + R)输入cmd

  2. 输入安装命令

    wsl --install # 网络良好时使用,默认安装Ubuntu
    它会自动:

    1. 启用 WSL
    2. 启用虚拟机平台
    3. 安装 WSL2 内核
    4. 安装 Ubuntu
    5. 设置 WSL2 为默认

    若下载速度慢,使用以下命令通过网络下载安装 或者手动安装

    wsl --install --web-download

  3. 首次启动会自动安装 Ubuntu,等待几分钟后,需要设置 Linux 用户名和密码:

    1. 输入自定义 UNIX 用户名(无需与 Windows 用户名一致);
    2. 输入密码(输入时不显示明文,正常输入即可);
    3. 再次确认密码,提示passwd: password updated successfully即为设置成功。
      出现Installation successful!提示后,Ubuntu 已启动成功,可通过sudo <命令>执行管理员操作。
2.4 验证 WSL 运行状态
  1. 可通过 Windows PowerShell 启动 WSL(快捷键Ctrl+Shift+6直接打开 Ubuntu,需提前配置 PowerShell);

  2. 输入以下命令验证 WSL 是否正常运行:

    wsl --list --verbose # 查看已安装的WSL分发版及状态

若显示 Ubuntu 及运行状态,则说明安装成功。

2.5 (推荐手动)安装Ubuntu系统

下载 Ubuntu 22.04:

官方地址:https://aka.ms/wslubuntu2204

下载后得到:

复制代码
Ubuntu_2204.appx

2.6 把 Ubuntu 解压到 D 盘

例如:

创建目录:

复制代码
D:\WSL\Ubuntu2204

然后解压:

复制代码
Ubuntu_2204.appx

得到:

复制代码
ubuntu.exe

2.7 运行 Ubuntu

进入目录:

复制代码
D:\WSL\Ubuntu2204

运行:

复制代码
ubuntu.exe

第一次运行会自动创建 Linux 文件系统:

复制代码
ext4.vhdx

这个文件就是:

复制代码
Linux系统盘

例如:

复制代码
D:\WSL\Ubuntu2204\ext4.vhdx

在WSL环境中安装

  • 执行命令nvidia-smi

  • 验证GPU驱动是否可用

  • 如果系统提示:

    复制代码
    Command 'nvidia-smi' not found

    原因是:

    Ubuntu 系统里 没有安装 NVIDIA 工具包

  • 在 Ubuntu 里只需要安装:nvidia-utils

  • 执行下面的命令

    复制代码
      sudo apt update
      sudo apt install -y nvidia-utils-535
  • 然后再执行下面的命令,可以看到显卡的信息表示成功。

    复制代码
    nvidia-smi

LLaMA-Factory 安装指南(WSL + GPU)

环境准备

本文档介绍在 Windows + WSL2 + Ubuntu + GPU 环境中安装 LLaMA-Factory 的完整流程。

推荐环境:

组件 推荐版本
Windows Windows 10 / 11
WSL WSL2
Ubuntu 22.04
Python 3.11
CUDA 12.x
GPU NVIDIA

安装 Miniconda

下载 Miniconda:

bash 复制代码
cd ~
wget https://repo.anaconda.com/miniconda/Miniconda3-latest-Linux-x86_64.sh
按提示:yes
初始化 Conda:
~/miniconda3/bin/conda init
source ~/.bashrc

验证:

复制代码
conda --version

创建 Python 环境

LLaMA-Factory 要求:

复制代码
Python >= 3.11

创建环境:

复制代码
conda create -n llamafactory_py311 python=3.11 -y

激活环境:

复制代码
conda activate llamafactory_py311

查看环境:能够看到刚刚创建的虚拟环境信息,说明创建成功。

复制代码
conda env list

安装 PyTorch GPU

安装 GPU 版 PyTorch:

复制代码
pip install torch torchvision torchaudio \
--index-url https://download.pytorch.org/whl/cu121

验证 GPU:

复制代码
python -c "import torch;print(torch.cuda.is_available())"

如果输出:

复制代码
True

说明 GPU 可用。

进一步检查:

python 复制代码
python -c "import torch;print(torch.__version__);print(torch.version.cuda);print(torch.cuda.get_device_name(0))"

下载 LLaMA-Factory

创建项目目录:

复制代码
mkdir -p ~/project
cd ~/project

下载源码:

复制代码
git clone https://github.com/hiyouga/LLaMA-Factory.git

进入目录:

复制代码
cd LLaMA-Factory

安装 LLaMA-Factory

安装训练依赖:

复制代码
pip install -e ".[torch,metrics]"

说明:

参数 含义
-e editable 安装
. 当前项目
torch 训练依赖
metrics 评估依赖

验证安装

检查版本:

复制代码
llamafactory-cli version

查看帮助:

复制代码
llamafactory-cli help

如果命令能正常输出说明安装成功。


启动 WebUI

运行:

复制代码
llamafactory-cli webui

成功后会显示:

复制代码
Running on http://127.0.0.1:7860

打开浏览器:

复制代码
http://localhost:7860

即可进入 LLaMA-Factory WebUI

如图:

未完待续...

相关推荐
liulilittle2 天前
手动安装 Ubuntu 18.04 到 WSL(即使官方列表里没有它)
linux·运维·服务器·ubuntu·wsl·通信·vm
yann_qu5 天前
Mac通过ssh远程连接wsl
linux·windows·macos·ssh·wsl
天使之翼5 天前
Win11 Docker 使用指南(WSL2 后端,保姆级)附汉化教程
docker·容器·win11·wsl
Mico185 天前
WSL 实用技巧:设置默认 Root 用户与系统快照备份
wsl·windwos10子系统
AI精钢5 天前
WSL 磁盘清理实战:从缓存清理到 ext4.vhdx 压缩回收空间
运维·windows·缓存·docker·wsl·devops·磁盘清理
蜡台6 天前
window11 安装WSL 和 Ubuntu-24.04, Vscode 中使用WSL
linux·vscode·ubuntu·wsl
njsgcs1 个月前
wsl 可以直接打开windows的应用 /mnt/d/blender/blender.exe
wsl
shimly1234561 个月前
windows11 WSL 安装 Ubuntu 24.04
wsl
fireworkseasycold1 个月前
windows与WSL 端口转发(保留 NAT,如果不切换到 Mirrored 网络模式(需要重启 WSL,可能改变子网行为))
wsl·代理