unsloth 安装在google colab

「uv」是什么?

uv 是一个极速的 Python 包管理器 (替代 pip/pipenv/poetry 等),由知名 Python 工具库 ruff 团队开发,核心特点是速度极快(比 pip 快 10-100 倍)、支持现代 Python 特性,且兼容 pip 的大部分用法。

1. 核心定位 & 优势
  • 替代 pip :可以直接用 uv pip install 替换 pip install,语法几乎完全兼容;
  • 极致速度:底层用 Rust 编写,安装/解析依赖的速度远超 pip(比如安装大型库如 torch 时,能大幅缩短时间);
  • 现代特性:支持 PEP 621(pyproject.toml 规范)、并行安装、依赖缓存优化、自动修复依赖冲突等;
  • 跨环境兼容:在 Colab、本地、Docker 等环境都能使用,常被用于需要快速安装依赖的场景(比如你代码中的 Unsloth/大模型依赖)。
2. 常用用法(和 pip 对比)
pip 命令 uv 等效命令 说明
pip install torch uv pip install torch 安装包(完全兼容)
pip install -q torch uv pip install -q torch 静默安装(-q 参数通用)
pip install --upgrade uv uv pip install --upgrade uv 升级包
pip install -r requirements.txt uv pip install -r requirements.txt 从文件安装依赖
3. 你代码中 uv 的作用

在你提供的代码里,!uv pip install ... 本质就是「用 uv 调用 pip 接口安装包」,核心目的是:

  • 利用 uv 的速度优势,快速安装 Unsloth/transformers/torch 等大依赖;
  • 兼容 pip 的语法,同时解决 pip 安装时的依赖解析慢、冲突多的问题;
  • 尤其在 Colab 等临时环境中,能大幅缩短依赖安装时间。
4. 补充说明
  • 安装 uv :使用 pip 即可安装 pip install uv(你代码中第一行 !pip install --upgrade -q uv 就是做这件事);
  • 和 pip 的关系uv 不是替代 pip 的「接口」,而是替代 pip 的「底层实现」------ uv pip 会复用 pip 的生态,但用更快的逻辑执行;
  • 适用场景:适合需要频繁安装/更新依赖的场景(比如大模型开发、临时实验环境),生产环境也可使用,稳定性已成熟。

总结

  1. uv 是 Rust 编写的极速 Python 包管理器,核心作用是替代 pip 提速依赖安装
  2. 语法兼容 pip,常用 uv pip install 替换 pip install,无学习成本;
  3. 你代码中用 uv 是为了快速安装 Unsloth/transformers 等大依赖,尤其适合 Colab 环境。
bash 复制代码
import os
import importlib.util

# 升级 uv 包管理器(修正拼写+语法)
!pip install --upgrade -q uv

# 判断是否为 Colab 环境或未安装 torch
if importlib.util.find_spec("torch") is None or "COLAB_" in os.environ.keys():
    try:
        import numpy
        import PIL
        _numpy = f"numpy=={numpy.__version__}"  # 修复版本号格式化语法
        _pil = f"pillow=={PIL.__version__}"    # 修复变量名+版本号语法
    except:
        _numpy = "numpy"
        _pil = "pillow"
    
    # 安装核心依赖(修复版本号、拼写、引号/括号错误)
    !uv pip install -q \
        "torch==2.8.0" \
        "triton>=3.3.0" \
        {_numpy} \
        {_pil} \
        torchvision \
        bitsandbytes \
        "xformers==0.0.32.post2" \
        "unsloth_zoo[base] @ git+https://github.com/unslothai/unsloth-zoo" \
        "unsloth[base] @ git+https://github.com/unslothai/unsloth"

# 本地环境未安装 unsloth 时补充安装
elif importlib.util.find_spec("unsloth") is None:
    !uv pip install -q unsloth

# 升级 tokenizers/trl,修复 unsloth_zoo 拼写错误
!uv pip install --upgrade --no-deps -q tokenizers trl==0.22.2 unsloth unsloth_zoo

# 恢复你指定的 transformers==5.2.0 版本
!uv pip install -q transformers==5.2.0

# 修复包名(causal_convld → causal_conv1d)+ 安装 flash-linear-attention
# 备注:causal_conv1d 仅支持 torch==2.8.0,新版本需等待更新
!uv pip install --no-build-isolation -q flash-linear-attention causal_conv1d==1.6.0

使用了 nvidia/cuda:12.4.1-devel-ubuntu22.04 作为基础镜像,确保 CUDA 版本与 PyTorch 2.8.0 兼容

相关推荐
OpenBayes贝式计算2 小时前
教程上新丨微软开源3D生成模型TRELLIS.2,3秒生成高分辨率的全纹理资产
人工智能·深度学习·机器学习
isxhyeah2 小时前
python 数据结构 排序算法
数据结构·python·排序算法
OpenBayes贝式计算2 小时前
4B 参数规模,13 种语言,Voxtral 多语言实时语音转录模型;含数理化 8 大学科,CHIMERA 合成推理数据集上线
人工智能·深度学习·机器学习
喵手2 小时前
Python爬虫高阶:用 Playwright “监听” Figma 社区热门插件数据!
爬虫·python·爬虫实战·figma·playwright·零基础python爬虫教学·社区热门插件数据采集
MoRanzhi12032 小时前
Pillow 图像滤波、卷积与边缘处理
图像处理·python·计算机视觉·pillow·卷积·边缘检测·图像滤波
怪侠_岭南一只猿2 小时前
爬虫学习阶段三:动态网页爬取(完整学习文档)
爬虫·python·学习
南 阳2 小时前
Python从入门到精通day48
开发语言·python
虎大猫猫2 小时前
JupyterLab的安装与使用完全指南
ide·python·jupyter