unsloth 安装在google colab

「uv」是什么?

uv 是一个极速的 Python 包管理器 (替代 pip/pipenv/poetry 等),由知名 Python 工具库 ruff 团队开发,核心特点是速度极快(比 pip 快 10-100 倍)、支持现代 Python 特性,且兼容 pip 的大部分用法。

1. 核心定位 & 优势
  • 替代 pip :可以直接用 uv pip install 替换 pip install,语法几乎完全兼容;
  • 极致速度:底层用 Rust 编写,安装/解析依赖的速度远超 pip(比如安装大型库如 torch 时,能大幅缩短时间);
  • 现代特性:支持 PEP 621(pyproject.toml 规范)、并行安装、依赖缓存优化、自动修复依赖冲突等;
  • 跨环境兼容:在 Colab、本地、Docker 等环境都能使用,常被用于需要快速安装依赖的场景(比如你代码中的 Unsloth/大模型依赖)。
2. 常用用法(和 pip 对比)
pip 命令 uv 等效命令 说明
pip install torch uv pip install torch 安装包(完全兼容)
pip install -q torch uv pip install -q torch 静默安装(-q 参数通用)
pip install --upgrade uv uv pip install --upgrade uv 升级包
pip install -r requirements.txt uv pip install -r requirements.txt 从文件安装依赖
3. 你代码中 uv 的作用

在你提供的代码里,!uv pip install ... 本质就是「用 uv 调用 pip 接口安装包」,核心目的是:

  • 利用 uv 的速度优势,快速安装 Unsloth/transformers/torch 等大依赖;
  • 兼容 pip 的语法,同时解决 pip 安装时的依赖解析慢、冲突多的问题;
  • 尤其在 Colab 等临时环境中,能大幅缩短依赖安装时间。
4. 补充说明
  • 安装 uv :使用 pip 即可安装 pip install uv(你代码中第一行 !pip install --upgrade -q uv 就是做这件事);
  • 和 pip 的关系uv 不是替代 pip 的「接口」,而是替代 pip 的「底层实现」------ uv pip 会复用 pip 的生态,但用更快的逻辑执行;
  • 适用场景:适合需要频繁安装/更新依赖的场景(比如大模型开发、临时实验环境),生产环境也可使用,稳定性已成熟。

总结

  1. uv 是 Rust 编写的极速 Python 包管理器,核心作用是替代 pip 提速依赖安装
  2. 语法兼容 pip,常用 uv pip install 替换 pip install,无学习成本;
  3. 你代码中用 uv 是为了快速安装 Unsloth/transformers 等大依赖,尤其适合 Colab 环境。
bash 复制代码
import os
import importlib.util

# 升级 uv 包管理器(修正拼写+语法)
!pip install --upgrade -q uv

# 判断是否为 Colab 环境或未安装 torch
if importlib.util.find_spec("torch") is None or "COLAB_" in os.environ.keys():
    try:
        import numpy
        import PIL
        _numpy = f"numpy=={numpy.__version__}"  # 修复版本号格式化语法
        _pil = f"pillow=={PIL.__version__}"    # 修复变量名+版本号语法
    except:
        _numpy = "numpy"
        _pil = "pillow"
    
    # 安装核心依赖(修复版本号、拼写、引号/括号错误)
    !uv pip install -q \
        "torch==2.8.0" \
        "triton>=3.3.0" \
        {_numpy} \
        {_pil} \
        torchvision \
        bitsandbytes \
        "xformers==0.0.32.post2" \
        "unsloth_zoo[base] @ git+https://github.com/unslothai/unsloth-zoo" \
        "unsloth[base] @ git+https://github.com/unslothai/unsloth"

# 本地环境未安装 unsloth 时补充安装
elif importlib.util.find_spec("unsloth") is None:
    !uv pip install -q unsloth

# 升级 tokenizers/trl,修复 unsloth_zoo 拼写错误
!uv pip install --upgrade --no-deps -q tokenizers trl==0.22.2 unsloth unsloth_zoo

# 恢复你指定的 transformers==5.2.0 版本
!uv pip install -q transformers==5.2.0

# 修复包名(causal_convld → causal_conv1d)+ 安装 flash-linear-attention
# 备注:causal_conv1d 仅支持 torch==2.8.0,新版本需等待更新
!uv pip install --no-build-isolation -q flash-linear-attention causal_conv1d==1.6.0

使用了 nvidia/cuda:12.4.1-devel-ubuntu22.04 作为基础镜像,确保 CUDA 版本与 PyTorch 2.8.0 兼容

相关推荐
方安乐2 小时前
python之向量、向量和、向量点积
开发语言·python·numpy
zh1570234 小时前
JavaScript中WorkerThreads解决服务端计算瓶颈
jvm·数据库·python
蜡台5 小时前
Python包管理工具pip完全指南-----2
linux·windows·python
Mr.朱鹏5 小时前
【Python 进阶 | 第四篇】Psycopg3 + Flask 实现 PostgreSQL CRUD 全流程:从连接池到RESTful接口
python·postgresql·flask·virtualenv·fastapi·pip·tornado
jay神5 小时前
VisDrone2019-DET 无人机小目标检测数据集
人工智能·深度学习·yolo·目标检测·计算机视觉·毕业设计·无人机
乔江seven5 小时前
【李沐 | 动手学深度学习】17 深度学习硬件:CPU 和 GPU
人工智能·深度学习·深度学习硬件·cpu和gpu
2401_871492855 小时前
Vue.js监听器watch利用回调函数处理级联下拉框数据联动
jvm·数据库·python
FreakStudio5 小时前
亲测可用!可本地部署的 MicroPython 开源仿真器
python·单片机·嵌入式·面向对象·并行计算·电子diy·电子计算机
SilentSamsara6 小时前
Python 环境搭建完整指南:从下载安装到运行第一个程序
开发语言·python
这张生成的图像能检测吗6 小时前
(论文速读)IMSE-IGA-CNN-Transformer
人工智能·深度学习·cnn·transformer·故障诊断·预测模型·时序模型