unsloth 安装在google colab

「uv」是什么?

uv 是一个极速的 Python 包管理器 (替代 pip/pipenv/poetry 等),由知名 Python 工具库 ruff 团队开发,核心特点是速度极快(比 pip 快 10-100 倍)、支持现代 Python 特性,且兼容 pip 的大部分用法。

1. 核心定位 & 优势
  • 替代 pip :可以直接用 uv pip install 替换 pip install,语法几乎完全兼容;
  • 极致速度:底层用 Rust 编写,安装/解析依赖的速度远超 pip(比如安装大型库如 torch 时,能大幅缩短时间);
  • 现代特性:支持 PEP 621(pyproject.toml 规范)、并行安装、依赖缓存优化、自动修复依赖冲突等;
  • 跨环境兼容:在 Colab、本地、Docker 等环境都能使用,常被用于需要快速安装依赖的场景(比如你代码中的 Unsloth/大模型依赖)。
2. 常用用法(和 pip 对比)
pip 命令 uv 等效命令 说明
pip install torch uv pip install torch 安装包(完全兼容)
pip install -q torch uv pip install -q torch 静默安装(-q 参数通用)
pip install --upgrade uv uv pip install --upgrade uv 升级包
pip install -r requirements.txt uv pip install -r requirements.txt 从文件安装依赖
3. 你代码中 uv 的作用

在你提供的代码里,!uv pip install ... 本质就是「用 uv 调用 pip 接口安装包」,核心目的是:

  • 利用 uv 的速度优势,快速安装 Unsloth/transformers/torch 等大依赖;
  • 兼容 pip 的语法,同时解决 pip 安装时的依赖解析慢、冲突多的问题;
  • 尤其在 Colab 等临时环境中,能大幅缩短依赖安装时间。
4. 补充说明
  • 安装 uv :使用 pip 即可安装 pip install uv(你代码中第一行 !pip install --upgrade -q uv 就是做这件事);
  • 和 pip 的关系 :uv 不是替代 pip 的「接口」,而是替代 pip 的「底层实现」------ uv pip 会复用 pip 的生态,但用更快的逻辑执行;
  • 适用场景:适合需要频繁安装/更新依赖的场景(比如大模型开发、临时实验环境),生产环境也可使用,稳定性已成熟。

总结

  1. uv 是 Rust 编写的极速 Python 包管理器,核心作用是替代 pip 提速依赖安装;
  2. 语法兼容 pip,常用 uv pip install 替换 pip install,无学习成本;
  3. 你代码中用 uv 是为了快速安装 Unsloth/transformers 等大依赖,尤其适合 Colab 环境。
bash 复制代码
import os
import importlib.util

# 升级 uv 包管理器(修正拼写+语法)
!pip install --upgrade -q uv

# 判断是否为 Colab 环境或未安装 torch
if importlib.util.find_spec("torch") is None or "COLAB_" in os.environ.keys():
    try:
        import numpy
        import PIL
        _numpy = f"numpy=={numpy.__version__}"  # 修复版本号格式化语法
        _pil = f"pillow=={PIL.__version__}"    # 修复变量名+版本号语法
    except:
        _numpy = "numpy"
        _pil = "pillow"
    
    # 安装核心依赖(修复版本号、拼写、引号/括号错误)
    !uv pip install -q \
        "torch==2.8.0" \
        "triton>=3.3.0" \
        {_numpy} \
        {_pil} \
        torchvision \
        bitsandbytes \
        "xformers==0.0.32.post2" \
        "unsloth_zoo[base] @ git+https://github.com/unslothai/unsloth-zoo" \
        "unsloth[base] @ git+https://github.com/unslothai/unsloth"

# 本地环境未安装 unsloth 时补充安装
elif importlib.util.find_spec("unsloth") is None:
    !uv pip install -q unsloth

# 升级 tokenizers/trl,修复 unsloth_zoo 拼写错误
!uv pip install --upgrade --no-deps -q tokenizers trl==0.22.2 unsloth unsloth_zoo

# 恢复你指定的 transformers==5.2.0 版本
!uv pip install -q transformers==5.2.0

# 修复包名(causal_convld → causal_conv1d)+ 安装 flash-linear-attention
# 备注:causal_conv1d 仅支持 torch==2.8.0,新版本需等待更新
!uv pip install --no-build-isolation -q flash-linear-attention causal_conv1d==1.6.0

使用了 nvidia/cuda:12.4.1-devel-ubuntu22.04 作为基础镜像,确保 CUDA 版本与 PyTorch 2.8.0 兼容

相关推荐
VidDown4 小时前
24fps 转 25fps 不只是改个数字:帧率转换、PAL/NTSC 与音频补偿
python·网络协议·音视频·视频编解码·视频
死磕音视频6 小时前
让小模型做选择题:限定候选项并读取 logits 概率的入门实践(附 Python 代码)
开发语言·python·大模型·文本分类·transformers
凤山老林6 小时前
Spring Boot 接入国密 SM2/SM3/SM4 的一些实践记录
spring boot·后端·python
pride.li8 小时前
第03章 Python 教程-基础语法:注释与变量
服务器·前端·后端·python·算法·计算机视觉
databook8 小时前
用 Pydantic AI 从零搭建一个能干活的 AI Agent
人工智能·python
康小旺8 小时前
把 markitdown 做成 Windows 桌面版:拖进文档就出 Markdown,附 233MB→64MB 打包裁剪全过程
python
用户080775907859 小时前
昇腾 NPU 从零部署推理模型 · 完整决策与操作指南
深度学习
AliCloudROS9 小时前
5~7 分钟跑通第一个 Agentic RL 训练:我们把 verl 全链路做成了计算巢一键服务
深度学习·强化学习
启观川9 小时前
数据结构与算法-第 3 章 常用算法-贪心算法
数据结构·笔记·python·算法·贪心算法