在MAC环境中安装unsloth

在MAC环境中安装unsloth

文章目录

  • 在MAC环境中安装unsloth
    • [1. 背景](#1. 背景)
    • [2. 排查](#2. 排查)
    • [3. 下载MAC版unsloth项目分支的源码](#3. 下载MAC版unsloth项目分支的源码)
    • [4. 创建环境与安装](#4. 创建环境与安装)
    • [5. 测试](#5. 测试)
    • [6. 参考资料](#6. 参考资料)

本文简单介绍如何在Mac操作系统中安装 unsloth. unsloth是一款对大模型进行微调的开发者工具。

1. 背景

我的电脑是MAC, 跟着教程安装 unsloth 一直报错.

复制代码
Building wheels for collected packages: xformers
  Building wheel for xformers (pyproject.toml) ... error
  error: subprocess-exited-with-error

  × Building wheel for xformers (pyproject.toml) did not run successfully.
  │ exit code: 1
  ╰─> [213 lines of output]
      /.../lib/python3.11/site-packages/torch/
        _subclasses/functional_tensor.py:279: 
    UserWarning: Failed to initialize NumPy: 
    No module named 'numpy' (Triggered internally at 
      /Users/runner/work/pytorch/pytorch/pytorch/
        torch/csrc/utils/tensor_numpy.cpp:81.)
        cpu = _conversion_method_template(device=torch.device("cpu"))

看报错信息说没有 'numpy' 模块, 网上资料说是 'numpy' 版本不兼容。

2. 排查

搜索 unsloth macos

Bing的人工智能说不支持MAC。

找到了一些资料:

3. 下载MAC版unsloth项目分支的源码

参考这些资料, 打开MAC版本的非官方仓库的分支页面:

https://github.com/shashikanth-a/unsloth/tree/apple_silicon_support

使用git下载代码:

复制代码
mkdir -p ~/GITHUB_ALL

cd ~/GITHUB_ALL

# apple_silicon_support分支, 只下载1个深度
git clone --depth 1 -b apple_silicon_support git@github.com:shashikanth-a/unsloth.git

也可以直接下载zip包, 完成之后解压。

https://github.com/shashikanth-a/unsloth/archive/refs/heads/apple_silicon_support.zip

4. 创建环境与安装

参考前面的文章:

适合新手的Python与神经网络学习日记

先使用conda创建一个新的环境:

sh 复制代码
# 进入目录
# cd ~/GITHUB_ALL/unsloth-apple_silicon_support
cd ~/GITHUB_ALL/unsloth

# 创建一个Python 3.12 版本的环境
conda create -y -n unsloth312 python=3.12

# 激活环境
conda activate unsloth312


# 可以查看项目的 pyproject.toml文件, 里面有多个配置
# 我们使用 huggingface 这一节来执行安装
pip install -e ".[huggingface]"

安装需要消耗一些时间,

成功的话, 会有类似下面这样的成功提示.

js 复制代码
Successfully built unsloth
Installing collected packages: 
  torchao, pytz, mpmath, xxhash, urllib3, unsloth, 
  ..., 
  transformers, datasets, trl, peft, unsloth_zoo

Successfully installed 
   ...
   transformers-4.55.2
   unsloth-2025.8.5 
   unsloth_zoo-2025.8.7
   ...

可以看到, 安装了 unsloth, unsloth_zoo 等库。

5. 测试

直接在Python的REPL环境中进行验证:

sh 复制代码
# 先进入python环境中
python

# 引入 unsloth,  如果不报错就是安装成功了。
# import unsloth 

# import unsloth_zoo
# 如果引入 unsloth_zoo 则会报错
# NotImplementedError: Unsloth currently only works on NVIDIA GPUs and Intel GPUs.

# 退出python交互环境
# quit()

6. 参考资料

参考文章: mac安装unsloth -CSDN

相关推荐
DO_Community4 小时前
普通服务器都能跑:深入了解 Qwen3-Next-80B-A3B-Instruct
人工智能·开源·llm·大语言模型·qwen
WWZZ20254 小时前
快速上手大模型:机器学习3(多元线性回归及梯度、向量化、正规方程)
人工智能·算法·机器学习·机器人·slam·具身感知
deephub5 小时前
深入BERT内核:用数学解密掩码语言模型的工作原理
人工智能·深度学习·语言模型·bert·transformer
PKNLP5 小时前
BERT系列模型
人工智能·深度学习·bert
应用市场5 小时前
构建自定义命令行工具 - 打造专属指令体
开发语言·windows·python
兰亭妙微5 小时前
ui设计公司审美积累 | 金融人工智能与用户体验 用户界面仪表盘设计
人工智能·金融·ux
东方佑5 小时前
从字符串中提取重复子串的Python算法解析
windows·python·算法
AKAMAI6 小时前
安全风暴的绝地反击 :从告警地狱到智能防护
运维·人工智能·云计算
岁月宁静6 小时前
深度定制:在 Vue 3.5 应用中集成流式 AI 写作助手的实践
前端·vue.js·人工智能
Dfreedom.6 小时前
一文掌握Python四大核心数据结构:变量、结构体、类与枚举
开发语言·数据结构·python·变量·数据类型