win操作系统下安装Deepspeed

1. 准备cunda环境

下载cuda、cudnn,

CUDA Toolkit Archive | NVIDIA Developerhttps://developer.nvidia.com/cuda-toolkit-archive

Log in | NVIDIA Developerhttps://developer.nvidia.com/rdp/cudnn-download 选择版本可以参考里的Index of /anaconda/cloud/pytorch/win-64/ | 清华大学开源软件镜像站 | Tsinghua Open Source Mirrorpytorch版本信息

具体流程可以参考【精选】CUDA安装教程(超详细)_Billie使劲学的博客-CSDN博客

2. 安装nvcc

下载安装包:

https://visualstudio.microsoft.com/zh-hans/thank-you-downloading-visual-studio/?sku=Community\&channel=Release\&version=VS2022\&source=VSLandingPage\&cid=2030\&passive=false

需要选择"使用c++桌面开发",之后按提示安装即可,最后按提示重启操作系统,在cmd窗口输入nvcc -v,即可查看安装信息

3. 安装pytorch环境

conda install pytorch=2.0.1 torchvision torchaudio pytorch-cuda=11.7 -c pytorch -c nvidia

其中pytorch的版本需要根据需要调整

如果使用清华源安装pytorch,使用如下命令:

conda config --add channels https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud/pytorch/win-64/

conda install pytorch=2.0.1 torchvision torchaudio pytorch-cuda=11.7 -c nvidia

安装完成后,需要推出conda的powershell prompt命令行,重新打开。否则python环境有可能会提示找不到torch

4. 从github上获取deepspeed代码

经过测试发现,pip install方式获取的deepspeed代码是无法在windows下使用的,所以需要根据requirements.txt上要求的版本从github上clone或直接从release里下载对应的版本。

比如,0.9.2版本的下载路径是:https://github.com/microsoft/DeepSpeed/archive/refs/tags/v0.9.2.zip

5. 编译代码

需要"以管理员身份运行"启动anaconda的powershell prompt命令行程序,执行

build_win.bat

报错1:

csrc/transformer/inference/csrc/pt_binding.cpp(537): error C2398: 元素"2": 从"size_t"转换为"_Ty"需要收缩转换

可以参考:

如何在window10安装DeepSpeed chat(补充编译报错C2398部分)_deepspeed安装-CSDN博客

修改csrc/transformer/inference/csrc/pt_binding.cpp,加入(unsigned)

报错2:

LINK : fatal error LNK1181: 无法打开输入文件"aio.lib"

参考Win11系统下安装Deepspeed报错处理_vah101的博客-CSDN博客

6. 配置环境变量

编译完成后,在deepspeed的bin目录下,生产了deepspeed可执行文件,之后可以将deepspeed的bin目录增加到系统环境变量中配置path里,直接在命令行执行deepspeed不报错,就说明成功。

7. 使用的注意事项

此后,在安装其他的应用中,如果requirements.txt有deepspeed,需要将其deepspeed注释掉

相关推荐
私人珍藏库1 天前
[吾爱大神原创工具] QtScreenSwitcher[Win]一个现代化、极简、高颜值的多屏开关工具。
windows·工具·软件·win·多功能
competes1 天前
慈善基金投资底层逻辑应用 顶层代码低代码配置平台开发结构方式数据存储模块
java·开发语言·数据库·windows·sql
零号全栈寒江独钓1 天前
基于c/c++实现linux/windows跨平台获取ntp网络时间戳
linux·c语言·c++·windows
dyxal2 天前
内网 Windows 离线安装 uv:极速 Python 包管理器的部署实战
windows·python·uv
stone08232 天前
如何解决Windows硬盘变成了空白
windows
零号全栈寒江独钓2 天前
基于c/c++实现linux/windows跨平台ntp时间戳服务器
linux·c语言·c++·windows
舒一笑2 天前
Windows 下执行 pnpm install 报 EBUSY: resource busy or locked,我最后用这一招解决了
前端·windows·程序员
hERS EOUS2 天前
Redis 下载与安装 教程 windows版
数据库·windows·redis
爱吃香蕉的阿豪2 天前
Mac 远程操作 Windows 开发:ZeroTier + JetBrains 实战指南
windows·macos·zerotoer
YJlio2 天前
2026年4月18日60秒读懂世界:从神舟二十号出舱到L2新国标公示,今天最值得关注的6个信号
windows·python·django·计算机外设·电脑·outlook·eixv3