PyTorch中apex的安装方式

apex是NVIDIA开发的基于PyTorch的混合精度训练加速神器,能够增加运算速度,并且减少显存的占用。

安装方式

需要注意的是apex的安装不能通过 pip install 的方式安装(pip install apex安装的是两个完全不同的库),需要基于Github源码安装。官方提供的安装方式如下:

python 复制代码
git clone https://github.com/NVIDIA/apex
cd apex
# if pip >= 23.1 
pip install -v --disable-pip-version-check --no-cache-dir --no-build-isolation --config-settings "--build-option=--cpp_ext" --config-settings "--build-option=--cuda_ext" ./
# otherwise
pip install -v --disable-pip-version-check --no-cache-dir --no-build-isolation --global-option="--cpp_ext" --global-option="--cuda_ext" ./

【注意】:Apex官方提供的下载命令很简单,但是安装过程中会有各种奇怪的报错。需要注意以下几点:

  • 物理服务器上安装的CUDA版本
  • 虚拟环境中安装的pytorch版本
  • 虚拟环境中安装的cudatoolkit版本 (需要与服务器上CUDA版本一致!)

以上几个版本不匹配的话,就可能会报错。所以请务必确认好版本!

报错解决

由于apex兼容性太差,按照官网安装也可能会出现一些列问题,这时可以切换下载的Git分支,尝试哪个分支能够安装成功。具体可以参考:安装apex时遇到的问题

相关推荐
sonrisa_21 小时前
collections模块
python
老兵发新帖21 小时前
LlamaFactory能做哪些?
人工智能
2202_7567496921 小时前
LLM大模型-大模型微调(常见微调方法、LoRA原理与实战、LLaMA-Factory工具部署与训练、模型量化QLoRA)
人工智能·深度学习·llama
折翼的恶魔21 小时前
数据分析:排序
python·数据分析·pandas
人有一心21 小时前
深度学习中显性特征组合的网络结构crossNet
人工智能·深度学习
机器之心21 小时前
用光学生成图像,几乎0耗电,浙大校友一作研究登Nature
人工智能·openai
天雪浪子21 小时前
Python入门教程之赋值运算符
开发语言·python
苏苏susuus1 天前
NLP:Transformer之self-attention(特别分享3)
人工智能·自然语言处理·transformer
猫天意1 天前
【目标检测】metrice_curve和loss_curve对比图可视化
人工智能·深度学习·目标检测·计算机视觉·cv
站大爷IP1 天前
5个技巧写出专业Python代码:从新手到进阶的实用指南
python