RuntimeError: CUDA error: invalid device ordinal

RuntimeError: CUDA error: invalid device ordinal

报错分析:

如果你在运行代码时报错:

py 复制代码
RuntimeError: CUDA error: invalid device ordinal

这个错误通常表示您指定的 GPU 设备编号不存在或不可用。

可能原因1:设置CUDA_VISIBLE_DEVICES的问题

我回顾一下我是怎么遇到的这个问题:

  1. 我在sh文件里写了一句:CUDA_VISIBLE_DEVICES="1"
  2. 我在sh调用的py文件里又写了一句os.environ["CUDA_VISIBLE_DEVICES"] = "1"
  3. 之后运行程序报错。

报错原因:

  1. 我在sh文件里设置CUDA_VISIBLE_DEVICES="1"来运行程序,这意味着py程序只能看见一张GPU卡,也就是1号卡 。

  2. 这一张1号卡,通过物理设备编号到虚拟设备编号的映射,因为GPU卡号索引从0开始,py程序认为整个设备只有一张0号GPU卡。

  3. 这时我再在py文件里加一句os.environ["CUDA_VISIBLE_DEVICES"] = "1",让其在只认为程序有一张0号卡的时候运行1号卡,它就会报错,认为GPU设备编号不存在。

解决办法:

把py文件里的os.environ["CUDA_VISIBLE_DEVICES"] = "1"删掉即可,只在sh文件里输入指定的卡号即可。

可能原因2:硬件或驱动原因

系统可能确实没有那么多卡,或驱动没装好

解决方法:

  1. 检查GPU数量和设备编号:
    • 使用nvidia-smi命令来查看系统中可用的GPU数量和它们的编号。确保你的代码中使用的设备编号与nvidia-smi显示的编号相匹配。
  2. 访问NVIDIA官网,下载并安装与你的GPU型号和系统相匹配的最新驱动。 确保安装了正确版本的CUDA工具包,并且与你的GPU驱动兼容。
  3. 检查代码中的设备选择逻辑:仔细审查你的代码,特别是与CUDA设备选择和初始化相关的部分。确保在尝试使用CUDA设备之前,已经正确地选择了存在的设备。可以使用如下两条命令来检查设备选择逻辑。
    • print(torch.cuda.device_count())
    • print(torch.cuda.current_device())

参考资料

  1. 我自己的实验
  2. 已解决RuntimeError: CUDA error: invalid device ordinal 亲测有效!!!
相关推荐
IT古董13 分钟前
【第五章:计算机视觉-项目实战之图像分割实战】1.图像分割理论-(2)图像分割衍生:语义分割、实例分割、弱监督语义分割
人工智能·计算机视觉
pop_opo_16 分钟前
使用 Python + Pygame 键盘控制无人机(AirSim)
python·无人机·pygame
程序猿老罗2 小时前
使用Python轻松实现Word到PDF的批量转换
python·pdf·word
大明者省2 小时前
《青花》歌曲,使用3D表现出意境
人工智能
一朵小红花HH2 小时前
SimpleBEV:改进的激光雷达-摄像头融合架构用于三维目标检测
论文阅读·人工智能·深度学习·目标检测·机器学习·计算机视觉·3d
Daitu_Adam2 小时前
R语言——ggmap包可视化地图
人工智能·数据分析·r语言·数据可视化
weixin_377634842 小时前
【阿里DeepResearch】写作组件WebWeaver详解
人工智能
AndrewHZ2 小时前
【AI算力系统设计分析】1000PetaOps 算力云计算系统设计方案(大模型训练推理专项版)
人工智能·深度学习·llm·云计算·模型部署·大模型推理·算力平台
AI_gurubar3 小时前
[NeurIPS‘25] AI infra / ML sys 论文(解析)合集
人工智能
胡耀超3 小时前
PaddleLabel百度飞桨Al Studio图像标注平台安装和使用指南(包冲突 using the ‘flask‘ extra、眼底医疗分割数据集演示)
人工智能·百度·开源·paddlepaddle·图像识别·图像标注·paddlelabel