【踩坑】PyTorch中指定GPU不生效和GPU编号不一致问题

小锋学长生活大爆炸2024-02-28 21:51

转载请注明出处：小锋学长生活大爆炸[xfxuezhang.cn]

指定GPU不生效问题

**解释：**就是使用os.environ["CUDA_VISIBLE_DEVICES"] = "1"后，后面使用起来仍然是cuda0.

**解决：**在最开头就使用

python 复制代码

import os
os.environ["CUDA_VISIBLE_DEVICES"] = "0,2"

# xxxxxx其它代码

不过需要注意的是，这样设置之后，GPU的编号会变

**解释：**torch.device("cuda:0")所选择的GPU跟nvidia-smi中的GPU编号不一样

**解决：**指定编号方式

python 复制代码

import os
os.environ["CUDA_DEVICE_ORDER"]="PCI_BUS_ID"

# xxxxxx其它代码