很多喜欢本地部署 AI 项目的朋友,总是追着英伟达最新显卡跑。RTX 4090 刚出时,迫不及待换上,体验飞一般的算力。RTX 5090 发布后,又是一波抢购热潮。然而,装上 5090 后,悲剧出现了:程序跑不动 GPU 加速,速度慢得像乌龟,甚至直接报错崩溃,连启动都成问题!


vbnet
NVIDIA GeForce RTX 5070 Ti with CUDA capability sm_120 is not compatible with the current PyTorch installation.
The current PyTorch install supports CUDA capabilities sm_50 sm_60 sm_61 sm_70 sm_75 sm_80 sm_86 sm_90.
...
RuntimeError: CUDA error: no kernel image is available for execution on the device
有人怀疑是 CUDA 版本或 PyTorch 版本太低,于是升级到 CUDA 12.8、PyTorch 2.6,结果问题还是没解决。
其实,原因很简单:RTX 4090 和 RTX 5090 的底层架构不同,torch库不兼容。
4090 用的是 Ada Lovelace 架构,而 5090 用的是全新 Blackwell 架构。目前的 PyTorch 官方版本还没完全支持 5090 的 Blackwell 核心,所以更新也没用。
那难道 5090 就没法用了吗?当然不是!下面提供两种解决方法,专为 Windows 和 Linux 用户设计,简单易懂,跟着做就能搞定。咱们一步步来!
首先升级到 CUDA12.8
方法一:安装 PyTorch 日更版(Nightly )
- 这是 PyTorch 的"每日更新版",已经开始支持 5090 的 Blackwell 架构,能凑合用。
- 缺点是不够稳定,可能偶尔出点小问题,但基本能跑起来。
Windows 用户安装步骤
根据项目部署方式选择不同安装方式
- 源码部署方式 :如果你是自己搭建的环境,先激活虚拟环境: 例如输入
venv\Scripts\activate
,看到(venv)
前缀表示成功(仅为示例,以实际虚拟环境为准)。 - 整合包方式 :搜索
python.exe
,找到后进入该文件夹,地址栏输入cmd
后回车,在打开的终端中输入python -m
,输入后先不要回车执行,看下一步粘贴命令。 - 安装 PyTorch 日更版命令
css
pip install --pre torch torchvision torchaudio --index-url https://download.pytorch.org/whl/nightly/cu128
- 在命令行中粘贴命令,回车运行,耐心等待安装完成。
Linux 用户安装步骤
- 激活虚拟环境 例如输入
source venv/bin/activate
,看到(venv)
前缀表示成功(同样仅为示例,以实际环境名称为准)。 - 安装 PyTorch 日更版命令
css
pip3 install --pre torch torchvision torchaudio --index-url https://download.pytorch.org/whl/nightly/cu128
- 在终端粘贴命令,回车运行。
注意:日更版可能不稳定,如果跑项目时出错,可以试试方法二。
方法二:安装第三方 PyTorch 包
- 这是社区提供的 PyTorch 版本(基于 2.6.0),已适配 5090,实测比较稳定。
- 缺点是缺少
torchaudio
库,如果项目需要用torchaudio处理音频,可能会报错。
首先需要下载 whl 文件
- 打开网页:
https://huggingface.co/w-e-w/torch-2.6.0-cu128.nv
- 拉到页面底部,找到你的 Python 版本(比如 3.10 表示 Python 3.10,3.11 表示 3.11)。
- 每个版本有 2 个
.whl
文件(torch
和torchvision
),点击链接下载。 - 把两个文件放到一个没有空格的文件夹 ,否则可能失败(比如
D:\download
或/home/user/temp
)。

Windows 用户安装
根据项目的部署方式,选择不同安装方式
- 源码部署方式 :
- 打开命令行(Win + R,输入
cmd
回车)。 - 进入虚拟环境:例如输入
venv\Scripts\activate
,看到(venv)
前缀。 - 输入安装命令:
- 打开命令行(Win + R,输入
arduino
pip install --force-reinstall "路径\到\第一个.whl" "路径\到\第二个.whl"
或者直接拖动文件:输入 pip install --force-reinstall
,然后把两个 .whl
文件拖到窗口,两个whl文件中间需要加空格,回车运行。
- 整合包方式 :
- 搜索
python.exe
,如果找到,进入该文件夹,地址栏输入cmd
回车打开cmd控制台 - 输入安装命令
- 搜索
arduino
python -m pip install --force-reinstall "路径\到\第一个.whl" "路径\到\第二个.whl"
或在输入python -m pip install --force-reinstall
后,直接拖动这2个文件到cmd终端,回车执行
Linux 用户
- 进入虚拟环境 打开终端,输入
source venv/bin/activate
。 - 安装 .whl 文件 输入命令:
css
pip3 install --force-reinstall /路径/到/第一个.whl /路径/到/第二个.whl
或者直接拖动两个 .whl
文件到终端,2个whl文件中间加空格,回车运行。
哪个方法更好?
- 优先试方法一:日更版功能齐全,更新快,适合大多数情况。
- 备用方法二 :第三方包更稳定,但缺
torchaudio
,适合不依赖音频的项目。 - 终极解决:等 PyTorch 官方支持 5090 的稳定版(可能要几个月),到时直接用官方版本最省心。
常见问题
- 安装时提示whl文件不存在或 No such file
- 可能你的 whl 保存在有空格的文件夹名称或路径下,在执行命令时被当做参数了.
- 解决方法是:复制whl文件到没有空格的文件夹中,确保该路径从盘符开始到结束都无空格。或者使用英文双引号
"
将 whl 名称包裹起来,例如"/路 径/到/第一个.whl"
-
安装后还是报错?
- 检查 CUDA:运行
nvidia-smi
,确认 5090 被识别,CUDA 版本是 12.8。 - 确保 Python 版本和
.whl
文件匹配(比如 Python 3.10 用 3.10)。
- 检查 CUDA:运行
-
速度还是很慢?
- 查看 GPU 使用率:Windows 用任务管理器,Linux 用
nvidia-smi
。
- 查看 GPU 使用率:Windows 用任务管理器,Linux 用
现在,你应该能让 RTX 5090 的算力跑起来了!