【Windows 开发环境配置——NVIDIA 篇】CUDA、cuDNN、TensorRT 三件套安装

CUDA

从CUDA Toolkit Archive下载相应版本的离线安装包,这里以11.7为例。

打开安装包,在安装选项 选择自定义 模式,点击下一步。

在自定义安装选项 中,仅选择CUDA 组件(其中Nsight 相关组件用于代码调试与性能分析),若未安装显卡驱动,选择NVIDIA GeForce Experience components 并点击下一步。

可能会出现如下图提示,警告你未安装Visual Studio (可参考【Windows 开发环境配置】C++ 篇 安装),这里打勾点击下一步即可。

安装完成后会自动添加到系统的PATH环境变量,无需手动添加。

cuDNN

从cuDNN Archive下载相应版本的安装包,这里以8.4.1.50为例。

下载完成后,将解压缩包中的文件复制到C:\Program Files\NVIDIA GPU Computing Toolkit\cuDNN\v8.4.1.50目录下。

将C:\Program Files\NVIDIA GPU Computing Toolkit\cuDNN\v8.4.1.50\bin添加到系统的PATH环境变量。

Zlib

Zlib是cuDNN所需的数据压缩软件库。在ZLib网站下载32bit或64bit的zlib123dll.zip(一般为64bit)。

下载完成后,将解压缩包中的zlibwapi.dll文件复制到C:\Program Files\NVIDIA GPU Computing Toolkit\cuDNN\v8.4.1.50\bin目录下,zlibwapi.lib文件复制到C:\Program Files\NVIDIA GPU Computing Toolkit\cuDNN\v8.4.1.50\lib目录下。

TensorRT

从NVIDIA TensorRT 8.x Download下载相应版本的安装包,这里以8.4.2.4为例。

下载完成后,将解压缩包中的文件复制到C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT\v8.4.2.4目录下。

将C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT\v8.4.2.4\bin添加到系统的PATH环境变量。

TensorRT Python 包安装

在终端打开C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT\v8.4.2.4\python目录,以python 3.10为例,输入pip install tensorrt-8.4.2.4-cp310-none-win_amd64.whl即可安装。

ONNX GraphSurgeon 包安装

在终端打开C:\Program Files\NVIDIA GPU Computing Toolkit\TensorRT\v8.4.2.4\onnx_graphsurgeon目录,输入pip install onnx_graphsurgeon-0.3.12-py2.py3-none-any.whl即可安装。

相关推荐
flyingonpine17 小时前
PowerShell脚本数字签名实战:自签名证书、代码签名与信任链验证
windows·信任链
goehou1 天前
让 AI 替我操作这台电脑,先把手能伸多远定下来
windows·自动化·权限管理·ai agent
公子小六1 天前
基于.NET的Windows窗体编程之WinForms数据持久化(1)
windows·microsoft·c#·.net·winforms
2601_967987372 天前
安装 Redis 或 Redis Stack
linux·windows·redis·macos·安装
xbzb2 天前
自定义 yum 软件源:Linux 上 createrepo,Windows 上纯 Python 也能造
linux·运维·windows·python·yum·createrepo
武雄(小星Ai)2 天前
Ollama报llama-server binary not found排坑实录:服务活着引擎没了
人工智能·windows·大模型·ollama·排坑
叼烟扛炮2 天前
[LangChain] 学习笔记(06):突破大模型限制——结构化输出(Structured Output)
windows·笔记·学习·langchain
Thneonl3 天前
桌宠穿透不是一行 SetWindowLong
windows·程序员
艺杯羹4 天前
Windows原生软件锁设计:从暴力杀进程丢数据到零轮询事件驱动架构
windows·系统架构·开源·开源软件·内存管理·开源协议
csdn_aspnet4 天前
Redis 入门:Windows、Mac安装指南
数据库·windows·redis·缓存·mac