windows版:TensorRT安装教程

查看版本对应cuda与TensorRT:https://blog.csdn.net/weixin_41540237/article/details/131589929

TensorRT 下载地址:https://developer.nvidia.com/nvidia-tensorrt-7x-download

cudnn下载地址:https://developer.nvidia.com/rdp/cudnn-archive#a-collapse765-102

查看CUDA与cudnn版本

python 复制代码
import torch
print(torch.version.cuda)
print(torch.backends.cudnn.version())
print(torch.cuda.is_available(  ))

下载TensorRT :TensorRT-7.2.2.3

配置TensorRT

TensorRT-7.2.2.3\include 中头文件 拷贝到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\include;

TensorRT-7.2.2.3\lib 中所有lib文件 拷贝C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\lib\x64;

TensorRT-7.2.2.3\lib 中所有dll文件拷贝C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\bin;

编译mnist例程

VS2019 打开 TensorRT-7.2.2.3\samples\sampleMNIST\sample_mnist.sln;

在VS2019中,重新生成;

报错:无法打开包括文件: "cuda_runtime.h": No such file or dir
错误原因:

没有包含cuda头文件

解决:

【项目右键】,点击【属性】,点击【配置属性】,点击【C/C++】,点击【常规】,编辑【附加包含目录】,根据CUDA的路径添加:C:\GPU\Program_Files\NVIDIAGPUToolkit\CUDA\V10.2\include

报错:无法打开输入文件"cudnn.lib"
解决办法

VC++目录的库目录添加:C:\GPU\Program_Files\NVIDIAGPUToolkit\CUDA\V10.2\lib\x64

测试

运行download_pgms.py文件

使用python运行TensorRT-7.2.2.3\data\mnist下的download_pgms.py程序。注意这里需要进入到TensorRT-7.2.2.3\data\mnist这个目录下,否则文件会下载到其他地方去

python 复制代码
python download_pgms.py
报错:The binary mode of fromstring is deprecated, as it behaves surprisingly on unicode inputs. Use frombuffer instead raw_buf = np.fromstring(buffer, dtype=np.uint8)
解决

np.fromstring修改成 np.frombuffer

在进行运行:
python 复制代码
python download_pgms.py
出现数据集表示下载成功

运行:sample_mnist.exe

D:\TensorRT\TensorRT-7.2.2.3.Windows10.x86_64.cuda-10.2.cudnn8.0\TensorRT-7.2.2.3\bin文件夹下运行sample_mnist.exe --datadir=D:\TensorRT\TensorRT-7.2.2.3.Windows10.x86_64.cuda-10.2.cudnn8.0\TensorRT-7.2.2.3\data\mnist\

报错:由于找不到cudann64_8.dll,无法继续执行代码

这个报错不是没有安装cudann就是cudann版本太低了

下载:cudnn-10.2-windows10-x64-v8.0.4.30

这个有对应的:cudann64_8.dl

将复制到下面文件夹复制到C:\GPU\Program_Files\NVIDIAGPUToolkit\CUDA\V10.2


再从新运行
python 复制代码
sample_mnist.exe --datadir=D:\TensorRT\TensorRT-7.2.2.3.Windows10.x86_64.cuda-10.2.cudnn8.0\TensorRT-7.2.2.3\data\mnist\
相关推荐
blackorbird30 分钟前
使用 Overpass Turbo 查找监控摄像头
运维·服务器·数据库·windows
zhuyasen12 小时前
踩坑实录:Go 1.25.x 编译的 exe 在 Windows 提示“此应用无法运行”
windows·golang
千歌叹尽执夏13 小时前
ubuntu24.04lts和Windows11家庭版远程桌面连接若干问题(解决)
windows·远程连接·xrdp·ubuntu24.04lts
sukalot21 小时前
Windows显示驱动开发-支持显示输出和 ACPI 事件
windows
爱隐身的官人21 小时前
Windows安全狗安装教程
windows·安全·安全设备
wulitoud1 天前
[好用工具] 一款mac/windows电脑历史剪切板工具,类似著名的Paste
windows·macos·sublime text
APItesterCris1 天前
构建弹性数据管道:利用淘宝商品 API 进行流式数据采集与处理
linux·数据库·windows
奋斗羊羊1 天前
【C++】使用MSBuild命令行编译ACE、TAO、DDS
开发语言·c++·windows
郁大锤1 天前
在 Windows 下安装与快速上手 Wireshark(抓包工具)
windows·测试工具·wireshark
路由侠内网穿透1 天前
本地部署开源持续集成和持续部署系统 Woodpecker CI 并实现外部访问
服务器·网络·windows·ci/cd·开源