windows版:TensorRT安装教程

查看版本对应cuda与TensorRT:https://blog.csdn.net/weixin_41540237/article/details/131589929

TensorRT 下载地址:https://developer.nvidia.com/nvidia-tensorrt-7x-download

cudnn下载地址:https://developer.nvidia.com/rdp/cudnn-archive#a-collapse765-102

查看CUDA与cudnn版本

python 复制代码
import torch
print(torch.version.cuda)
print(torch.backends.cudnn.version())
print(torch.cuda.is_available(  ))

下载TensorRT :TensorRT-7.2.2.3

配置TensorRT

TensorRT-7.2.2.3\include 中头文件 拷贝到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\include;

TensorRT-7.2.2.3\lib 中所有lib文件 拷贝C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\lib\x64;

TensorRT-7.2.2.3\lib 中所有dll文件拷贝C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\bin;

编译mnist例程

VS2019 打开 TensorRT-7.2.2.3\samples\sampleMNIST\sample_mnist.sln;

在VS2019中,重新生成;

报错:无法打开包括文件: "cuda_runtime.h": No such file or dir
错误原因:

没有包含cuda头文件

解决:

【项目右键】,点击【属性】,点击【配置属性】,点击【C/C++】,点击【常规】,编辑【附加包含目录】,根据CUDA的路径添加:C:\GPU\Program_Files\NVIDIAGPUToolkit\CUDA\V10.2\include

报错:无法打开输入文件"cudnn.lib"
解决办法

VC++目录的库目录添加:C:\GPU\Program_Files\NVIDIAGPUToolkit\CUDA\V10.2\lib\x64

测试

运行download_pgms.py文件

使用python运行TensorRT-7.2.2.3\data\mnist下的download_pgms.py程序。注意这里需要进入到TensorRT-7.2.2.3\data\mnist这个目录下,否则文件会下载到其他地方去

python 复制代码
python download_pgms.py
报错:The binary mode of fromstring is deprecated, as it behaves surprisingly on unicode inputs. Use frombuffer instead raw_buf = np.fromstring(buffer, dtype=np.uint8)
解决

np.fromstring修改成 np.frombuffer

在进行运行:
python 复制代码
python download_pgms.py
出现数据集表示下载成功

运行:sample_mnist.exe

D:\TensorRT\TensorRT-7.2.2.3.Windows10.x86_64.cuda-10.2.cudnn8.0\TensorRT-7.2.2.3\bin文件夹下运行sample_mnist.exe --datadir=D:\TensorRT\TensorRT-7.2.2.3.Windows10.x86_64.cuda-10.2.cudnn8.0\TensorRT-7.2.2.3\data\mnist\

报错:由于找不到cudann64_8.dll,无法继续执行代码

这个报错不是没有安装cudann就是cudann版本太低了

下载:cudnn-10.2-windows10-x64-v8.0.4.30

这个有对应的:cudann64_8.dl

将复制到下面文件夹复制到C:\GPU\Program_Files\NVIDIAGPUToolkit\CUDA\V10.2


再从新运行
python 复制代码
sample_mnist.exe --datadir=D:\TensorRT\TensorRT-7.2.2.3.Windows10.x86_64.cuda-10.2.cudnn8.0\TensorRT-7.2.2.3\data\mnist\
相关推荐
荔枝吻10 小时前
【保姆级喂饭教程】Windows下安装Git Flow
windows·git·git flow
深盾科技14 小时前
深入解析 .NET 泛型:从原理到实战优化
windows·.net
石头wang17 小时前
如何在idea里快速地切换Windows CMD、git bash、powershell
windows·git·bash·intellij-idea
天高云淡ylz1 天前
各类电子设备镜像格式及文件系统统计
linux·windows·risc-v
LCG元1 天前
Windows实时内核驱动的数据捕获接口:高精度时钟与零拷贝的架构剖析
windows·架构
行者游学1 天前
windows grpcurl
windows
goxingman2 天前
Spring Data JPA基本方法调用规律
windows
泰勒朗斯2 天前
ffmpeg 中config 文件一些理解
windows·microsoft·ffmpeg
cz_r5552 天前
在使用ffmpeg时遇到了复制路径在终端输入指令后,报错的解决方法
windows
摆烂工程师2 天前
(5千字总结)国内如何安装和使用 Claude Code 的保姆级教程 - 支持Mac和Windows用户
windows·macos·claude