windows版:TensorRT安装教程

查看版本对应cuda与TensorRT:https://blog.csdn.net/weixin_41540237/article/details/131589929

TensorRT 下载地址:https://developer.nvidia.com/nvidia-tensorrt-7x-download

cudnn下载地址:https://developer.nvidia.com/rdp/cudnn-archive#a-collapse765-102

查看CUDA与cudnn版本

python 复制代码
import torch
print(torch.version.cuda)
print(torch.backends.cudnn.version())
print(torch.cuda.is_available(  ))

下载TensorRT :TensorRT-7.2.2.3

配置TensorRT

TensorRT-7.2.2.3\include 中头文件 拷贝到C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\include;

TensorRT-7.2.2.3\lib 中所有lib文件 拷贝C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\lib\x64;

TensorRT-7.2.2.3\lib 中所有dll文件拷贝C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.0\bin;

编译mnist例程

VS2019 打开 TensorRT-7.2.2.3\samples\sampleMNIST\sample_mnist.sln;

在VS2019中,重新生成;

报错:无法打开包括文件: "cuda_runtime.h": No such file or dir
错误原因:

没有包含cuda头文件

解决:

【项目右键】,点击【属性】,点击【配置属性】,点击【C/C++】,点击【常规】,编辑【附加包含目录】,根据CUDA的路径添加:C:\GPU\Program_Files\NVIDIAGPUToolkit\CUDA\V10.2\include

报错:无法打开输入文件"cudnn.lib"
解决办法

VC++目录的库目录添加:C:\GPU\Program_Files\NVIDIAGPUToolkit\CUDA\V10.2\lib\x64

测试

运行download_pgms.py文件

使用python运行TensorRT-7.2.2.3\data\mnist下的download_pgms.py程序。注意这里需要进入到TensorRT-7.2.2.3\data\mnist这个目录下,否则文件会下载到其他地方去

python 复制代码
python download_pgms.py
报错:The binary mode of fromstring is deprecated, as it behaves surprisingly on unicode inputs. Use frombuffer instead raw_buf = np.fromstring(buffer, dtype=np.uint8)
解决

np.fromstring修改成 np.frombuffer

在进行运行:
python 复制代码
python download_pgms.py
出现数据集表示下载成功

运行:sample_mnist.exe

D:\TensorRT\TensorRT-7.2.2.3.Windows10.x86_64.cuda-10.2.cudnn8.0\TensorRT-7.2.2.3\bin文件夹下运行sample_mnist.exe --datadir=D:\TensorRT\TensorRT-7.2.2.3.Windows10.x86_64.cuda-10.2.cudnn8.0\TensorRT-7.2.2.3\data\mnist\

报错:由于找不到cudann64_8.dll,无法继续执行代码

这个报错不是没有安装cudann就是cudann版本太低了

下载:cudnn-10.2-windows10-x64-v8.0.4.30

这个有对应的:cudann64_8.dl

将复制到下面文件夹复制到C:\GPU\Program_Files\NVIDIAGPUToolkit\CUDA\V10.2


再从新运行
python 复制代码
sample_mnist.exe --datadir=D:\TensorRT\TensorRT-7.2.2.3.Windows10.x86_64.cuda-10.2.cudnn8.0\TensorRT-7.2.2.3\data\mnist\
相关推荐
阿拉-M831 天前
IntelliJ IDEA Windows 系统高频快捷键使用手册
java·windows·intellij-idea
lingggggaaaa1 天前
小迪安全v2023学习笔记(一百三十四讲)—— Windows权限提升篇&数据库篇&MySQL&MSSQL&Oracle&自动化项目
java·数据库·windows·笔记·学习·安全·网络安全
是店小二呀1 天前
远程办公自由:rdesktop+cpolar让Windows桌面随身而行
windows
油丶酸萝卜别吃1 天前
java8中常用的工具函数
windows
Bruce_Liuxiaowei1 天前
Win7虚拟机加入域错误排查指南:解决无法启动服务问题
运维·网络·windows·安全·网络安全
雨中风华1 天前
Windows 平台 HOOK DWM 桌面管理程序,实现输出变形的桌面图像到显示器
windows·计算机外设
做咩啊~1 天前
Windows家庭版远程时提示‘这可能是因为在远程计算机上阻止 NTLM 身份验证 这也可能是由于 CredSSP 加密 Oracle 修正所导致的。’
windows
淮北4942 天前
windows安装minicoda
windows·python·conda
takashi_void2 天前
如何在本地部署大语言模型(Windows,Mac,Linux)三系统教程
linux·人工智能·windows·macos·语言模型·nlp
非凡ghost2 天前
Typora(跨平台MarkDown编辑器) v1.12.2 中文绿色版
前端·windows·智能手机·编辑器·软件需求