1. 下载
下载推理库(GPU版本的)注意:与CPU版本的区别,其他可参考CPU版本的下载
查看推理库中的版本下载,一定要下载对应版本,如图:
2. 安装编译环境
2.1 CUDA 安装、配置
(1)双击CUDA安装,完成后检查环境变量:
(2)解压cudnn拷贝到CDUA对应目录(C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2),如图:
(3)解压 TersorRt 复制带CUDA对应目录下:
(4)重启电脑,查看CUDA是否配置成功。
2.2 编译
2.2.1 cmake 编译生成 vs工程
2.2.2 修改源码
如有需要,可修改字符编码:
编译成功:
不过,我这里的电脑不支持独立显卡,没法测试了。。。。。