1. 下载
下载推理库(GPU版本的)注意:与CPU版本的区别,其他可参考CPU版本的下载

查看推理库中的版本下载,一定要下载对应版本,如图:




2. 安装编译环境
2.1 CUDA 安装、配置
(1)双击CUDA安装,完成后检查环境变量:


(2)解压cudnn拷贝到CDUA对应目录(C:\Program Files\NVIDIA GPU Computing Toolkit\CUDA\v10.2),如图:

(3)解压 TersorRt 复制带CUDA对应目录下:

(4)重启电脑,查看CUDA是否配置成功。

2.2 编译
2.2.1 cmake 编译生成 vs工程

2.2.2 修改源码

如有需要,可修改字符编码:

编译成功:

不过,我这里的电脑不支持独立显卡,没法测试了。。。。。
