Win10安装TensorRT

目录

什么是TensorRT

下载TensorRT

安装TensorRT

拷贝文件

安装whl文件

验证是否安装成功


什么是TensorRT

TensorRT是由Nvidia推出的C++语言开发的高性能神经网络推理库,是一个用于生成部署的优化器和运行时引擎。和cudnn类似,但它不支持训练,只支持模型推理。且比cudnn模型推理效率更高。

下载TensorRT

官网下载地址。根据已经安装的CUDA Driver版本决定TensorRT的安装版本。

EA ,即Early Access,抢先体验版本;

GA ,即General Availability,稳定版本;

安装TensorRT

拷贝文件

解压安装包后,如下图所示:

将bin、lib、include三个文件夹的内容分别拷贝到CUDA安装目录对应的文件夹中。

注意:dll可能在lib文件夹中,不在bin文件夹中。需要将dll拷贝到CUDA安装目录下的bin文件夹中

安装whl文件

使用pip install命令安装graphsurgeon、onnx_graphsurgeon、uff、python文件夹内的whl文件。

举例说明:

进入到graphsurgeon文件内

在路径栏输入:cmd,并按下回车键,会弹出命令窗口

在命令窗口中输入:pip install graphsurgeon-0.4.6-py2.py3-none-any.whl,按下回撤完成安装

需要注意的是,python文件夹内包含多个文件。根据电脑中安装的python版本选择安装哪一个文件。我的python版本为3.11,因此安装下图箭头所示的文件。lean是精简版,dispatch是包含动态调度的版本,这两个版本可以不安装。

验证是否安装成功

打开命令窗口,输入pyhton,输入import tensorrt,再输入tensorrt.version,显示版本代表安装成功。

相关推荐
果冻人工智能5 分钟前
“AI” 死神要来夺你的饭碗了吗?
人工智能
Array90224 分钟前
神经网络基础
人工智能·深度学习·神经网络
六边形战士DONK28 分钟前
0_Pytorch中的张量操作
人工智能·pytorch·python
机器鱼35 分钟前
MATLAB基于统计特征与指数退化模型的风力发电机高速轴承剩余寿命预测
人工智能·算法·机器学习
山北雨夜漫步43 分钟前
机器学习 Day09 线性回归
人工智能·机器学习·线性回归
shelly聊AI1 小时前
Meta上新Llama 4,到底行不行?
人工智能·llama
孔令飞2 小时前
22 | 如何继续提升 Go 开发技术?
人工智能·ai·云原生·golang·kubernetes
点我头像干啥2 小时前
机器学习中的聚类分析算法:原理与应用
人工智能·算法·机器学习
Shockang2 小时前
机器学习的一百个概念(9)学习曲线
人工智能·机器学习
WoShop商城源码2 小时前
武汉迅狐科技:AI赋能企业营销,打造智能获客新范式
大数据·人工智能·科技