Win10安装TensorRT

目录

什么是TensorRT

下载TensorRT

安装TensorRT

拷贝文件

安装whl文件

验证是否安装成功


什么是TensorRT

TensorRT是由Nvidia推出的C++语言开发的高性能神经网络推理库,是一个用于生成部署的优化器和运行时引擎。和cudnn类似,但它不支持训练,只支持模型推理。且比cudnn模型推理效率更高。

下载TensorRT

官网下载地址。根据已经安装的CUDA Driver版本决定TensorRT的安装版本。

EA ,即Early Access,抢先体验版本;

GA ,即General Availability,稳定版本;

安装TensorRT

拷贝文件

解压安装包后,如下图所示:

将bin、lib、include三个文件夹的内容分别拷贝到CUDA安装目录对应的文件夹中。

注意:dll可能在lib文件夹中,不在bin文件夹中。需要将dll拷贝到CUDA安装目录下的bin文件夹中

安装whl文件

使用pip install命令安装graphsurgeon、onnx_graphsurgeon、uff、python文件夹内的whl文件。

举例说明:

进入到graphsurgeon文件内

在路径栏输入:cmd,并按下回车键,会弹出命令窗口

在命令窗口中输入:pip install graphsurgeon-0.4.6-py2.py3-none-any.whl,按下回撤完成安装

需要注意的是,python文件夹内包含多个文件。根据电脑中安装的python版本选择安装哪一个文件。我的python版本为3.11,因此安装下图箭头所示的文件。lean是精简版,dispatch是包含动态调度的版本,这两个版本可以不安装。

验证是否安装成功

打开命令窗口,输入pyhton,输入import tensorrt,再输入tensorrt.version,显示版本代表安装成功。

相关推荐
荔枝味啊~4 分钟前
相机位姿估计
人工智能·计算机视觉·3d
陈纬度啊1 小时前
自动驾驶ROS2应用技术详解
人工智能·自动驾驶·unix
开开心心_Every1 小时前
全能视频处理工具介绍说明
开发语言·人工智能·django·pdf·flask·c#·音视频
xunberg1 小时前
AI Agent 实战:将 Node-RED 创建的 MCP 设备服务接入 Dify
人工智能·mcp
江瀚视野1 小时前
美团即时零售日订单突破1.2亿,即时零售生态已成了?
大数据·人工智能·零售
KaneLogger2 小时前
AI模型与产品推荐清单20250709版
人工智能·程序员·开源
中电金信2 小时前
中电金信 :十问高质量数据集:金融大模型价值重塑有“据”可循
人工智能·金融
吕永强2 小时前
算法化资本——智能投顾技术重构金融生态的深度解析
人工智能·科普
新智元2 小时前
奥特曼:再也不和小扎说话!OpenAI 偷袭小扎马斯克,反手挖 4 核心员工
人工智能·openai
新智元2 小时前
CS 专业爆冷,失业率达艺术史 2 倍!年入千万只需 5 年,大学却在禁 Cursor
人工智能·openai