【技术】TensorRT 10.7 安装指南(Ubuntu22.04)

原文链接:https://mengwoods.github.io/post/tech/008-tensorrt-installation/

本文安装的版本如下:

Ubuntu 22.04

Nvidia Driver 538.78

CUDA 12.2

cuDNN 8.9.7

TensorRT 10.7

安装前的准备(可选)

在安装新版本之前,先卸载已有的 NVIDIA 驱动、CUDA、cuDNN 和 TensorRT,以避免冲突。

bash 复制代码
sudo apt remove --purge '^nvidia-.*' '^cuda.*' '^libcuda.*' '^libnvidia.*' '^tensorrt.*' '^cudnn.*'
sudo apt autoremove -y
sudo apt clean
# Remove CUDA Toolkit and Related Files
sudo rm -rf /usr/local/cuda*
sudo rm -rf /usr/lib/cuda*
# Remove NVIDIA Repository (If Installed)
sudo rm -f /etc/apt/sources.list.d/cuda*
sudo rm -f /etc/apt/sources.list.d/nvidia-*
# update your package lis
sudo apt update

验证卸载:

bash 复制代码
dpkg -l | grep -E 'cuda|nvidia|tensorrt|cudnn'

重新启动系统:

bash 复制代码
sudo reboot

重新启动后,检查是否卸载干净:

bash 复制代码
# Check Nvidia driver
nvidia-smi
# check CUDA
which nvcc

安装 NVIDIA 驱动

https://www.nvidia.com/en-us/drivers/

bash 复制代码
# install the latest supported driver
sudo ubuntu-drivers autoinstall
# install the specific version
sudo apt install nvidia-driver-xxx

安装 CUDA v12.2

https://developer.nvidia.com/cuda-12-2-0-download-archive

前往 CUDA 下载页面 获取安装说明,或直接使用以下命令(适用于 Ubuntu 22.04 x86_64)

bash 复制代码
wget https://developer.download.nvidia.com/compute/cuda/repos/ubuntu2204/x86_64/cuda-keyring_1.1-1_all.deb
sudo dpkg -i cuda-keyring_1.1-1_all.deb
sudo apt-get update
sudo apt-get -y install cuda
sudo apt-get install nvidia-cuda-toolkit

配置环境变量

bash 复制代码
# Update cuda path to .bashrc
echo 'export PATH=/usr/local/cuda-12.8/bin:$PATH' >> ~/.bashrc
echo 'export LD_LIBRARY_PATH=/usr/local/cuda-12.8/lib64:$LD_LIBRARY_PATH' >> ~/.bashrc
source ~/.bashrc
# 验证
nvcc --version

安装 cuDNN v8.9.7

https://developer.nvidia.com/rdp/cudnn-archive

前往 cuDNN 归档页面 下载对应 .deb 文件。

bash 复制代码
# 安装 cuDNN 相关的本地仓库
sudo dpkg -i cudnn-local-repo-ubuntu2004-8.9.7.29_1.0-1_amd64.deb
# 复制密钥(请根据你的文件夹路径调整)
sudo cp /var/cudnn-local-repo-ubuntu2004-8.9.7.29/cudnn-*-keyring.gpg /usr/share/keyrings/
# update and install
sudo apt-get update
sudo apt-get install libcudnn8
# verify installation
dpkg -l | grep cudnn

安装 TensorRT 10.7

https://developer.nvidia.com/tensorrt-getting-started

前往 TensorRT 官方页面 下载 .deb 文件。

bash 复制代码
# 安装 TensorRT 本地仓库(请确认文件名是否一致)
sudo dpkg -i nv-tensorrt-local-repo-ubuntu2204-10.7.0-cuda-12.6_1.0-1_amd64.deb
# 复制密钥(请确认文件夹路径是否正确)
sudo cp /var/nv-tensorrt-local-repo-ubuntu2204-10.7.0-cuda-12.6/nv-tensorrt-local-F234AD55-keyring.gpg /usr/share/keyrings/
# update package list
sudo apt-get update
# 安装 TensorRT
sudo apt-get install tensorrt
# 添加环境变量
echo 'export PATH=$PATH:/usr/src/tensorrt/bin' >> ~/.bashrc && source ~/.bashrc
source ~/.bashrc
# 验证安装
dpkg -l | grep nvinfer
sudo apt show tensorrt
trtexec --version
相关推荐
Francek Chen3 小时前
【深度学习计算机视觉】07:单发多框检测(SSD)
人工智能·pytorch·深度学习·计算机视觉·单发多框检测
dami_king3 小时前
RTX4090算力应用-3D
人工智能·深度学习·3d·ai
mCell11 小时前
长期以来我对 LLM 的误解
深度学习·llm·ollama
Ada's12 小时前
深度学习在自动驾驶上应用(二)
人工智能·深度学习·自动驾驶
机器学习之心13 小时前
198种组合算法+优化BiLSTM神经网络+SHAP分析+新数据预测+多输出!深度学习可解释分析,强烈安利,粉丝必备!
深度学习·神经网络·shap分析·新数据预测·198种组合算法·优化bilstm神经网络·多输出
charieli-fh14 小时前
指令微调数据评估与影响:构建高质量大语言模型的关键
人工智能·深度学习·语言模型
Coovally AI模型快速验证14 小时前
从避障到实时建图:机器学习如何让无人机更智能、更安全、更实用(附微型机载演示示例)
人工智能·深度学习·神经网络·学习·安全·机器学习·无人机
没有梦想的咸鱼185-1037-166314 小时前
【遥感技术】从CNN到Transformer:基于PyTorch的遥感影像、无人机影像的地物分类、目标检测、语义分割和点云分类
pytorch·python·深度学习·机器学习·数据分析·cnn·transformer
cyyt15 小时前
深度学习周报(9.15~9.21)
人工智能·深度学习·量子计算
红苕稀饭66616 小时前
VideoChat-Flash论文阅读
人工智能·深度学习·机器学习