(4) cuda cudnn TensorRT安装及配置

文章目录

安装显卡驱动

bash 复制代码
# 查看可以安装的驱动
sudo ubuntu-drivers devices
#自己看着选一个
sudo apt install nvidia-drive-525
#验证 有显卡信息输出就正常了
nvidia-smi

cuda安装

CUDA Toolkit下载

  • 30系显卡算力8.6 ; cuda-11.1 -- 11.4算力支持 3.5-8.6
  • cuda-11.8 support for compute capability 3.5 -- 9.0
bash 复制代码
wget https://developer.download.nvidia.com/compute/cuda/11.3.0/local_installers/cuda_11.3.0_465.19.01_linux.run

sudo sh cuda_11.3.0_465.19.01_linux.run
# 只选择cuda tookit安装就行
#安装后会在/usr/local/下生成cuda和cuda-11.3目录 ,cuda是cuda-11.3软连接
#在本机有多个cuda环境时,可以重新软连接切换cuda版本

修改环境变量

bash 复制代码
vim ~/.bashrc
# 在~/.bashrc文本加入下面2句
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda/lib64
export PATH=$PATH:/usr/local/cuda/bin

# 退出~/.bashrc, 生效
source ~/.bashrc
#验证
nvcc -V
# 终端会打印cuda版本信息

cudnn安装

cudnn下载

bash 复制代码
# 8.6.0版本.tar.xz
tar -xf cudnn-linux-x86_64-8.6.0.163_cuda11-archive.tar.xz
# 注意cudnn-linux-x86_64-8.6.0.163_cuda11-archive的路径, 大家解压出来可能文件名不一致,对应自己路径即可
# 1 复制库文件
sudo cp cudnn-linux-x86_64-8.6.0.163_cuda11-archive/lib/* /usr/local/cuda-11.3/lib64/
# 2 复制头文件 
sudo cp cudnn-linux-x86_64-8.6.0.163_cuda11-archive/include/* /usr/local/cuda-11.3/include/

Tensorrt安装

下载
选择GA版本(GA通用版,EA抢先体验版)

bash 复制代码
#解压
tar -xzvf TensorRT-8.6.1.6.Linux.x86_64-gnu.cuda-11.8.tar.gz
#添加环境变量
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/your_path/TensorRT-8.6.1.6/lib
# 重新加载环境变量
source ~/.bashrc
#安装python版
cd /Path/to/TensorRT-8.6.1.6/python
pip install tensorrt-8.6.1-cp38-none-linux_x86_64.whl
#测试python trt
import tensorrt as trt
print(trt.__version__)
#测试
cd /Path/to/TensorRT-8.6.1.6/samples/sampleOnnxMNIST/
make -j8
cd ../../bin
./sample_onnx_mnist
相关推荐
九章云极AladdinEdu11 小时前
摩尔线程MUSA架构深度调优指南:从CUDA到MUSA的显存访问模式重构原则
人工智能·pytorch·深度学习·机器学习·语言模型·tensorflow·gpu算力
我爱一条柴ya15 小时前
【AI大模型】BERT微调文本分类任务实战
人工智能·pytorch·python·ai·分类·bert·ai编程
点云SLAM16 小时前
PyTorch张量(Tensor)创建的方式汇总详解和代码示例
人工智能·pytorch·python·深度学习·机器学习·张量创建方式
聚客AI17 小时前
⚡手撕Transformer心脏:从RoPE到2025 Meta三线性体积编码的跃迁
人工智能·pytorch·llm
AndrewHZ17 小时前
【图像处理基石】什么是色盲仿真技术?
图像处理·人工智能·pytorch·深度学习·计算机视觉·颜色科学·hvs
ins_lizhiming18 小时前
【人工智能】华为昇腾NPU-Vllm Ascend部署及镜像制作
人工智能·pytorch·华为·语言模型·自然语言处理
石迹耿千秋21 小时前
PyTorch多层感知机(MLP)模型构建与MNIST分类训练
pytorch·深度学习
机器学习之心1 天前
时序预测 | Pytorch实现CNN-LSTM-KAN电力负荷时间序列预测模型
pytorch·cnn·lstm·cnn-lstm-kan
咸鱼鲸1 天前
【PyTorch】PyTorch中的数据预处理操作
人工智能·pytorch·python
向左转, 向右走ˉ2 天前
目标检测中的NMS算法详解
pytorch·python·深度学习·算法·目标检测