ubuntu24安装cuda和cudnn

一、安装cuda

确保显卡驱动正确安装

bash 复制代码
终端输入:
nvidia-smi

显示下面结果,说明显卡驱动安装正常,可以进行下一步
1.去官网下载CUDA,需要注册账号下载

https://developer.nvidia.com/cuda-toolkit-archive由于我们显卡支持12.2,因此为了保险起见,我们安装低一个版本的cudn,选择12.1安装,在上述界面中点击"CUDA Toolkit 12.1.1(July 2023), Versioned Online Documentation",然后进去下面界面
2. 然后执行下面命令进行下载安装

bash 复制代码
wget https://developer.download.nvidia.com/compute/cuda/12.1.1/local_installers/cuda_12.1.1_530.30.02_linux.run

sudo sh cuda_12.1.1_530.30.02_linux.run

进入以下界面
点击Continue""

输入"accept"

在这里,按"空格"键取消Driver,因为前面已经安装过驱动,再次安装可能出现冲突。然后选择"Install"

3.等待安装完成之后,配置环境变量。

bash 复制代码
export PATH=$PATH:/usr/local/cuda-12.1/bin
export LD_LIBRARY_PATH=$LD_LIBRARY_PATH:/usr/local/cuda-12.1/lib64
export CUDA_HOME=$CUDA_HOME:/usr/local/cuda-12.1
source ~/ .bashrc
  1. 上述完成之后,再输入
bash 复制代码
nvcc -V

输出下面信息,表示安装成功

二、安装cudnn

1.去官网下载对应的cudnn

bash 复制代码
https://developer.nvidia.com/rdp/cudnn-download

2.依次执行下面命令进行安装

bash 复制代码
wget https://developer.download.nvidia.com/compute/cudnn/9.3.0/local_installers/cudnn-local-repo-ubuntu2404-9.3.0_1.0-1_amd64.deb
sudo dpkg -i cudnn-local-repo-ubuntu2404-9.3.0_1.0-1_amd64.debsudo 
cp /var/cudnn-local-repo-ubuntu2404-9.3.0/cudnn-*-keyring.gpg /usr/share/keyrings/(这句话在执行上面安装完成之后界面会显示,直接复制界面中提示的执行即可)
sudo apt-get updatesudo apt-get -y install cudnn
sudo apt-get -y install cudnn-cuda-12

3.为了确保下面拷贝的程序的位置准确,通过whereis命令查找一下cudnn的安装位置

bash 复制代码
whereis cudnn_version.h
输出
cudnn_version.h: /usr/include/cudnn_version.h

所以,cudnn的安装文件在/usr/include下面

4.执行文件复制

bash 复制代码
sudo cp usr/include/cudnn* /usr/local/cuda-12.1/include

5.执行下面一句话,测试是否安装cudnn成功

bash 复制代码
cat /usr/local/cuda-12.1/include/cudnn_version.h | grep CUDNN_MAJOR -A 2

同时可以使用

bash 复制代码
dpkg -l |grep cudnn
查看版本信息

注意!安装完CUDA并通过nvcc -V命令测试完毕之后再次安装cudnn,可能由于复制文件过程中出现问题,导致安装完cudnn并测试成功后,再执行nvcc -V命令不显示,此时需要再重复步骤一即可,完成之后不需要重复步骤二即可完成安装任务。

相关推荐
菜菜艾1 天前
基于llama.cpp部署私有大模型
linux·运维·服务器·人工智能·ai·云计算·ai编程
重生的黑客1 天前
Linux开发工具:条件编译、动静态库与 make/makefile 入门
linux·运维·服务器
minji...1 天前
Linux 线程同步与互斥(三) 生产者消费者模型,基于阻塞队列的生产者消费者模型的代码实现
linux·运维·服务器·开发语言·网络·c++·算法
w6100104661 天前
cka-2026-ConfigMap
java·linux·cka·configmap
cc_yy_zh1 天前
Win10 家庭版找不到Device Guard; 无法处理 VMware Workstation与Device Guard不兼容问题
linux·vmware
嵌入式吴彦祖1 天前
Luckfox Pico Ultra W WIFI
linux·嵌入式硬件
SPC的存折1 天前
MySQL 8组复制完全指南
linux·运维·服务器·数据库·mysql
Linux技术芯1 天前
Refault Distance算法详解
linux
0vvv01 天前
linux-软件安装
linux
IMPYLH1 天前
Linux 的 nproc 命令
linux·运维·服务器·bash