在Docker中使用GPU

一、安装nvidia-container-toolkit

总之一句话:nvidia-docker和nvidia-docker2,nvidia-container-runtime 已经被英伟达迭代了,可以认为nvidia-container-toolkit是nvidia-docker和nvidia-docker2, nvidia-container-runtime 的替代品,想了解区别的可以看这篇文章:nvidia docker, nvidia docker2, nvidia container toolkits三者的区别-CSDN博客

nvidia-container-toolkit是一组软件包,它们包括一个容器运行时库和一些工具,可以自动配置容器来利用NVIDIA GPU。它支持不同的容器引擎,如Docker、containerd、LXC、Podman等

官方安装过程:Installing the NVIDIA Container Toolkit --- NVIDIA Container Toolkit 1.15.0 documentation

1、安装过程汇总
bash 复制代码
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
  && curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
    sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
    sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list


sudo apt-get update

sudo apt-get install -y nvidia-container-toolkit
2、重启docker
bash 复制代码
sudo systemctl restart docker
3、测试
bash 复制代码
sudo docker run --rm --gpus all nvidia/cuda:${根据网站查询得到} nvidia-smi

# 例如
sudo docker run --rm --gpus all nvidia/cuda:11.7.1-base-ubuntu20.04 nvidia-smi
4、ubuntu系统与对应的cuda版本

doc/supported-tags.md · master · nvidia / container-images / cuda · GitLab

相关推荐
哈哈幸运20 分钟前
Linux Sed 深度解析:从日志清洗到 K8s 等12个高频场景
linux·运维·编辑器·sed
李菠菜2 小时前
CentOS系统指定版本Docker与Docker-Compose在线安装教程
docker·容器·centos
masx2002 小时前
升级uptime-kuma版本2.0.0-beta.2的cloudflared版本到2025.4.0
运维·后端
杨凯凡2 小时前
Linux安全防护:全方位服务安全配置指南
linux·运维·服务器·安全
李菠菜2 小时前
CentOS系统中重置Root用户密码的完整步骤详解
linux·运维
包达叔2 小时前
dockercompose文件仓库
docker
Nightwish52 小时前
Linux随记(十七)
linux·运维·服务器
付出不多3 小时前
Linux——系统安全及应用
linux·运维·系统安全
爱吃龙利鱼3 小时前
rocky9.4部署k8s群集v1.28.2版本(containerd)(纯命令)
云原生·容器·kubernetes
数巨小码人4 小时前
Linux常用指令
linux·运维·服务器