在Docker中使用GPU

一、安装nvidia-container-toolkit

总之一句话:nvidia-docker和nvidia-docker2,nvidia-container-runtime 已经被英伟达迭代了,可以认为nvidia-container-toolkit是nvidia-docker和nvidia-docker2, nvidia-container-runtime 的替代品,想了解区别的可以看这篇文章:nvidia docker, nvidia docker2, nvidia container toolkits三者的区别-CSDN博客

nvidia-container-toolkit是一组软件包,它们包括一个容器运行时库和一些工具,可以自动配置容器来利用NVIDIA GPU。它支持不同的容器引擎,如Docker、containerd、LXC、Podman等

官方安装过程:Installing the NVIDIA Container Toolkit --- NVIDIA Container Toolkit 1.15.0 documentation

1、安装过程汇总
bash 复制代码
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
  && curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
    sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
    sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list


sudo apt-get update

sudo apt-get install -y nvidia-container-toolkit
2、重启docker
bash 复制代码
sudo systemctl restart docker
3、测试
bash 复制代码
sudo docker run --rm --gpus all nvidia/cuda:${根据网站查询得到} nvidia-smi

# 例如
sudo docker run --rm --gpus all nvidia/cuda:11.7.1-base-ubuntu20.04 nvidia-smi
4、ubuntu系统与对应的cuda版本

doc/supported-tags.md · master · nvidia / container-images / cuda · GitLab

相关推荐
snowfoootball13 分钟前
(自用)Linux 常用命令自查文档
linux·运维·服务器
墨染 殇雪27 分钟前
webshell及冰蝎双击无法打开?
运维·服务器·webshell·webshell管理工具
Chukai12337 分钟前
Windows 和 Linux 系统下修改防火墙机制开放端口
linux·运维·windows
逻辑羊驼1 小时前
VSCode+MobaXterm+X11可视化界面本地显示
运维·服务器·ubuntu·3d
fendouweiqian2 小时前
nginx 反向代理使用变量的坑
运维·nginx
Zacks_xdc2 小时前
【前端】使用Vercel部署前端项目,api转发到后端服务器
运维·服务器·前端·安全·react.js
W-GEO2 小时前
Nginx 高性能调优指南:从配置到原理
运维·nginx
zyplanke2 小时前
Kubernetes(四):Service
云原生·容器·kubernetes·k8s
pound1272 小时前
Linux
linux·运维·服务器
@CLoudbays_Martin112 小时前
为什么动态视频业务内容不可以被CDN静态缓存?
java·运维·服务器·javascript·网络·python·php