docker GPU安装

docker 离线安装

docker下载地址:https://download.docker.com/linux/static/stable/x86_64/

解压:

python 复制代码
tar xzvf docker-24.0.6.tgz

移动解压后的内容

python 复制代码
sudo mv docker/* /usr/local/bin/

创建 docker.service配置文件

python 复制代码
sudo vim /etc/systemd/system/docker.service

把下面的内容复制到配置文件中并保存退出

python 复制代码
[Unit]
Description=Docker Application Container Engine
After=network-online.target firewalld.service
Wants=network-online.target

[Service]
Type=notify
ExecStart=/usr/local/bin/dockerd
ExecReload=/bin/kill -s HUP $MAINPID
Restart=always
RestartSec=2
StartLimitBurst=3
StartLimitInterval=60s
LimitNOFILE=infinity
LimitNPROC=infinity
LimitCORE=infinity
Delegate=yes
KillMode=process

[Install]
WantedBy=multi-user.target

依次添加配置文件权限、加载配置文件、启动Docker,命令如下:

python 复制代码
sudo chmod +x /etc/systemd/system/docker.service
sudo systemctl daemon-reload
sudo systemctl start docker

查看Docker是否已在运行

python 复制代码
sudo systemctl status docker

查看Docker版本号以进一步验证Docker是否安装成功

python 复制代码
sudo docker --version

将Docker服务设置为开机自启动

python 复制代码
sudo systemctl enable docker

离线安装NVIDIA Container Toolkit

想要使用GPU,需要安装这个

NVIDIA Container Toolkit下载地址:https://github.com/NVIDIA/libnvidia-container/tree/gh-pages/stable/deb/amd64

查询对应版本进行安装:

安装命令示例:

python 复制代码
sudo dpkg -i ./xxx.deb

查看NVIDIA Container Toolkit的版本以验证是否安装成功

python 复制代码
nvidia-ctk --version

设置Docker默认使用NVIDIA runtime

python 复制代码
sudo nvidia-ctk runtime configure --runtime=docker

重启Docker

python 复制代码
sudo systemctl restart docker

参考:https://zhuanlan.zhihu.com/p/15194336245

相关推荐
卷无止境8 小时前
Windows 上丝滑开发 Python,并稳定构建 Docker 镜像
后端·python·docker
吕海洋13 小时前
目前可用的docker源2026.08
运维·docker·容器
gsls20080815 小时前
Penpot Docker 部署与 MCP 服务配置文档
运维·docker·容器·原型·penpot
xrlfreedom16 小时前
大厂 MCP 面试实录:本地 Server 远程化改造中的技术选型与落地实践
docker·json schema·mcp
艾伦_耶格宇20 小时前
【DOCKER容器实战】-2MySQL
运维·docker·容器
禅口魔心21 小时前
RK3576开发——Docker部署
docker·嵌入式linux
随便做点啥1 天前
32卡×4090 24GB,Qwen3.8-27B-FP8 集群部署报告
服务器·经验分享·docker·vllm
To_OC1 天前
跑了3个Docker容器后,我终于搞懂镜像和容器到底啥关系
后端·docker·容器
tryCbest1 天前
Docker 从零到精通:知识与跨平台使用指南
docker·容器
开始学AI2 天前
Codex2API Docker 使用宿主机代理:OAuth Token 兑换 403 问题排查与解决方案
运维·docker·容器