docker配置gpu运行环境:linux离线安装nvidia-container,避免网络问题

1. 安装docker

2. 安装nvidia-container

手动下载安装包: https://github.com/NVIDIA/libnvidia-container/tree/gh-pages/stable

根据自己的服务器查看需要的版本:

在linux执行命令:

bash 复制代码
hostnamectl

root@:~# hostnamectl
   Static hostname: TENCENT64
         Icon name: computer-server
           Chassis: server
        Machine ID: 859b8343e81744f5bd31debbf976fd13
           Boot ID: ca0c05287c344b3e8f7d973948964c4b
  Operating System: TencentOS Server 3.2 (Final)
       CPE OS Name: cpe:/o:tencentos:tencentos:3
            Kernel: Linux 5.4.241-1-tlinux4-0017.16
      Architecture: x86-64

根据x64-64和centos定位到位置:
https://github.com/NVIDIA/libnvidia-container/tree/gh-pages/stable/centos7/x86_64

下载安装四个包:

1:nvidia-container-toolkit-base

2:libnvidia-container

3:libnvidia-container-tools

4:nvidia-container-toolkit

版本相同即可。

然后放到linux的某个文件夹,使用对应的包管理器的安装命令进行安装=

比如Centos上就是:

bash 复制代码
rpm -ivh *.rpm

检查是否安装成功:

bash 复制代码
nvidia-ctk --version

3. 将配置自动导入到docker

执行命令:

bash 复制代码
nvidia-ctk runtime configure --runtime=docker

重新启动一下docker:

bash 复制代码
systemctl restart docker

然后docker就可以使用GPU了

相关推荐
Kina_C36 分钟前
Linux iptables 防火墙原理与实操——从四表五链到 NAT 配置
linux·运维·服务器·iptables
wdfk_prog1 小时前
嵌入式面试真题第 15 题:不可恢复异常后的通用崩溃快照、调用栈保存与离线分析架构
linux·开发语言·面试·架构
爱码少年6 小时前
Docker遍历镜像生成导出镜像命令六法
docker·shell
jsons16 小时前
autofs挂载
linux·服务器·网络
liwulin05067 小时前
【ollama】自定义结构化输出
linux·前端·数据库·ollama
gs801407 小时前
【实战】记一次 Linux 服务器入侵排查:grok-agent 后门木马深度剖析与彻底清理
linux·运维·服务器
时空无限8 小时前
vllm 大模型启动缓存相关环境变量 export
linux·缓存·vllm
Echo_cy_8 小时前
基于ZYNQ-7000的Ethernet驱动配置
linux·驱动开发·嵌入式硬件·fpga开发·ethernet·zynq
ShineWinsu8 小时前
对于Linux:模版方法类的解析以及socket、TcpSocket的封装
linux·c++·面试·socket·模板方法模式·封装·tcpsocket
做个文艺程序员8 小时前
Linux第27篇:在Linux服务器部署本地大模型:Ollama+开源LLM实战
linux·服务器·开源·大模型·ollama