ubuntu install NVIDIA Container Toolkit

  1. 配置仓库
bash 复制代码
curl -fsSL https://nvidia.github.io/libnvidia-container/gpgkey | sudo gpg --dearmor -o /usr/share/keyrings/nvidia-container-toolkit-keyring.gpg \
  && curl -s -L https://nvidia.github.io/libnvidia-container/stable/deb/nvidia-container-toolkit.list | \
    sed 's#deb https://#deb [signed-by=/usr/share/keyrings/nvidia-container-toolkit-keyring.gpg] https://#g' | \
    sudo tee /etc/apt/sources.list.d/nvidia-container-toolkit.list
    

如果需要更高级的特性,可以开启实验特性

bash 复制代码
sed -i -e '/experimental/ s/^#//g' /etc/apt/sources.list.d/nvidia-container-toolkit.list

更新

sql 复制代码
apt-get update

安装最新版本

bash 复制代码
export NVIDIA_CONTAINER_TOOLKIT_VERSION=1.17.8-1
  sudo apt-get install -y \
      nvidia-container-toolkit=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
      nvidia-container-toolkit-base=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
      libnvidia-container-tools=${NVIDIA_CONTAINER_TOOLKIT_VERSION} \
      libnvidia-container1=${NVIDIA_CONTAINER_TOOLKIT_VERSION}
  1. 容器运行时启用 NVIDIA Container Toolkit

  2. Configure the container runtime by using the nvidia-ctk command:

    ini 复制代码
    sudo nvidia-ctk runtime configure --runtime=containerd

    The nvidia-ctk command modifies the /etc/containerd/config.toml file on the host. The file is updated so that containerd can use the NVIDIA Container Runtime.

    复制代码
    sudo systemctl restart containerd

    参考:

    1. docs.nvidia.com/datacenter/...
    2. github.com/NVIDIA/nvid...
相关推荐
曹牧12 分钟前
Spring:@RequestMapping注解,匹配的顺序与上下文无关
java·后端·spring
阿丰资源2 小时前
SpringBoot+Vue实战:打造企业级在线文档管理系统
vue.js·spring boot·后端
Rust研习社2 小时前
使用 Axum 构建高性能异步 Web 服务
开发语言·前端·网络·后端·http·rust
0xDevNull2 小时前
Spring Boot 自动装配:从原理到实践
java·spring boot·后端
IT_陈寒2 小时前
SpringBoot配置加载顺序把我坑惨了
前端·人工智能·后端
Moment3 小时前
面试官:给 llm 传递上下文,有哪几个身份 role ❓❓❓
前端·后端·面试
snakeshe10103 小时前
SpringBoot 多人协作平台实战(5):从零开始集成 MyBatis ORM 连接 MySQL 数据库
后端
SamDeepThinking3 小时前
中小团队需要一个资源微服务
后端·微服务·架构
超梦dasgg4 小时前
Spring AI 智能航空助手项目实战
java·人工智能·后端·spring·ai编程
lifewange4 小时前
如何设计一个 RESTful API
后端·http·restful