linux支持vGPU方案

1,查询gpu型号:lspci | grep "NVIDIA\|VGA"

PCI Devices

2,下载驱动

官方驱动 | NVIDIA

3,安装

复制代码
sudo sh NVIDIA-Linux-x86_64-440.118.02.run -no-x-check -no-nouveau-check -no-opengl-files

参数说明:

-no-x-check #安装驱动时关闭X服务

-no-nouveau-check #安装驱动时禁用nouveau

-no-opengl-files #只安装驱动文件,不安装OpenGL文件

4,查询GPU信息:nvidia-smi

5,nvidia-docker2安装

复制代码
5.1 centos 在线安装
distribution=$(. /etc/os-release;echo $ID$VERSION_ID) \
   && curl -s -L https://nvidia.github.io/libnvidia-container/$distribution/libnvidia-container.repo | sudo tee /etc/yum.repos.d/nvidia-container-toolkit.repo
yum install -y nvidia-docker2

5.2 ubuntu 在线安装`
distribution=$(. /etc/os-release;echo $ID$VERSION_ID)
curl -s -L `https://nvidia.github.io/nvidia-docker/gpgkey` | sudo apt-key add -
curl -s -L `https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list` | sudo tee /etc/apt/sources.list.d/nvidia-docker.list
sudo apt-get update && sudo apt-get install -y nvidia-docker2`

5.3 离线安装
安装包位置:base/nvidia-docker2.tar.gz

5.3 配置/etc/docker/daemon.json【注意IP配置】

{

"runtimes": {

"nvidia": {

"path": "nvidia-container-runtime",

"runtimeArgs": \[\]

}

},

"default-runtime": "nvidia",

"insecure-registries": "IP:5000",

"registry-mirrors": "[USTC Open Source Software Mirror](http://mirrors.ustc.edu.cn/ "USTC Open Source Software Mirror")"

}

5.4 重启docker:systemctl restart docker

6,vgpu插件安装【单张GPU跳过此步骤】

复制代码
6.1 helm repo add vgpu-charts https://4paradigm.github.io/k8s-vgpu-scheduler

6.2 helm install vgpu vgpu-charts/vgpu --set scheduler.kubeScheduler.imageTag=v1.19.9 -n kube-system 

6.3 查看插件

kubectl get pods -n kube-system

7,其他相关配置

7.1 节点添加lable

问题处理:nvidia部分模块已经加载内核中的问题

ERROR: An NVIDIA kernel module 'nvidia-uvm' appears to already be loaded in your kernel_an nvidia kernel module 'nvidia-uvm' appears to al-CSDN博客

相关推荐
无忧.芙桃5 小时前
Linux系统编程(四):用户与权限管理
linux·运维·服务器
最强小杰6 小时前
某 OpenAI 兼容网关上的 `kimi-k3.1-pro`:Cline、Zed 接入与 SSE 排错示例
java·服务器·网络·ai
谙弆悕博士8 小时前
多智能体架构详解:层级树状架构(分级主从型)
运维·架构·大模型·agent·多智能体·langgraph·层级树状
戊本菌8 小时前
进程(三)进程优先级:谁先上 CPU
linux·c语言·硬件架构
aningx9 小时前
Arch 系用 greetd 实现开机自动进 Plasma Wayland,注销自动回桌面
linux
张小姐的猫10 小时前
【基于 WebSocket 的多用户网页五子棋】—— 整合封装服务器模块设计实现2️⃣
服务器·websocket·网络协议
江无行者10 小时前
Linux 服务器 top 命令详解
linux
HMS工业网络10 小时前
工业远程访问的五项安全部署原则
运维·服务器·安全
吴建旭 智宅焕11 小时前
智能家居全国交付中执行端能力评估与分级调度架构设计:从注册数量到交付确定性的系统实现
运维·智能家居·devops
嵌入式 Linux手记12 小时前
一块内存,三种解释:union 的真实用法
linux·c语言·驱动开发·嵌入式