ubuntu 服务器(带NVLink)更新显卡驱动 (巨坑!!)

如果你使用的是大型的带NVLink的GPU服务器,例如H100\H20\A100等,就不要去学那些普通服务器或个人电脑的显卡驱动更新的教程,因为不一样!很容易导致更新后,nvidia-fabricmanager 的版本和驱动对不上,而且 apt-get 根本找不到对应的版本!

正确步骤:

1. 卸载原有驱动

复制代码
apt-get --purge remove "*nvidia*" -y  

2. 下载 Data Center 驱动

注意要下载Data Center 驱动而不是普通显卡驱动。去官网,选择想要的版本,按照官网步骤(如下图所示)做完(直到做完 apt-get install -y nvidia-open-570这一步),那么此时驱动安装完毕

3. 下载 nvidia-fabricmanager

NVLink的服务器必须安装nvidia-fabricmanager,不然即使nvidia-smi可以看到GPU,使用torch时也检测不到GPU

安装的nvidia-fabricmanager必须和nvidia-driver版本号严格对应,安装前可以先检查可安装的版本是否和driver对得上:

复制代码
apt-cache policy nvidia-fabricmanager-570

如果能找到正确版本,则安装它:

复制代码
apt-get install -y nvidia-fabricmanager-570

最后重启

复制代码
reboot

4. 开启nvidia-fabricmanager

重启后需要开启fabricmanager服务,参考此篇

复制代码
sudo systemctl enable nvidia-fabricmanager   # 配置Fabric Manager服务随实例开机自启动
sudo systemctl start nvidia-fabricmanager    # 启动Fabric Manager服务
sudo systemctl status nvidia-fabricmanager    # 查看Fabric Manager服务是否正常启动,回显active(running)表示启动成功

然后使用nvidia-smi检查显卡,使用 torch.cuda.is_available() 检测显卡,如果没问题则大功告成。

相关推荐
Coding茶水间20 小时前
基于深度学习的花朵识别系统演示与介绍(YOLOv12/v11/v8/v5模型+Pyqt5界面+训练代码+数据集)
开发语言·人工智能·深度学习·yolo·目标检测·机器学习
龙腾AI白云20 小时前
多模态融合驱动下的具身学习机制研究
深度学习·数据挖掘·scikit-learn·知识图谱·fastapi
123_不打狼20 小时前
AE(自编码器)与 VAE(变分自编码器)核心区别:原理、目标与应用
深度学习·算法·机器学习·vae
firstacui20 小时前
搭建harbor仓库
linux·docker
北京地铁1号线20 小时前
4.2 幻觉抑制策略
大数据·人工智能·深度学习·大语言模型
niceffking20 小时前
Linux信号相关函数
linux·运维·服务器·linux信号
蚰蜒螟20 小时前
Linux 7 中的系统调用原理
linux·运维·服务器
夜星辰202320 小时前
rk3576 Ubuntu 22.04 安装与配置 VNC(TigerVNC + x11vnc)
ubuntu·vnc
AC赳赳老秦20 小时前
DeepSeek一体机部署:中小企业本地化算力成本控制方案
服务器·数据库·人工智能·zookeeper·时序数据库·terraform·deepseek
Reuuse20 小时前
【linux】进程间通信
linux·运维·服务器