GPU卡在空闲时使用率异常的处理

问题

NVIDIA的Tesla A100型号GPU卡在安装完驱动,使用了一段时间后,发现运行nvidia-smi的GPU-

util一直有一块处于25%的使用率,但此时并没有任何工作负载。

解决办法

如下设置:

bash 复制代码
sudo nvidia-smi -pm 1  

这个命令用于启用 NVIDIA GPU 的持久化模式。

什么是持久化模式

在默认下,在没有程序使用GPU卡时,NVIDIA 驱动程序会卸载一部分内核模块以节省资源。持久化模式的作用就是让 GPU驱动程序始终保持加载状态,即使没有任何程序在使用 GPU。

这样做的好处是提升性能稳定性,避免了因驱动程序频繁加载和卸载可能带来的性能波动或异常问题。

要检查环境中是否已经配置了持久化,可以使用命令

bash 复制代码
nvidia-smi -q | grep "Persistence Mode"  

在返回的信息中查找"Persistence Mode"这一项。

🔥运维干货分享

相关推荐
Am-Chestnuts2 分钟前
Mermaid图导Word乱?DS随心转清晰
ai·word
杜子不疼.29 分钟前
第06篇:扩展不是堆机器——基于 A2A 协议的 openJiuwen 异构 Agent 通信架构设计
ai·机器人·devops
JavaEdge.30 分钟前
Cline uses complex prompts and xxx报错解决方案
ai
维智佳创winzsoft44 分钟前
维智佳创受邀参加中望软件ZWORLD 2026,共塑CAD二次开发AI新智能
人工智能·科技·ai·业界资讯·cad二次开发·中望cad二次开发·cad-ai设计
goehou11 小时前
MCP 查数实战:让 LLM 安全地查数据库(只读账号、SQL 校验、参数漂移)
数据库·ai·llm·教程·mcp·function calling
VIP_CQCRE14 小时前
给团队搭一个 AI 工作台:Open WebUI 接入 Ace Data Cloud 实战
docker·ai·rag·open webui·ace data cloud
Smoothcloud润云14 小时前
PyTorch推理服务动态批处理实战:兼顾吞吐与延迟
人工智能·pytorch·python·深度学习·ai·gpu算力
Smoothcloud润云17 小时前
PyTorch推理请求超时与取消处理实战
人工智能·pytorch·python·深度学习·机器学习·gpu算力·gpu
木土雨成小小测试员17 小时前
WorkBuddy的安装使用教程详解
ai
Martina_032119 小时前
AI生成的海岸城市一移动镜头,水面反射就跳?用6步统一反射探针、SSR与平面反射
图像处理·人工智能·平面·3d·ai·自然语言处理·游戏策划