深度学习推理显卡设置

深度学习推理显卡设置

  1. 进入NVIDIA控制面板,选择 "管理3D设置"
  2. 设置 "低延时模式"为 ""超高""
  3. 设置 "电源管理模式""最高性能优先"


使用锁频来获得稳定的推理

法一:命令行操作

  1. 以管理员身份打开CMD
  2. 查看GPU核心可用频率:nvidia-smi -q -d SUPPORTED_CLOCKS
  3. 锁定GPU核心频率:nvidia-smi -lgc 需要锁定的频率数值
  4. 重置GPU核心频率:nvidia-smi -rgc

法二、Nvidia GPU锁频操作

下载锁频工具:MSI AFTERBURNER

  1. 打开MSI-Afterburner,点击 "CURVE EDITER" 打开频率-电压曲线,如下图1;
  2. 在下图2中选中曲线上的小方块,就可以调整不同电压下对应的GPU频率,将最后水平线上的小方块拖动往上调即可超频,
    选中其中一点,ctrl-L就会在该点出现一条竖线,即可锁频;
  3. 关闭 "CURVE EDITOR" ,点击下图3的应用按钮,这时GPU就可以超频或者锁频了;若不想锁频,点击 "RESET" 即可恢复默认频率设置;


相关推荐
hongyucai1 小时前
大模型常见问题整理
人工智能·深度学习
再渊1 小时前
基因归因到底怎么计算的?
python·深度学习·机器学习
HiDev_2 小时前
【非标自动化】2、认识元器件(接近传感器)
人工智能·深度学习·自动化
phltxy3 小时前
LangGraph智能租房助手实践
大数据·人工智能·python·深度学习·语言模型·langchain
OpenApi.cc3 小时前
Mocode 开发文档平台
人工智能·深度学习·目标检测·自然语言处理·语音识别
大鹏的NLP博客4 小时前
CMAD:基于紧凑表征学习与马氏距离统计判别的工业异常检测架构
人工智能·深度学习
lkforce4 小时前
Transformer架构下的详细计算流程模拟,精确到数字(单层单头)
人工智能·深度学习·ai·transformer
PNP Robotics13 小时前
多伦多大学机器人峰会|物理AI与具身智能落地新趋势
人工智能·深度学习·机器学习·机器人
_Jimmy_18 小时前
AI应用开发工程师面试题库
人工智能·python·深度学习·机器学习·知识图谱
烬羽20 小时前
递归老写崩?一个"退回"公式,把回溯题变成填空题
javascript·深度学习·算法