深度学习推理显卡设置

深度学习推理显卡设置

  1. 进入NVIDIA控制面板,选择 "管理3D设置"
  2. 设置 "低延时模式"为 ""超高""
  3. 设置 "电源管理模式""最高性能优先"


使用锁频来获得稳定的推理

法一:命令行操作

  1. 以管理员身份打开CMD
  2. 查看GPU核心可用频率:nvidia-smi -q -d SUPPORTED_CLOCKS
  3. 锁定GPU核心频率:nvidia-smi -lgc 需要锁定的频率数值
  4. 重置GPU核心频率:nvidia-smi -rgc

法二、Nvidia GPU锁频操作

下载锁频工具:MSI AFTERBURNER

  1. 打开MSI-Afterburner,点击 "CURVE EDITER" 打开频率-电压曲线,如下图1;
  2. 在下图2中选中曲线上的小方块,就可以调整不同电压下对应的GPU频率,将最后水平线上的小方块拖动往上调即可超频,
    选中其中一点,ctrl-L就会在该点出现一条竖线,即可锁频;
  3. 关闭 "CURVE EDITOR" ,点击下图3的应用按钮,这时GPU就可以超频或者锁频了;若不想锁频,点击 "RESET" 即可恢复默认频率设置;


相关推荐
苏言の狗1 小时前
Pytorch中关于Tensor的操作
人工智能·pytorch·python·深度学习·机器学习
paixiaoxin4 小时前
CV-OCR经典论文解读|An Empirical Study of Scaling Law for OCR/OCR 缩放定律的实证研究
人工智能·深度学习·机器学习·生成对抗网络·计算机视觉·ocr·.net
weixin_515202494 小时前
第R3周:RNN-心脏病预测
人工智能·rnn·深度学习
吕小明么6 小时前
OpenAI o3 “震撼” 发布后回归技术本身的审视与进一步思考
人工智能·深度学习·算法·aigc·agi
CSBLOG6 小时前
深度学习试题及答案解析(一)
人工智能·深度学习
小陈phd7 小时前
深度学习之超分辨率算法——SRCNN
python·深度学习·tensorflow·卷积
王国强20098 小时前
动手学人工智能-深度学习计算5-文件读写操作
深度学习
威化饼的一隅9 小时前
【多模态】swift-3框架使用
人工智能·深度学习·大模型·swift·多模态
机器学习之心9 小时前
BiTCN-BiGRU基于双向时间卷积网络结合双向门控循环单元的数据多特征分类预测(多输入单输出)
深度学习·分类·gru
MorleyOlsen10 小时前
【Trick】解决服务器cuda报错——RuntimeError: cuDNN error: CUDNN_STATUS_NOT_INITIALIZED
运维·服务器·深度学习