深度学习推理显卡设置

深度学习推理显卡设置

  1. 进入NVIDIA控制面板,选择 "管理3D设置"
  2. 设置 "低延时模式"为 ""超高""
  3. 设置 "电源管理模式""最高性能优先"


使用锁频来获得稳定的推理

法一:命令行操作

  1. 以管理员身份打开CMD
  2. 查看GPU核心可用频率:nvidia-smi -q -d SUPPORTED_CLOCKS
  3. 锁定GPU核心频率:nvidia-smi -lgc 需要锁定的频率数值
  4. 重置GPU核心频率:nvidia-smi -rgc

法二、Nvidia GPU锁频操作

下载锁频工具:MSI AFTERBURNER

  1. 打开MSI-Afterburner,点击 "CURVE EDITER" 打开频率-电压曲线,如下图1;
  2. 在下图2中选中曲线上的小方块,就可以调整不同电压下对应的GPU频率,将最后水平线上的小方块拖动往上调即可超频,
    选中其中一点,ctrl-L就会在该点出现一条竖线,即可锁频;
  3. 关闭 "CURVE EDITOR" ,点击下图3的应用按钮,这时GPU就可以超频或者锁频了;若不想锁频,点击 "RESET" 即可恢复默认频率设置;


相关推荐
余生H24 分钟前
transformer.js(三):底层架构及性能优化指南
javascript·深度学习·架构·transformer
罗小罗同学1 小时前
医工交叉入门书籍分享:Transformer模型在机器学习领域的应用|个人观点·24-11-22
深度学习·机器学习·transformer
孤独且没人爱的纸鹤1 小时前
【深度学习】:从人工神经网络的基础原理到循环神经网络的先进技术,跨越智能算法的关键发展阶段及其未来趋势,探索技术进步与应用挑战
人工智能·python·深度学习·机器学习·ai
阿_旭1 小时前
TensorFlow构建CNN卷积神经网络模型的基本步骤:数据处理、模型构建、模型训练
人工智能·深度学习·cnn·tensorflow
羊小猪~~1 小时前
tensorflow案例7--数据增强与测试集, 训练集, 验证集的构建
人工智能·python·深度学习·机器学习·cnn·tensorflow·neo4j
极客代码1 小时前
【Python TensorFlow】进阶指南(续篇三)
开发语言·人工智能·python·深度学习·tensorflow
Seeklike1 小时前
11.22 深度学习-pytorch自动微分
人工智能·pytorch·深度学习
YRr YRr2 小时前
如何使用 PyTorch 实现图像分类数据集的加载和处理
pytorch·深度学习·分类
HPC_fac130520678165 小时前
以科学计算为切入点:剖析英伟达服务器过热难题
服务器·人工智能·深度学习·机器学习·计算机视觉·数据挖掘·gpu算力
老艾的AI世界13 小时前
AI翻唱神器,一键用你喜欢的歌手翻唱他人的曲目(附下载链接)
人工智能·深度学习·神经网络·机器学习·ai·ai翻唱·ai唱歌·ai歌曲