深度学习推理显卡设置

深度学习推理显卡设置

  1. 进入NVIDIA控制面板,选择 "管理3D设置"
  2. 设置 "低延时模式"为 ""超高""
  3. 设置 "电源管理模式" 为 "最高性能优先"


使用锁频来获得稳定的推理

法一:命令行操作

  1. 以管理员身份打开CMD
  2. 查看GPU核心可用频率:nvidia-smi -q -d SUPPORTED_CLOCKS
  3. 锁定GPU核心频率:nvidia-smi -lgc 需要锁定的频率数值
  4. 重置GPU核心频率:nvidia-smi -rgc

法二、Nvidia GPU锁频操作

下载锁频工具:MSI AFTERBURNER

  1. 打开MSI-Afterburner,点击 "CURVE EDITER" 打开频率-电压曲线,如下图1;
  2. 在下图2中选中曲线上的小方块,就可以调整不同电压下对应的GPU频率,将最后水平线上的小方块拖动往上调即可超频,
    选中其中一点,ctrl-L就会在该点出现一条竖线,即可锁频;
  3. 关闭 "CURVE EDITOR" ,点击下图3的应用按钮,这时GPU就可以超频或者锁频了;若不想锁频,点击 "RESET" 即可恢复默认频率设置;


相关推荐
空奈qwq11 分钟前
ANN 全连接神经网络入门指南:从神经元到深度学习的第一步
人工智能·python·深度学习·神经网络·算法·机器学习
维克兜率天1 小时前
【维克】弹性策略:用“乖离率“捕捉超跌反弹
android·开发语言·python·深度学习·kotlin·量化
ai小陈2 小时前
深度学习CUDA OOM排查:显存占用与碎片问题实战
服务器·人工智能·python·深度学习·ai·gpu算力
richard_yuu3 小时前
Hopfield 网络:联想记忆的「鼻祖」,为什么它能「回忆」?
深度学习·神经网络·yolo·机器学习
云和数据.ChenGuang3 小时前
langchain4j的RAG入门
人工智能·深度学习·机器学习·语言模型·fastapi
cg50174 小时前
大模型 SFT(监督微调)该怎么做?(实践版)
人工智能·深度学习·机器学习
起个名字费劲死了4 小时前
VisionMaster集成深度学习算法(基础狗)
人工智能·深度学习·算法
RobinDevNotes5 小时前
JAX 分布式训练,和 PyTorch 有什么不一样
人工智能·深度学习·ajax
海天一色y5 小时前
图像分割全解析:从经典算法到深度学习的原理与实战(Python + MATLAB)
python·深度学习·算法
倔强的石头1066 小时前
【Transformer】GPT系列演进_从GPT1到GPT4的技术路线
gpt·深度学习·transformer