深度学习推理显卡设置

深度学习推理显卡设置

  1. 进入NVIDIA控制面板,选择 "管理3D设置"
  2. 设置 "低延时模式"为 ""超高""
  3. 设置 "电源管理模式""最高性能优先"


使用锁频来获得稳定的推理

法一:命令行操作

  1. 以管理员身份打开CMD
  2. 查看GPU核心可用频率:nvidia-smi -q -d SUPPORTED_CLOCKS
  3. 锁定GPU核心频率:nvidia-smi -lgc 需要锁定的频率数值
  4. 重置GPU核心频率:nvidia-smi -rgc

法二、Nvidia GPU锁频操作

下载锁频工具:MSI AFTERBURNER

  1. 打开MSI-Afterburner,点击 "CURVE EDITER" 打开频率-电压曲线,如下图1;
  2. 在下图2中选中曲线上的小方块,就可以调整不同电压下对应的GPU频率,将最后水平线上的小方块拖动往上调即可超频,
    选中其中一点,ctrl-L就会在该点出现一条竖线,即可锁频;
  3. 关闭 "CURVE EDITOR" ,点击下图3的应用按钮,这时GPU就可以超频或者锁频了;若不想锁频,点击 "RESET" 即可恢复默认频率设置;


相关推荐
没有梦想的咸鱼185-1037-166324 分钟前
AI-Python机器学习、深度学习核心技术与前沿应用及OpenClaw、Hermes自动化编程
人工智能·python·深度学习·机器学习·chatgpt·数据挖掘·数据分析
m0_634666731 小时前
OpenDeepThink:让大模型不再只沿着一条思路硬想
人工智能·深度学习·机器学习
Wilber的技术分享2 小时前
【大模型面试八股 3】大模型微调技术:LoRA、QLoRA等
人工智能·深度学习·面试·lora·peft·qlora·大模型微调
AI技术控4 小时前
论文解读:AE-TCN-SA——基于自编码器、TCN 与自注意力机制的锂电池内短路诊断方法
人工智能·python·深度学习·算法·机器学习·自然语言处理
数智工坊6 小时前
具身智能人形机器人:从实验室走向现实的下一代通用智能体
人工智能·深度学习·机器人
keineahnung23456 小时前
PyTorch symbolic_shapes 模組的 is_contiguous 從哪來?── sizes_strides_user 安裝與實作解析
人工智能·pytorch·python·深度学习
大模型推理6 小时前
Nano-vLLM 源码解读 - 7. Continuous Batching
深度学习·自然语言处理·vllm
多年小白6 小时前
芯片/半导体/CPO光模块 深度分析报告
人工智能·深度学习·microsoft·ai
初心未改HD6 小时前
深度学习之损失函数详解
人工智能·深度学习
张二娃同学7 小时前
第12篇_深度学习学习路线总结
人工智能·python·深度学习·神经网络·学习