解决神经网络训练时,代码没正常结束导致内存泄露显存不足的问题

0.神经网络常见的内存泄露

  • 神经网络使用显卡加速的时候,会将数据移到显存上,很多时候如果程序没有正常结束,显存上的数据没有被清空继续占用着显存空间,再次运行程序就可能会出现显存不足的问题。

1.查看显存占用情况

  • nvidia-smi查看
bash 复制代码
Thu Nov 30 15:37:46 2023       
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 515.105.01   Driver Version: 515.105.01   CUDA Version: 11.7     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  NVIDIA GeForce ...  Off  | 00000000:01:00.0  On |                  N/A |
| N/A   50C    P0    N/A /  N/A |    380MiB /  4096MiB |      2%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
                                                                               
+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
|=============================================================================|
|    0   N/A  N/A      3240      G   /usr/lib/xorg/Xorg                162MiB |
|    0   N/A  N/A      3519      G   /usr/bin/gnome-shell               26MiB |
|    0   N/A  N/A      4439      G   /usr/lib/firefox/firefox          141MiB |
|    0   N/A  N/A     10010      G   ...RendererForSitePerProcess       44MiB |
+-----------------------------------------------------------------------------+
  • 其中Process name Usage可以看见是哪个程序正在占用内存,PID是对应的编号

2.结束进程

  • 结束指定PID的进程来释放显存,比如:kill -9 10010,就可以释放由于内存泄露占用的空间了。
相关推荐
FPGA信号处理2 小时前
《随机信号分析与处理》第1章 随机变量基础:习题解答
人工智能·机器学习·概率论
倔强的石头1063 小时前
【Transformer】GPT系列演进_从GPT1到GPT4的技术路线
gpt·深度学习·transformer
YOLO数据集集合3 小时前
机器学习二分类预测算法组合工具:12种算法、113种组合的批量建模方案8031期
算法·机器学习
A7bert7773 小时前
【SAM3部署至AGX Orin】环境配置→模型部署→问题记录
c++·人工智能·深度学习·ubuntu
zx_741484813 小时前
【深度学习入门】基于TextRNN的微博情感分析(二):模型构建与训练
pytorch·深度学习·nlp·双向lstm·textrnn
kali-Myon3 小时前
定向 FGSM 攻击:让神经网络《指猫为狗》
图像处理·python·神经网络·安全·机器学习·fgsm
xhy_07074 小时前
AI 编程工具怎么选?Cursor、Copilot、Claude Code、Trae、WES Code 理解代码库的三条技术路线
人工智能·机器学习·copilot·知识图谱·ai编程·wes code
深蓝学院4 小时前
任少卿时隔十年再出手:MM-Future让自动驾驶“走一步想十步”
人工智能·机器学习·自动驾驶
梦想的初衷~4 小时前
深度学习全栈技术复盘:PINN科学计算、Transformer多场景建模、GNN时空网络与强化学习工业实战
深度学习·transformer·扩散模型·遥感影像处理·图神经网络gnn·pytorch实战·pinn正反问题
pjj198544 小时前
NLP-情感分析项目(四):训练评估 + 主函数
人工智能·深度学习·机器学习