解决神经网络训练时,代码没正常结束导致内存泄露显存不足的问题

0.神经网络常见的内存泄露

  • 神经网络使用显卡加速的时候,会将数据移到显存上,很多时候如果程序没有正常结束,显存上的数据没有被清空继续占用着显存空间,再次运行程序就可能会出现显存不足的问题。

1.查看显存占用情况

  • nvidia-smi查看
bash 复制代码
Thu Nov 30 15:37:46 2023       
+-----------------------------------------------------------------------------+
| NVIDIA-SMI 515.105.01   Driver Version: 515.105.01   CUDA Version: 11.7     |
|-------------------------------+----------------------+----------------------+
| GPU  Name        Persistence-M| Bus-Id        Disp.A | Volatile Uncorr. ECC |
| Fan  Temp  Perf  Pwr:Usage/Cap|         Memory-Usage | GPU-Util  Compute M. |
|                               |                      |               MIG M. |
|===============================+======================+======================|
|   0  NVIDIA GeForce ...  Off  | 00000000:01:00.0  On |                  N/A |
| N/A   50C    P0    N/A /  N/A |    380MiB /  4096MiB |      2%      Default |
|                               |                      |                  N/A |
+-------------------------------+----------------------+----------------------+
                                                                               
+-----------------------------------------------------------------------------+
| Processes:                                                                  |
|  GPU   GI   CI        PID   Type   Process name                  GPU Memory |
|        ID   ID                                                   Usage      |
|=============================================================================|
|    0   N/A  N/A      3240      G   /usr/lib/xorg/Xorg                162MiB |
|    0   N/A  N/A      3519      G   /usr/bin/gnome-shell               26MiB |
|    0   N/A  N/A      4439      G   /usr/lib/firefox/firefox          141MiB |
|    0   N/A  N/A     10010      G   ...RendererForSitePerProcess       44MiB |
+-----------------------------------------------------------------------------+
  • 其中Process name Usage可以看见是哪个程序正在占用内存,PID是对应的编号

2.结束进程

  • 结束指定PID的进程来释放显存,比如:kill -9 10010,就可以释放由于内存泄露占用的空间了。
相关推荐
努力的小雨39 分钟前
从零开始学机器学习——网络应用
机器学习
凭栏落花侧3 小时前
决策树:简单易懂的预测模型
人工智能·算法·决策树·机器学习·信息可视化·数据挖掘·数据分析
吱吱鼠叔5 小时前
MATLAB计算与建模常见函数:5.曲线拟合
算法·机器学习·matlab
xiandong206 小时前
240929-CGAN条件生成对抗网络
图像处理·人工智能·深度学习·神经网络·生成对抗网络·计算机视觉
innutritious7 小时前
车辆重识别(2020NIPS去噪扩散概率模型)论文阅读2024/9/27
人工智能·深度学习·计算机视觉
醒了就刷牙7 小时前
56 门控循环单元(GRU)_by《李沐:动手学深度学习v2》pytorch版
pytorch·深度学习·gru
橙子小哥的代码世界8 小时前
【深度学习】05-RNN循环神经网络-02- RNN循环神经网络的发展历史与演化趋势/LSTM/GRU/Transformer
人工智能·pytorch·rnn·深度学习·神经网络·lstm·transformer
985小水博一枚呀9 小时前
【深度学习基础模型】神经图灵机(Neural Turing Machines, NTM)详细理解并附实现代码。
人工智能·python·rnn·深度学习·lstm·ntm
SEU-WYL10 小时前
基于深度学习的任务序列中的快速适应
人工智能·深度学习
OCR_wintone42111 小时前
中安未来 OCR—— 开启文字识别新时代
人工智能·深度学习·ocr