pytorch:debug dataLoader for循环的时候,很卡顿,进不去transform里面断点

推荐解决方案:

  • 前一进程还未处理完,又进入下一个导致互锁,在一个Epoch完了后,或者每次获取一个batch数据后停顿一下: time.sleep(0.003)
  • 内存问题,使用开关:pin_memory=True/False
  • 多进程导致互锁问题,减少进程数,或直接使用一个:num_workers=0/1
  • 使用其他DataLoader的问题,改为: from torch.utils.data.dataloader import DataLoader
  • 内存大小不够的问题:writing 8192 to /proc/sys/kernel/shmmni
  • 如果脚本中同时使用了OpenCV,可能是OpenCV与Pytorch互锁的问题。
  • 关闭OpenCV的多线程:
  • cv2.setNumThreads(0)
  • cv2.ocl.setUseOpenCL(False)
  • 是否存在打开文件未关闭的问题:[openfile].close()
相关推荐
while(努力):进步7 分钟前
人工智能与边缘计算结合在智能电网负荷预测与优化调度中的应用探索
人工智能·边缘计算
2501_941142138 分钟前
边缘计算与5G结合在智慧交通信号优化与实时路况预测中的创新应用
人工智能·5g·边缘计算
Alang16 分钟前
【LM-PDF】一个大模型时代的 PDF 极速预览方案是如何实现的?
前端·人工智能·后端
kupeThinkPoem1 小时前
代码生成工具Amazon CodeWhisperer介绍
人工智能
weixin79893765432...1 小时前
前端开发者如何拥抱 AI-Agent(科普)
人工智能·ai
2501_941111342 小时前
Python上下文管理器(with语句)的原理与实践
jvm·数据库·python
晨非辰2 小时前
【数据结构初阶系列】归并排序全透视:从算法原理全分析到源码实战应用
运维·c语言·数据结构·c++·人工智能·python·深度学习
A尘埃2 小时前
Python后端框架:FastAPI+Django+Flask
python·django·flask·fastapi
菠菠萝宝3 小时前
【Java手搓RAGFlow】-3- 用户认证与权限管理
java·开发语言·人工智能·llm·openai·qwen·rag
蒋星熠4 小时前
实证分析:数据驱动决策的技术实践指南
大数据·python·数据挖掘·数据分析·需求分析