[技术总结]: Pytorch加速和省内存

目录

  • [mmengine 相关文档](#mmengine 相关文档)
  • [pytorch ddp dataset使用共享内存](#pytorch ddp dataset使用共享内存)
  • 加速数据读取
  • 一些大规模数据集加载
  • [模型多卡训练, 模型并行](#模型多卡训练, 模型并行)

mmengine 相关文档

MMEngine理解

pytorch ddp dataset使用共享内存

关键在于将data_list序列化
mmengine实现

或者使用lmdb数据库也可以

加速数据读取

使用perfectch, pin_memmory, 或者增加worker数

或者使用lmdb数据库

一些大规模数据集加载

大型数据集加载

模型多卡训练, 模型并行

模型并行

相关推荐
_codemonster3 分钟前
计算机视觉入门到实战系列(八)Harris角点检测算法
python·算法·计算机视觉
数说星榆1814 分钟前
在线高清泳道图制作工具 无水印 PC
大数据·人工智能·架构·机器人·流程图
Snow_day.7 分钟前
有关排列排列组合(1)
数据结构·算法·贪心算法·动态规划·图论
默默前行的虫虫12 分钟前
nicegui的3D可视化
python
说私域14 分钟前
B站内容生态下的私域流量运营创新:基于AI智能名片链动2+1模式与S2B2C商城小程序的融合实践
人工智能·小程序·流量运营
特立独行的猫a15 分钟前
告别写作焦虑:用 n8n + AI 打造“输入即发布”的自驱动写作工作流
人工智能·工作流·n8n
老胡全房源系统16 分钟前
2026年1月适合房产经纪人用的房产中介管理系统
大数据·人工智能·房产经纪人培训
GISer_Jing19 分钟前
智能体工具使用、规划模式
人工智能·设计模式·prompt·aigc
小小工匠20 分钟前
LLM - Claude Code Skills 实战指南:用模块化“技能包”重构AI 开发工作流
人工智能·claude code·skills
双翌视觉23 分钟前
深入解析远心镜头的工作原理与选型
人工智能·数码相机·机器学习