[技术总结]: Pytorch加速和省内存

目录

  • [mmengine 相关文档](#mmengine 相关文档)
  • [pytorch ddp dataset使用共享内存](#pytorch ddp dataset使用共享内存)
  • 加速数据读取
  • 一些大规模数据集加载
  • [模型多卡训练, 模型并行](#模型多卡训练, 模型并行)

mmengine 相关文档

MMEngine理解

pytorch ddp dataset使用共享内存

关键在于将data_list序列化
mmengine实现

或者使用lmdb数据库也可以

加速数据读取

使用perfectch, pin_memmory, 或者增加worker数

或者使用lmdb数据库

一些大规模数据集加载

大型数据集加载

模型多卡训练, 模型并行

模型并行

相关推荐
张较瘦_几秒前
[论文阅读] 人工智能 + 软件工程 | TDD痛点破解:LLM自动生成测试骨架靠谱吗?静态分析+专家评审给出答案
论文阅读·人工智能·软件工程
轮到我狗叫了3 分钟前
力扣.1054距离相等的条形码力扣767.重构字符串力扣47.全排列II力扣980.不同路径III力扣509.斐波那契数列(记忆化搜索)
java·算法·leetcode
字节数据平台6 分钟前
一客一策:Data Agent 如何重构大模型时代的智能营销
大数据·人工智能·重构
咖啡Beans12 分钟前
Python工具DrissionPage推荐
后端·python
Nicole-----17 分钟前
PySpark数据输入
python
久菜盒子工作室24 分钟前
量化金融|基于算法和模型的预测研究综述
算法·金融
机器之心24 分钟前
字节Seedream 4.0将全量开放!抢先评测来了,我们摸索出AI生图一大波「邪修」玩法
人工智能·openai
扑克中的黑桃A27 分钟前
Python学习的自我理解和想法(27)
python
空白到白27 分钟前
机器学习-集成学习
人工智能·机器学习·集成学习
水凌风里28 分钟前
4.4 机器学习 - 集成学习
人工智能·机器学习·集成学习