[技术总结]: Pytorch加速和省内存

目录

  • [mmengine 相关文档](#mmengine 相关文档)
  • [pytorch ddp dataset使用共享内存](#pytorch ddp dataset使用共享内存)
  • 加速数据读取
  • 一些大规模数据集加载
  • [模型多卡训练, 模型并行](#模型多卡训练, 模型并行)

mmengine 相关文档

MMEngine理解

pytorch ddp dataset使用共享内存

关键在于将data_list序列化
mmengine实现

或者使用lmdb数据库也可以

加速数据读取

使用perfectch, pin_memmory, 或者增加worker数

或者使用lmdb数据库

一些大规模数据集加载

大型数据集加载

模型多卡训练, 模型并行

模型并行

相关推荐
何双新21 分钟前
第21讲、Odoo 18 配置机制详解
linux·python·开源
Wish3D25 分钟前
阿里云OSS 上传文件 Python版本
开发语言·python·阿里云
阿福不是狗2 小时前
Python使用总结之Mac安装docker并配置wechaty
python·macos·docker
一切皆有可能!!3 小时前
实践篇:利用ragas在自己RAG上实现LLM评估②
人工智能·语言模型
gen_3 小时前
mac环境下的python、pycharm和pip安装使用
python·macos·pycharm
AI视觉网奇3 小时前
pycharm 左右箭头 最近编辑
ide·python·pycharm
思绪无限3 小时前
Pycharm的终端无法使用Anaconda命令行问题详细解决教程
ide·python·pycharm·终端·命令行·anaconda·问题教程
漫步云端-r3 小时前
Pycharm的使用技巧总结
ide·python·pycharm
木子.李3474 小时前
排序算法总结(C++)
c++·算法·排序算法
月白风清江有声4 小时前
爆炸仿真的学习日志
人工智能