技巧-PyTorch中num_works的作用和实验测试

本专栏为深度学习的一些技巧,方法和实验测试,偏向于实际应用,后续不断更新,感兴趣童鞋可关,方便后续推送

简介

在 PyTorch 中,num_workers 是 DataLoader 中的一个参数,用于控制数据加载的并发线程数。它允许您在数据加载过程中使用多个线程,以提高数据加载的效率。

具体来说,num_workers 参数指定了 DataLoader 在加载数据时将创建的子进程数量。当 num_workers 大于 0 时,DataLoader 会自动利用多个子进程来加速数据加载。这有助于减少主进程的等待时间,并使得数据加载更加并行化。

例如,如果您有一个大型数据集需要加载,而且您的系统有多个 CPU 核心可用,您可以使用 num_workers 参数来提高数据加载的效率。假设您的系统有 4 个 CPU 核心,您可以将 num_workers 设置为 4,以使 DataLoader 在每个核心上创建一个子进程,并行加载数据.

使用方法

下面是一个示例代码,演示了如何使用 num_workers 参数来加速数据加载:

cpp 复制代码
python
import torch  
from torch.utils.data import DataLoader  
from torchvision import datasets, transforms  
  
# 定义数据预处理操作  
transform = transforms.Compose([transforms.ToTensor(), transforms.Normalize((0.5,), (0.5,))])  
  
# 加载数据集  
train_dataset = datasets.MNIST(root='./data', train=True, transform=transform, download=True)  
  
# 创建 DataLoader,设置 num_workers 为 4  
train_loader = DataLoader(train_dataset, batch_size=64, shuffle=True, num_workers=4)  
 # 训练模型...

在上述示例中,我们使用 MNIST 数据集,设置了 num_workers 为 4,以利用系统的 4 个 CPU 核心并行加载数据。这将加速数据加载的过程,使得模型训练更加高效。

实测效果

我采用MMDetetion训练,它可以通过钩子函数统计每一iter的数据读取耗时(data_time)和总耗时(time)

当num_works设置为1时打印结果如下:
当num_works设置为4时打印结果如下:
实验效果与理论一致

相关推荐
Thomas_Cai7 分钟前
Python后端flask框架接收zip压缩包方法
开发语言·python·flask
A.A呐14 分钟前
【Linux第一章】Linux介绍与指令
linux
Gui林15 分钟前
【GL004】Linux
linux
ö Constancy19 分钟前
Linux 使用gdb调试core文件
linux·c语言·vim
tang_vincent20 分钟前
linux下的spi开发与框架源码分析
linux
xiaozhiwise24 分钟前
Linux ASLR
linux
wellnw24 分钟前
[linux] linux c实现共享内存读写操作
linux·c语言
youcans_28 分钟前
【微软:多模态基础模型】(5)多模态大模型:通过LLM训练
人工智能·计算机视觉·大模型·大语言模型·多模态