【Pytorch】5.DataLoder的使用

什么是DataLoader

个人理解是,如果Dataset的所有数据相当于一副扑克牌,DataLoader就相当于从扑克牌中抽取几张,我们可以规定一次抽取的张数,或者以什么规则进行抽取

DataLoader的使用

查阅官网的文档,主要有这几个参数比较常用

其中dataset可以用上一篇文章来进行创建

具体的实现方法为

py 复制代码
import torchvision
from torch.utils.data import DataLoader

test_dataset = torchvision.datasets.CIFAR10(root='./dataset', train=False, transform=torchvision.transforms.ToTensor(), download=True)
# 这里采用测试集是因为测试集较小,运行较快

test_dataLoader = DataLoader(test_dataset, batch_size=64, shuffle=False, num_workers=0, drop_last=True)


for data in test_dataLoader:            #从test_dataLoader中取出data
    imgs, labels = data
    print(labels)

然后我们可以加入tensorBoard可视化处理

py 复制代码
import torchvision
from torch.utils.data import DataLoader
from torch.utils.tensorboard import SummaryWriter

test_dataset = torchvision.datasets.CIFAR10(root='./dataset', train=False, transform=torchvision.transforms.ToTensor(),
                                            download=True)
# 这里采用测试集是因为测试集较小,运行较快

test_dataLoader = DataLoader(test_dataset, batch_size=64, shuffle=False, num_workers=0, drop_last=False)

writer = SummaryWriter(log_dir='./logs')
i = 0
for data in test_dataLoader:  # 从test_dataLoader中取出data
    imgs, labels = data
    print(imgs.shape)
    writer.add_images('test_loader1', imgs, i)       # 注意这是add_images
    i = i + 1

writer.close()

注意这里的writer.add_images()需要加s否则不能运行

相关推荐
ECH00O006 小时前
07-Prompt Engineering:与大模型对话的艺术
人工智能
chaors6 小时前
Langchain入门到精通0x06:RAG
人工智能·langchain·ai编程
molamolaxtq6 小时前
Minimind项目源码解析(3)Attention模块(核心)
人工智能
拳打南山敬老院6 小时前
你的 Agent 可能并不需要过度工程化:一次从 LangGraph 到极简 Agent 的架构反思
人工智能·设计模式
Halo咯咯6 小时前
从 Vibe Coder 到 AI 工程师,差的就是这 15 个概念
人工智能
Mintopia6 小时前
Gemini 的发展之道:从多模态模型演进到工程化落地的技术路径
人工智能
童话名剑6 小时前
YOLO v1(学习笔记)
人工智能·深度学习·yolo·目标检测
洞见前行6 小时前
AI Agent 的外部连接层:MCP 协议原理、机制设计与实战开发
人工智能
陈广亮6 小时前
当 AI Agent 学会付钱:x402 协议与 Agent 支付基础设施全解析
人工智能
廋到被风吹走6 小时前
持续学习方向 AI工程化(TensorFlow Serving、MLflow)
人工智能·学习·tensorflow