深度学习(13)-PyTorch 数据转换

在 PyTorch 中,数据转换是一种在加载数据时对数据进行处理的机制,将原始数据转换成适合模型训练的格式,主要通过 torchvision.transforms 提供的工具完成。

数据转换不仅可以实现基本的数据预处理(如归一化、大小调整等),还能帮助进行数据增强(如随机裁剪、翻转等),提高模型的泛化能力。

1. 为什么需要数据转换?

数据预处理

  • 调整数据格式、大小和范围,使其适合模型输入。
  • 例如,图像需要调整为固定大小、张量格式并归一化到 0,1。

数据增强

  • 在训练时对数据进行变换,以增加多样性。
  • 例如,通过随机旋转、翻转和裁剪增加数据样本的变种,避免过拟合。

灵活性

  • 通过定义一系列转换操作,可以动态地对数据进行处理,简化数据加载的复杂度。

在 PyTorch 中,torchvision.transforms 模块提供了多种用于图像处理的变换操作。

2. 基础变换操作

1. ToTensor

将 PIL 图像或 NumPy 数组转换为 PyTorch 张量。同时将像素值从 0, 255 归一化为 0, 1。

python 复制代码
from torchvision import transforms

transform = transforms.ToTensor()

2. Normalize

对数据进行标准化,使其符合特定的均值和标准差。通常用于图像数据,将其像素值归一化为零均值和单位方差。

python 复制代码
transform = transforms.Normalize(mean=[0.5], std=[0.5])  # 归一化到 [-1, 1]

3. Resize

调整图像的大小。

python 复制代码
transform = transforms.Resize((128, 128))  # 将图像调整为 128x128

4. CenterCrop

从图像中心裁剪指定大小的区域。

python 复制代码
transform = transforms.CenterCrop(128)  # 裁剪 128x128 的区域

3. 数据增强操作

1. RandomCrop

从图像中随机裁剪指定大小。

python 复制代码
transform = transforms.RandomCrop(128)

2. RandomHorizontalFlip

以一定概率水平翻转图像。

python 复制代码
transform = transforms.RandomHorizontalFlip(p=0.5)  # 50% 概率翻转

3. RandomRotation

随机旋转一定角度。

python 复制代码
transform = transforms.RandomRotation(degrees=30)  # 随机旋转 -30 到 +30 度

4. ColorJitter

随机改变图像的亮度、对比度、饱和度或色调。

python 复制代码
transform = transforms.ColorJitter(brightness=0.5, contrast=0.5)

4. 组合变换

通过 transforms.Compose 将多个变换组合起来。

python 复制代码
transform = transforms.Compose([
    transforms.Resize((128, 128)),
    transforms.RandomHorizontalFlip(p=0.5),
    transforms.ToTensor(),
    transforms.Normalize(mean=[0.5], std=[0.5])
])

5. 自定义转换

如果 transforms 提供的功能无法满足需求,可以通过自定义类或函数实现。

python 复制代码
class CustomTransform:
    def __call__(self, x):
        # 这里可以自定义任何变换逻辑
        return x * 2

transform = CustomTransform()

6. 实例

1. 对图像数据集应用转换

加载 MNIST 数据集,并应用转换。

python 复制代码
from torchvision import datasets, transforms
from torch.utils.data import DataLoader

# 定义转换
transform = transforms.Compose([
    transforms.Resize((128, 128)),
    transforms.ToTensor(),
    transforms.Normalize(mean=[0.5], std=[0.5])
])

# 加载数据集
train_dataset = datasets.MNIST(root='./data', train=True, transform=transform, download=True)

# 使用 DataLoader
train_loader = DataLoader(dataset=train_dataset, batch_size=32, shuffle=True)

# 查看转换后的数据
for images, labels in train_loader:
    print("图像张量大小:", images.size())  # [batch_size, 1, 128, 128]
    break

输出结果为:

python 复制代码
图像张量大小: torch.Size([32, 1, 128, 128])

2. 可视化转换效果

以下代码展示了原始数据和经过转换后的数据对比。

python 复制代码
import matplotlib.pyplot as plt
from torchvision import datasets
from torchvision import datasets, transforms


# 原始和增强后的图像可视化
transform_augment = transforms.Compose([
    transforms.RandomHorizontalFlip(),
    transforms.RandomRotation(30),
    transforms.ToTensor()
])

# 加载数据集
dataset = datasets.MNIST(root='./data', train=True, download=True, transform=transform_augment)

# 显示图像
def show_images(dataset):
    fig, axs = plt.subplots(1, 5, figsize=(15, 5))
    for i in range(5):
        image, label = dataset[i]
        axs[i].imshow(image.squeeze(0), cmap='gray')  # 将 (1, H, W) 转为 (H, W)
        axs[i].set_title(f"Label: {label}")
        axs[i].axis('off')
    plt.show()

show_images(dataset)
相关推荐
Allen_LVyingbo几秒前
信息化部门在AI时代的编程转移路径分析(下)
人工智能·log4j·线性回归·健康医疗·数据库开发·时序数据库·数据库架构
EatFan3 分钟前
Agent Harness 为什么突然成了独立品类?从 pydantic-ai-harness v0.30.0 看编码智能体的可复现工程化
人工智能·ai agent·agent harness
Carl_奕然8 分钟前
【智能体】Loop 的四种设计模式之:Agent Loop(2026 最新版)
人工智能·设计模式·语言模型
Geeys13 分钟前
拼多多店铺怎么运营才能有订单?新手低成本出单攻略
大数据·网络·人工智能
艾莉丝努力练剑17 分钟前
【AI大模型接入SDK】ChatSDK架构设计与实现
网络·c++·人工智能·学习·语言模型
Data-Miner18 分钟前
做表格数据分析的AI工具怎么选?先对一下这三个真实需求,再看哪些真能落地
人工智能·数据分析·excel
闭包不眠28 分钟前
网站支持HEIC上传要多大解码器?gzip后510KB
图像处理·人工智能·计算机视觉
Leo.yuan41 分钟前
从 DataX 到 Informatica,再到国产一体化平台:2026 年企业数据集成平台怎么选
人工智能
叠层归一研究院43 分钟前
区分预算与通道诱导:Ω–L叠层体系的观测赋值与定量验证
人工智能·算法
知几蜗牛1 小时前
AI权限写进JSON就安全了吗?真正缺的是配置生效验证
人工智能