pytorch入门 - 基于AlexNet神经网络实现猫狗大战

基于之前的博客 pytorch入门 - AlexNet神经网络，并借助Kaggle 的 Dogs vs Cats Redux 数据集，实现一个基于 AlexNet 的二分类模型识别猫与狗。

完整流程涵盖数据准备、归一化、模型定义、训练增强、验证并可视化结果。

一、数据集准备与预处理

复制代码

import os
import shutil

def split_data(ROOT_TRAIN):
    cat_dir = os.path.join(ROOT_TRAIN, "cat")
    dog_dir = os.path.join(ROOT_TRAIN, "dog")
    os.makedirs(cat_dir, exist_ok=True)
    os.makedirs(dog_dir, exist_ok=True)
    
    for filename in os.listdir(ROOT_TRAIN):
        if filename.startswith("cat") and filename.endswith(".jpg"):
            shutil.move(os.path.join(ROOT_TRAIN, filename), 
                        os.path.join(cat_dir, filename))
        elif filename.startswith("dog") and filename.endswith(".jpg"):
            shutil.move(os.path.join(ROOT_TRAIN, filename), 
                        os.path.join(dog_dir, filename))

优化原因 ：

分类任务需明确标签与数据的对应关系。通过创建cat/dog子目录并移动图片，可直接利用PyTorch的ImageFolder自动生成标签，避免手动标注错误。

二、数据归一化参数计算

复制代码

def compute_normalization_params(dataset_path):
    transform = transforms.Compose([
        transforms.Resize((227, 227)),
        transforms.ToTensor()
    ])
    dataset = ImageFolder(dataset_path, transform=transform)
    loader = DataLoader(dataset, batch_size=32, num_workers=4, shuffle=False)
    
    # 计算各通道均值和标准差
    mean = 0.0
    std = 0.0
    for data, _ in loader:
        batch_samples = data.size(0)
        data = data.view(batch_samples, data.size(1), -1)
        mean += data.mean(2).sum(0)
        std += data.std(2).sum(0)
    return mean / len(dataset), std / len(dataset)

关键点：

输入尺寸统一 ：AlexNet要求固定输入尺寸227×227，需提前调整
通道级归一化：对RGB三通道分别计算均值和标准差，消除光照差异影响，加速模型收敛
离线计算：避免在训练时实时计算，提升数据加载效率

三、AlexNet模型针对性修改

复制代码

class AlexNet(nn.Module):
    def __init__(self):
        super().__init__()
        # 修改1：输入通道调整为3 (RGB)
        self.conv1 = nn.Conv2d(3, 96, kernel_size=11, stride=4) 
        # ... (中间层省略)
        # 修改2：输出层调整为2分类
        self.fc3 = nn.Linear(4096, 2)  
        
        # 修改3：降低Dropout比例
        self.dropout = nn.Dropout(0.2)  # 原论文为0.5

优化逻辑：

输入通道适配：原始AlexNet针对ImageNet的1000类设计，此处调整为猫狗二分类，需修改输出层维度为2
降低过拟合风险 ：
- 猫狗数据集（25k张）远小于ImageNet（1400万张）
- 降低Dropout比例（0.5→0.2）可保留更多特征信息，避免模型欠拟合
权重初始化：采用Kaiming初始化，适配ReLU激活函数特性，缓解梯度消失

四、数据增强策略

复制代码

train_transform = transforms.Compose([
    transforms.RandomHorizontalFlip(p=0.5),
    transforms.RandomRotation(10),
    transforms.RandomResizedCrop(227, scale=(0.8, 1.0)),
    transforms.ColorJitter(brightness=0.2, contrast=0.2, saturation=0.2),
    transforms.ToTensor(),
    transforms.Normalize(mean=[0.488, 0.455, 0.417], 
                         std=[0.226, 0.221, 0.221])
])

增强目的：

提升泛化能力：通过旋转、裁剪、色彩扰动模拟真实场景的多样性，防止模型记忆固定模式
克服数据局限：小数据集易导致过拟合，增强后等效扩大数据规模
对齐测试环境：测试阶段采用相同预处理，保证输入分布一致性

五、训练过程优化

复制代码

# 1. 学习率调整
optimizer = optim.Adam(model.parameters(), lr=1e-4)  # 原常用值0.001

# 2. 训练-验证集拆分
train_data, val_data = random_split(dataset, [0.8, 0.2])

# 3. 早停机制
if val_acc > best_acc:
    best_model_wts = copy.deepcopy(model.state_dict())

关键技术点：

低学习率策略 ：
- 预训练模型特征已较完备，降低学习率（1e-4）避免破坏已有特征
- 微调阶段需精细调整参数，高学习率易导致震荡
验证集独立划分 ：
- 20%数据作为验证集，实时监控模型泛化能力
- 避免测试集参与训练，保证评估客观性
混合精度训练（可选） ：
使用torch.cuda.amp自动混合精度，提升训练速度30%+（需GPU支持）

关键优化总结

优化点	原始值	调整值	作用
输入通道	1 (灰度)	3 (RGB)	适配彩色图像
输出维度	1000	2	二分类需求
Dropout率	0.5	0.2	防欠拟合
学习率	0.001	0.0001	稳定微调
数据增强	无	5种变换	提升泛化性