Pytorch如何验证模型?

在 PyTorch 中,"验证模型"通常包含两层含义:一是在训练过程中监控模型泛化能力 (使用验证集),二是在训练结束后测试最终性能 (使用测试集)或对单张图片进行推理

下面我将为你详细介绍这两种场景的完整流程和代码实现。

1. 训练过程中的验证(Validation)

这是为了防止过拟合。我们在每个训练周期(Epoch)结束后,将模型切换到评估模式,使用验证集数据计算损失和准确率。

核心步骤:

  1. 切换模式model.eval()
  2. 禁用梯度with torch.no_grad():
  3. 计算指标:在验证集上计算准确率或损失。
python 复制代码
import torch
import torch.nn as nn
from torch.utils.data import DataLoader

# 假设 model, criterion, val_loader 已经定义好
device = torch.device("cuda" if torch.cuda.is_available() else "cpu")
model.to(device)

def validate_model():
    model.eval() # 1. 切换到评估模式 (关闭 Dropout/BatchNorm 的训练行为)
    val_loss = 0
    correct = 0
    total = 0
    
    with torch.no_grad(): # 2. 禁用梯度计算,节省内存
        for data, target in val_loader:
            data, target = data.to(device), target.to(device)
            
            output = model(data)
            val_loss += criterion(output, target).item() # 累加损失
            
            # 计算准确率
            _, predicted = output.max(1)
            total += target.size(0)
            correct += predicted.eq(target).sum().item()
    
    # 计算平均损失和准确率
    avg_loss = val_loss / len(val_loader)
    accuracy = 100. * correct / total
    
    print(f'Validation Loss: {avg_loss:.4f}, Accuracy: {accuracy:.2f}%')
    return avg_loss, accuracy

# 在训练循环中调用
# for epoch in range(num_epochs):
#     train_one_epoch() # 训练
#     validate_model()  # 验证

2. 训练结束后的测试(Test/Inference)

当模型训练完成后,我们需要在从未见过的测试集 上评估其最终性能,或者对单张图片进行预测。

场景 A:测试集整体评估

流程与验证类似,但通常只在训练结束后运行一次。

python 复制代码
def test_model():
    model.eval()
    test_loss = 0
    correct = 0
    total = 0
    
    with torch.no_grad():
        for data, target in test_loader:
            data, target = data.to(device), target.to(device)
            output = model(data)
            
            test_loss += criterion(output, target).item()
            _, predicted = output.max(1)
            total += target.size(0)
            correct += predicted.eq(target).sum().item()
    
    print(f'\n最终测试集准确率: {100.*correct/total:.2f}%')
    return correct / total
场景 B:单张图片推理(预测)

这是将模型投入实际应用的场景,比如识别一张猫的图片。

python 复制代码
from PIL import Image
import torchvision.transforms as transforms

def predict_image(image_path):
    model.eval()
    
    # 1. 加载并预处理图片 (必须与训练时的预处理一致)
    image = Image.open(image_path).convert('RGB')
    transform = transforms.Compose([
        transforms.Resize((32, 32)), # 例如 CIFAR-10 的尺寸
        transforms.ToTensor(),
        transforms.Normalize((0.5, 0.5, 0.5), (0.5, 0.5, 0.5))
    ])
    image = transform(image).unsqueeze(0) # 增加 batch 维度: [1, C, H, W]
    image = image.to(device)
    
    # 2. 进行预测
    with torch.no_grad():
        output = model(image)
        probabilities = torch.softmax(output, dim=1) # 转换为概率
        predicted_class = output.argmax(1).item() # 获取预测类别
    
    print(f"预测类别: {predicted_class}, 置信度: {probabilities[0][predicted_class].item():.4f}")
    return predicted_class

⚠️ 关键注意事项

  1. model.eval() 的重要性

    • 必须在验证/测试前调用。
    • 它会改变 DropoutBatchNorm 层的行为。如果不加,Dropout 会在测试时随机丢弃神经元,导致结果不稳定。
  2. torch.no_grad() 的重要性

    • 验证和测试时不需要计算梯度。
    • 使用它可以大幅减少显存消耗,并加快推理速度。
  3. 数据预处理一致性

    • 验证集和测试集的预处理(Resize、Normalize、ToTensor)必须与训练集完全一致。否则模型的表现会大打折扣。

总结

  • 验证集:在训练循环内部,每个 Epoch 后调用,用于调整超参数。
  • 测试集:在训练循环外部,训练结束后调用,用于查看最终成绩。
  • 单图预测:加载模型权重,输入一张图片,输出预测结果。
相关推荐
Hi_kenyon2 小时前
Skills精选
人工智能
沈浩(种子思维作者)2 小时前
铁的居里点(770度就不被磁铁吸了)道理是什么?能不能精确计算出来?
人工智能·python·flask·量子计算
沛沛老爹2 小时前
Web开发者转型AI:多模态Agent视频分析技能开发实战
前端·人工智能·音视频
张小凡vip2 小时前
数据挖掘(九) --Anaconda 全面了解与安装指南
人工智能·数据挖掘
zhangfeng11332 小时前
Ollama 支持模型微调但是不支持词库,支持RAG,go语言开发的大模型的推理应用,
人工智能·深度学习·golang
格林威2 小时前
Baumer相机铆钉安装状态检测:判断铆接是否到位的 5 个核心算法,附 OpenCV+Halcon 的实战代码!
人工智能·opencv·算法·计算机视觉·视觉检测·工业相机·堡盟相机
李昊哲小课2 小时前
OpenCV Haar级联分类器人脸检测完整教程
人工智能·opencv·计算机视觉
hit56实验室2 小时前
【易经系列】用六:利永贞。
人工智能
星爷AG I2 小时前
9-22 目标跟踪(AGI基础理论)
人工智能·agi