【生成对抗网络】

生成对抗网络 (Generative Adversarial Networks,简称GANs)是深度学习领域的一种创新结构,由Ian Goodfellow在2014年首次提出。GANs包括两个深度神经网络------一个生成器和一个判别器,它们通常以对抗的方式进行训练。

以下是GANs的基本概念:
生成器 (Generator): 生成器的任务是从随机噪声中生成尽可能真实的数据。换句话说,生成器尝试产生与真实数据集非常相似的新数据。
判别器 (Discriminator): 判别器的任务是区分其接收到的数据是来自真实数据集还是生成器。换句话说,它尝试判断输入数据是真实的还是假的。
训练过程 : 在GANs的训练过程中,生成器和判别器在一个对抗游戏中进行竞争。生成器努力产生越来越真实的数据,以欺骗判别器,而判别器努力变得越来越好地识别真实与生成的数据。这种对抗过程导致生成器产生高质量的数据。
损失函数 : GANs通常使用两个损失函数来评估生成器和判别器的性能。判别器的损失函数评估其正确区分真实数据和生成数据的能力,而生成器的损失函数评估其生成数据欺骗判别器的能力。

GANs在许多应用中都非常有用,如图像生成、图像超分辨率、风格迁移、数据增强和更多其他应用。然而,它们也有一些挑战,例如训练不稳定性、模式崩溃等问题,但随着研究的深入,已经发展了许多变种和技术来解决这些问题。

使用Pytorch在MNIST数据集上写了一个最简单的生成对抗网络,整个训练过程的目的是使生成器和判别器在一个动态的竞技环境中进化。判别器的目标是尽可能地区分真实图像和假图像,而生成器的目标是尽可能地生成能够骗过判别器的图像。
训练判别器 :它在真实图像上进行训练,试图将其标记为真实的,同时在假图像上进行训练,试图将其标记为假的。
训练生成器 :它尝试生成图像,这些图像应当被判别器标记为真实的。

这种竞争性的环境确保了两者都在进步。当GAN训练得当时,生成器应当能够生成非常逼真的图像,而判别器则变得非常擅长于区分真假。

最后,值得注意的是,在训练过程中,GAN可能会遇到一些问题,如模式崩溃,其中生成器可能会始终生成相同的图像。有许多技术和变体,

python 复制代码
import torch
import torch.nn as nn
import torch.optim as optim
from torchvision import datasets, transforms
from torch.autograd.variable import Variable

# 定义超参数
batch_size = 128
learning_rate = 0.0002
epochs = 10
latent_dim = 100

# 数据加载器
transform = transforms.Compose([transforms.ToTensor(), transforms.Normalize((0.5,), (0.5,))])
mnist = datasets.MNIST(root='./data', train=True, transform=transform, download=True)
dataloader = torch.utils.data.DataLoader(mnist, batch_size=batch_size, shuffle=True)

# 判别器
class Discriminator(nn.Module):
    def __init__(self):
        super(Discriminator, self).__init__()
        self.model = nn.Sequential(
            nn.Linear(784, 256),
            nn.LeakyReLU(0.2),
            nn.Linear(256, 128),
            nn.LeakyReLU(0.2),
            nn.Linear(128, 1),
            nn.Sigmoid()
        )

    def forward(self, x):
        x = x.view(x.size(0), 784)
        return self.model(x)

# 生成器
class Generator(nn.Module):
    def __init__(self):
        super(Generator, self).__init__()
        self.model = nn.Sequential(
            nn.Linear(latent_dim, 128),
            nn.ReLU(),
            nn.Linear(128, 256),
            nn.ReLU(),
            nn.Linear(256, 784),
            nn.Tanh()
        )

    def forward(self, z):
        return self.model(z).view(-1, 1, 28, 28)

D = Discriminator()
G = Generator()

criterion = nn.BCELoss()
d_optimizer = optim.Adam(D.parameters(), lr=learning_rate)
g_optimizer = optim.Adam(G.parameters(), lr=learning_rate)

for epoch in range(epochs):
    for batch_idx, (real_images, _) in enumerate(dataloader):
        batch_size = real_images.size(0)
        
        # 训练判别器
        D.zero_grad()
        
        labels = torch.ones(batch_size, 1)
        outputs = D(real_images)
        real_loss = criterion(outputs, labels)
        real_loss.backward()

        z = torch.randn(batch_size, latent_dim)
        fake_images = G(z)
        labels = torch.zeros(batch_size, 1)
        outputs = D(fake_images.detach())
        fake_loss = criterion(outputs, labels)
        fake_loss.backward()
        
        d_optimizer.step()

        # 训练生成器
        G.zero_grad()

        labels

针对MNIST数据集,生成对抗网络(GAN)中的生成器和判别器具有特定的目标和功能。
生成器:

  • 目标:生成器的目标是创建与MNIST数据集中的真实手写数字图像尽可能相似的图像。
  • 功能:它接受一个随机噪声向量(通常是从某种分布,如正态分布中抽取的)作为输入,并将其映射到一个图像空间,生成一个手写数字图像。
  • 训练过程中的角色 :在GAN的训练过程中,生成器试图不断改进其生成的图像,使其更难以被判别器区分为假的。
    判别器:
  • 目标 :判别器的目标是区分接收到的图像是真实的MNIST手写数字图像还是生成器生成的假图像。
    功能 :它接受一个图像作为输入,并输出一个概率值,表示该图像是真实的MNIST图像的概率。
    训练过程中的角色 :在GAN的训练过程中,判别器不断地被训练,以更好地区分真实图像和生成图像。
    总之,针对MNIST数据集,生成器尝试生成与真实MNIST手写数字尽可能相似的图像,而判别器的任务是判断图像是否是真实的MNIST手写数字图像。在这个"游戏"中,生成器和判别器相互对抗,随着训练的进行,两者都变得更加熟练,直到生成器生成的图像与真实图像几乎无法区分。
相关推荐
tellmewhoisi8 分钟前
深度学习0:数学知识:最大似然推导过程
人工智能·深度学习·概率论
oil欧哟9 分钟前
从产品经理视角拆解 DeepSeek Super-agent:双层路由与异步调度架构
人工智能
张张123y18 分钟前
个人助手型 Agent 的六个工程细节:Hermes 与 OpenClaw 的审批、委派、上下文与调度
网络·人工智能·开源·后端开发·ai agent
Dawson Zhu1 小时前
【模型量化⑦】W4A8与GPTQ-Int4:极限压缩与MLC-LLM部署实战
人工智能·语言模型·架构·aigc·agi
千寻技术帮1 小时前
50055_基于AI的互帮互助小程序(源码+文档+数据库脚本+部署教程)
数据库·人工智能·小程序·毕业设计·springboot·课程设计
天树星智源1 小时前
KV 剪枝的同一个误差,模型确定时只改 1.4% 的 token,不确定时改 65%:接上不确定性,AIME25 端到端快 1.27 倍
人工智能·大模型
AI英德西牛仔1 小时前
PC 用户的效率革命:腾讯元宝导出 Word 指令与“AI 导出鸭”的底层逻辑
人工智能·word·excel·deepseek·ai导出鸭
Flynn Liang2 小时前
多智能体协同不再复杂:Redis Stream 消费者组、幂等与故障恢复
数据库·人工智能·redis·缓存·ai agent·智能体
VIP_CQCRE11 小时前
GPT Image 2.6 商品图换背景后悬浮?接触阴影、透明区域与反射验收
图像处理·人工智能·ai·电商
泯泷12 小时前
别再傻傻地喂文件了,大厂都在偷偷给AI建这种“专属图书馆”
人工智能