GAN初次阅读

研究背景

深度学习在判别式模型 (高维输入映射到类别标签,如图像分类)上取得巨大成功,核心依赖反向传播、Dropout 和分段线性激活函数;但生成式模型发展受限,原因是极大似然估计等方法涉及难以近似的概率计算,且难以在生成场景中利用分段线性激活函数的优势,本文提出的 GAN 框架解决了这一痛点。

特征维度 :回答的是「一个数据样本的属性 / 特征,需要几个数值描述?

想让模型学 "猫的图像分布",传统方法需要先算出「所有可能的猫图像的概率和(配分函数)」,但猫的图像有无数种(姿势、颜色、角度),根本算不出来;只能用 MCMC 反复采样 "近似猫的分布",但采样可能只停留在 "橘猫",学不会 "布偶猫",最终模型只能生成橘猫,丧失多样性。

核心框架

GAN 由**生成器(G) 判别器(D)两个多层感知器(MLP)组成**

G:把无意义的随机噪声z,通过网络神经映射,变成如同真实样本一样

初始状态,辨别器强,因此,总体是0,

后面慢慢的生成器开始发力,然后总体的都是1/2

核心训练方法(讲清「怎么训」,突出「简单高效」)

  • 训练的核心原则:交替训练 D 和 G(D 训 k 步,G 训 1 步),原因是 "一次性把 D 训到最优计算量太大,还会过拟合";
  • 训练的技术亮点仅用反向传播 + Dropout,生成样本仅需正向传播,对比传统模型的 "马尔可夫链 / 近似推理",突出 GAN 的计算简洁性(汇报时可加一句「这是 GAN 最核心的工程优势」)。

如何求期望

因此等价于

最大化,就是不看积分那里,然后求极值点

相关推荐
一只土卜皿2 小时前
列线图/诺莫图 含概率轴
人工智能
造夢先森2 小时前
【白话神经网络(三)】从Transformer到XXX
人工智能·神经网络·transformer
研究点啥好呢2 小时前
3月22日GitHub热门项目推荐|网页浏览,何须手动
人工智能·python·开源·github
zl_vslam2 小时前
SLAM中的非线性优-3D图优化之相对位姿Between Factor-四元数(十二)
人工智能·算法·计算机视觉
知行产研2 小时前
神宝能源:启动国内首个极寒工况5G+无人驾驶项目
人工智能·自动驾驶
love530love2 小时前
ComfyUI-3D-Pack:Windows 下手动编译 mesh_inpaint_processor C++ 加速模块
c++·人工智能·windows·python·3d·hunyuan3d·comfyui-3d-pack
uzong2 小时前
“腾讯QClaw全面开放”,不花 Token 钱、真正体验一把小龙虾的快乐,最低成本全面了解龙虾
人工智能·后端
剑穗挂着新流苏3122 小时前
111_神经网络的指路明灯:损失函数与反向传播深度解析
人工智能·深度学习·神经网络
ofoxcoding2 小时前
怎么用 API 搭一个 AI 客服机器人?从零到上线的完整方案
人工智能·ai·机器人