DragGAN:用崭新的方式进行图像处理

该项目的论文被SIGGRAPH 2023 收录,论文以 StyleGAN2 架构为基础,实现了 "Drag" 关键点就能轻松 P 图的效果。

https://github.com/XingangPan/DragGAN

https://vcai.mpi-inf.mpg.de/projects/DragGAN/

目录

在官方 Demo 中,作者轻触鼠标,一拖一拽,让狗狗微笑、让猫咪"Wink"、让倒影拉长、让太阳升起...完美贴合现实世界的物理结构和物理逻辑。DragGAN 源代码正式放出,目前在 GitHub 上已有超过 20,000 颗星标。

根据论文中的介绍,DragGAN 是一种用于直观基于点的图像编辑的交互方法 。利用预先训练的 GAN 来合成不仅精确跟随用户输入的图像,而且停留在真实图像的流形上。与之前的许多方法相比,是一个不依赖于特定领域的建模或辅助网络的通用框架。

这是基于两种新方法实现的:一是对隐编码的优化,这些隐编码增量地将多个抓取点移动到它们的目标位置 ;二是通过点跟踪过程来准确地跟踪抓取点的轨迹。这两个组件利用 GAN 中间特征图的判别质量来进行图像变形,实现交互性能。目前已经证明,此方法在基于 GAN 的操作中优于最先进的方法,并为使用生成先验的强大图像编辑开辟了新的方向。而对于未来的工作,作者计划将基于点的编辑扩展到 3D 生成模型。

原图1

测试一

测试二

测试三

原图2

测试一

测试二

原图3

测试


参考文献

https://huggingface.co/spaces/DragGan/DragGan

https://openxlab.org.cn/apps/detail/XingangPan/DragGAN

https://zhuanlan.zhihu.com/p/639963515

相关推荐
机器学习小小白1 个月前
【机器学习实战】kaggle 欺诈检测---使用生成对抗网络(GAN)解决欺诈数据中正负样本极度不平衡问题
人工智能·python·深度学习·神经网络·机器学习·生成对抗网络·gan
机器白学1 个月前
【从零开始使用系列】StyleGAN2:开源图像生成网络——环境搭建与基础使用篇(附大量测试图)
开源·gan
dundunmm1 个月前
【论文阅读】SDA-FC: Bridging federated clustering and deep generative model
论文阅读·算法·数据挖掘·聚类·gan·联邦聚类
码上飞扬1 个月前
深入探索AI核心模型:CNN、RNN、GAN与Transformer
人工智能·rnn·cnn·gan
goomind1 个月前
GANs的训练策略
深度学习·神经网络·生成对抗网络·gan
江左子固2 个月前
《生成对抗网络项目实战》(一)
gan·书籍阅读
颜淡慕潇2 个月前
【深度学习】深入解析生成对抗网络(GAN)
深度学习·gan
学不会lostfound3 个月前
三、计算机视觉_09GAN对抗学习案例
人工智能·深度学习·计算机视觉·gan·对抗学习
好评笔记3 个月前
深度学习笔记——生成对抗网络GAN
人工智能·深度学习·神经网络·机器学习·生成对抗网络·aigc·gan
PLUS_WAVE3 个月前
EG3D: Efficient Geometry-aware 3D Generative Adversarial Networks 学习笔记
笔记·学习·gan·nerf·head avatar·头像·3dvision