Animatediff 工作流之神 Jerry Davos 新作! 使用Differential Diffusion使视频转绘生成稳定的背景。

今天给大家介绍一个新的ComfyUI工作流程,是Animatediff 工作流之神 Jerry Davos 新作。利用 Differential Diffusion 确保视频转绘的时候生成稳定的背景。

它可以使用蒙版对主体和背景进行不同的降噪值降噪,也可以设置它们的控制网为不同的强度。这样,你就可以拥有风格化的主体和稳定的背景。使用内置的舒适节点,通过微分扩散法 在主体和背景之间实现平滑过渡 。

相关链接

工作流下载:https://drive.google.com/drive/folders/1HoZxKUX7WAg7ObqP00R4oIv48sXCEryQ

使用教程:https://www.patreon.com/posts/v4-5-new-raw-112239304

工作流程中的新功能

更灵活的控制:

  1. 单独的主体和背景控制网设置

2)单独的主体和背景去噪设置

  1. 重新组织和快捷键以便更好、更快地访问。

由于现在此工作流程使用原始图像作为输入,它为渲染提供了极大的稳定性,并赋予其 vid2vid 效果。

因此,如果您只想风格化 25% 或 50%,您可以这样做,甚至还可以以不同的方式控制主体和背景的风格化级别。

另外,当渲染比例达到最高 50 - 70 % 时,Controlnets 无需在高设置下使用。较低的设置也可以获得良好的效果

使用此工作流程制作的渲染图:

模型下载

链接:https://drive.google.com/drive/folders/1h2761jX1caH5KfjFABQv8Lk4qEACh5Zz

ComfyUI界面

这是工作流程的全高清预览,可以在新选项卡中打开此图像进行放大。

  1. 降噪控制预览

  • 它们依赖于 Mask,因此它们在这里起着重要作用。raw 和 refine 都有不同的降噪控制,

  • 一般来说,你应该将 Refine 采样器的 Denoise 值保持在 0.5 以下,这样它就不会偏离太多

  • 如果您更改具有与原始布料颜色不同元素的提示,那么它将根据去噪级别产生影响。

  • 降噪值 1 将具有最大风格化,并与原始版本不同,这将更接近提示

  • 修复技巧:如果在背景去噪中设置 0,则可以拥有修复工作流程。

  1. Controlnet 设置预览

在之前的工作流程中,使用mask限制了Background上controlnet的使用,通过上面的方法也可以进行控制。

顺便说一句,我在测试中观察到,如果你要降噪到 0.3-0.5.... 控制网就没那么需要了。你可以设置一个一般的低值。

如果你有移动的背景,那么你可以设置更高的值,这样就不会感觉像"滑动"

  1. 上述内容的细分是从 2_0) Animation Raw 工作流程渲染的,其中

    • 主体降噪 0.75,背景降噪 0.3 - Raw

    • 主体降噪 0.45,背景降噪 0.3 - Refine

    • 对于ControlNet提取了Depth Anything v2 和 Anyline Passes。

    • 批次计数器-批次范围为50,重叠为10。

    • 渲染完所有帧后,使用Seamless maker 工作流程 v4 实现无缝过渡。

模型

链接: https://civitai.com/models/113447/helloflatcolorful2d

提示词

  1. 精修 - 无需使用精修器,因为只要操作得当,质量就足够了

  2. 面部修复 - 通常的面部修复工作流程

  3. 使用LivePortrait LipSync

相关推荐
WeeJot嵌入式7 分钟前
OpenCV:计算机视觉的瑞士军刀
计算机视觉
思通数科多模态大模型17 分钟前
10大核心应用场景,解锁AI检测系统的智能安全之道
人工智能·深度学习·安全·目标检测·计算机视觉·自然语言处理·数据挖掘
数据岛21 分钟前
数据集论文:面向深度学习的土地利用场景分类与变化检测
人工智能·深度学习
学不会lostfound1 小时前
三、计算机视觉_05MTCNN人脸检测
pytorch·深度学习·计算机视觉·mtcnn·p-net·r-net·o-net
龙的爹23331 小时前
论文翻译 | RECITATION-AUGMENTED LANGUAGE MODELS
人工智能·语言模型·自然语言处理·prompt·gpu算力
白光白光1 小时前
凸函数与深度学习调参
人工智能·深度学习
sp_fyf_20241 小时前
【大语言模型】ACL2024论文-18 MINPROMPT:基于图的最小提示数据增强用于少样本问答
人工智能·深度学习·神经网络·目标检测·机器学习·语言模型·自然语言处理
weixin_543662861 小时前
BERT的中文问答系统33
人工智能·深度学习·bert
爱喝白开水a1 小时前
Sentence-BERT实现文本匹配【分类目标函数】
人工智能·深度学习·机器学习·自然语言处理·分类·bert·大模型微调
Jack黄从零学c++1 小时前
opencv(c++)---自带的卷积运算filter2D以及应用
c++·人工智能·opencv