Animatediff 工作流之神 Jerry Davos 新作! 使用Differential Diffusion使视频转绘生成稳定的背景。

今天给大家介绍一个新的ComfyUI工作流程,是Animatediff 工作流之神 Jerry Davos 新作。利用 Differential Diffusion 确保视频转绘的时候生成稳定的背景。

它可以使用蒙版对主体和背景进行不同的降噪值降噪,也可以设置它们的控制网为不同的强度。这样,你就可以拥有风格化的主体和稳定的背景。使用内置的舒适节点,通过微分扩散法 在主体和背景之间实现平滑过渡 。

相关链接

工作流下载:https://drive.google.com/drive/folders/1HoZxKUX7WAg7ObqP00R4oIv48sXCEryQ

使用教程:https://www.patreon.com/posts/v4-5-new-raw-112239304

工作流程中的新功能

更灵活的控制:

  1. 单独的主体和背景控制网设置

2)单独的主体和背景去噪设置

  1. 重新组织和快捷键以便更好、更快地访问。

由于现在此工作流程使用原始图像作为输入,它为渲染提供了极大的稳定性,并赋予其 vid2vid 效果。

因此,如果您只想风格化 25% 或 50%,您可以这样做,甚至还可以以不同的方式控制主体和背景的风格化级别。

另外,当渲染比例达到最高 50 - 70 % 时,Controlnets 无需在高设置下使用。较低的设置也可以获得良好的效果

使用此工作流程制作的渲染图:

模型下载

链接:https://drive.google.com/drive/folders/1h2761jX1caH5KfjFABQv8Lk4qEACh5Zz

ComfyUI界面

这是工作流程的全高清预览,可以在新选项卡中打开此图像进行放大。

  1. 降噪控制预览

  • 它们依赖于 Mask,因此它们在这里起着重要作用。raw 和 refine 都有不同的降噪控制,

  • 一般来说,你应该将 Refine 采样器的 Denoise 值保持在 0.5 以下,这样它就不会偏离太多

  • 如果您更改具有与原始布料颜色不同元素的提示,那么它将根据去噪级别产生影响。

  • 降噪值 1 将具有最大风格化,并与原始版本不同,这将更接近提示

  • 修复技巧:如果在背景去噪中设置 0,则可以拥有修复工作流程。

  1. Controlnet 设置预览

在之前的工作流程中,使用mask限制了Background上controlnet的使用,通过上面的方法也可以进行控制。

顺便说一句,我在测试中观察到,如果你要降噪到 0.3-0.5.... 控制网就没那么需要了。你可以设置一个一般的低值。

如果你有移动的背景,那么你可以设置更高的值,这样就不会感觉像"滑动"

  1. 上述内容的细分是从 2_0) Animation Raw 工作流程渲染的,其中

    • 主体降噪 0.75,背景降噪 0.3 - Raw

    • 主体降噪 0.45,背景降噪 0.3 - Refine

    • 对于ControlNet提取了Depth Anything v2 和 Anyline Passes。

    • 批次计数器-批次范围为50,重叠为10。

    • 渲染完所有帧后,使用Seamless maker 工作流程 v4 实现无缝过渡。

模型

链接: https://civitai.com/models/113447/helloflatcolorful2d

提示词

  1. 精修 - 无需使用精修器,因为只要操作得当,质量就足够了

  2. 面部修复 - 通常的面部修复工作流程

  3. 使用LivePortrait LipSync

相关推荐
磊磊落落15 小时前
编写提示词需要遵循的五个原则(附实践案例)
人工智能
Aloudata15 小时前
周卫林|大数据通往大模型的钥匙:NoETL to Trusted AI
大数据·人工智能·数据分析·chatbi·data agent
Hcoco_me15 小时前
大模型面试题11:余弦相似度 & 牛顿迭代法
人工智能·python·决策树·机器学习·计算机视觉
月疯15 小时前
unet网络的理解
网络·人工智能·深度学习
程序员小范15 小时前
8年NLP算法工程师郭志才:Ai正在模糊内容的产权边界。
人工智能·算法·自然语言处理
大写-凌祁15 小时前
大模型强化学习(LLM-RL)最前沿综述:从 DPO 到 System 2 推理与后训练扩展
人工智能·深度学习·机器学习·计算机视觉·agi
创作者mateo15 小时前
机器学习--处理数值型数据(一)
人工智能·机器学习
roman_日积跬步-终至千里15 小时前
【模式识别与机器学习(6)】主要算法与技术(下篇:高级模型与集成方法)之进化计算(Evolutionary Computation)
人工智能·算法·机器学习
禁默15 小时前
机器学习基础入门(第七篇):神经网络训练优化与常见问题解析
人工智能·神经网络·机器学习
二哈喇子!15 小时前
昇腾平台 vLLM 部署与性能优化实战:高吞吐推理落地指南
人工智能·性能优化