Stable Diffusion基础:ControlNet之细节替换

本文继续给大家分享 Stable Diffusion 的基础能力:ControlNet之细节替换,故事的主角是 Tile。

Tile 的原意是瓦片、瓷砖。作为 ControlNet,它会对参考图进行分块,并识别出区块内的对象。如果提示词和区块内的对象匹配,它会在不改变对象定义的情况下,生成新的细节,替换之前的细节;如果提示词和区块内的对象不匹配,它会以对象为准,降低提示词的影响。

安装ControlNet

工欲善其事必先利其器,ControlNet还是先要安装好的,已经安装好的请跳过这一步。

之前的文章已经介绍过相关安装方法,大家请点击这个链接移步过去:ControlNet 安装与基本使用方法

使用方法

这个控制网络可以用于文生图、图生图,这里以"文生图"为例。

首先选择生图大模型,填写提示词。这里选择一个真实模型:realisticVisionV51 ,提示词要和参考图相匹配。

Stable Diffusion的参数一般使用默认的就可以。注意高度、宽度使用参考图的尺寸,否则可能被裁减或者变形。

重点看下 ControlNet 的设置,上传一张要提升细节的图片,图片内容和上面的提示词是匹配的。

勾选"启用"和"完美匹配像素"。

Control Type 选择 Tile,预处理器和模型会自动加载。

注意 Tile 的预处理器有三个:

(1)tile_resample 对于内容丰富的图片生图效果较好,但是和原图的颜色偏差较大。

resample 有一个名为 Down Sampling Rate 的参数,这个参数的作用是按照比例缩小参考图,降低参考图的分辨率,然后生成图片的时候就可以产生更多的细节。

(2)tile_colorfix 保持和原图的颜色一致,但背景会比较模糊。

colorfix 有一个名为 Variation 的参数, 控制每个瓦片之间的色彩变化,值越大瓦片的色彩变化越大。

(3)tile_colorfix+sharp 保持和原图的颜色一致,同时增加锐化,让线条更清晰。

colorfix+sharp 有两个参数:

Variation 控制瓦片之间的色彩变化。

Sharpness 控制锐化程度,也就是线条的清晰程度。如果感觉生成的图片比较模糊,可以加大这个值。

控制权重:降低控制权重,可以降低 ControlNet 的约束,让 Stable Diffusion 模型发挥更大的作用。

启动、结束控制步数也可以控制细节的渲染效果,可以用不同的值试试,这里就不啰嗦了。

权重为 1 时,因为原图比较简单,出现了明显的瓦片颜色不协调问题。权重为 0.3 时模型发挥了更大的作用,色彩搭配好了很多。

控制模式对 Tile 的影响很大,以提示词为主时,生成图片会明显偏向 Stable Diffusion 模型。

用途示例

修复老照片

利用 Tile 的细节生成能力, 替换图片中模糊的细节。注意这种细节不是还原,而是生成了新的细节。

慈禧太后的老照片:

上个世纪的一位老人:

改善细节

原图片的天空、草地和森林都很模糊。通过 Tile 可以让细节更清晰。

如果一次生成得到的图片还是不够清晰,可以迭代多次试试,下边的图片就是生成了3次得到的。

完善草图

可以给线稿图、涂鸦图增加一些细节,让画面看起来完成度更高。

风格转换

Tile + 不同的模型,就会有风格转换的效果,通过增大提示词引导系数、设置控制模式为以提示词为主,可以让图片更靠近模型的风格。

真实转二次元:

机车赛博朋克:

总结

通过以上这些例子,可以看到:图片的结构及相关元素主体都没有改变,变化的只有细节,也就是实现了细节的替换。

资源下载

本系列使用的模型、插件,生成的图片,都已经上传到我整理的 Stable Diffusion 绘画资源中,后续也会持续更新,如有需要,请关/注/公/众/号:萤火遛AI(yinghuo6ai),发消息:SD,即可获取下载地址。


以上就是本文的主要内容了,如有问题,欢迎留言沟通交流。

相关推荐
feasibility.7 小时前
混元3D-dit-v2-mv-turbo生成3D模型初体验(ComfyUI)
人工智能·3d·aigc·三维建模·comfyui
PaperRed ai写作降重助手9 小时前
AI 论文写作工具排名(实测不踩坑)
人工智能·aigc·ai写作·论文写作·智能降重·辅助写作·降重复率
阿杰学AI12 小时前
AI核心知识80——大语言模型之Slow Thinking和Deep Reasoning(简洁且通俗易懂版)
人工智能·ai·语言模型·自然语言处理·aigc·慢思考·深度推理
SmartBrain13 小时前
OCR 模型在医疗场景的选型研究
人工智能·算法·语言模型·架构·aigc·ocr
阿杰学AI14 小时前
AI核心知识79——大语言模型之Knowledge Conflict(简洁且通俗易懂版)
人工智能·ai·语言模型·自然语言处理·aigc·rag·知识冲突
PaperRed ai写作降重助手17 小时前
主流 AI 论文写作工具排名(2026 最新)
人工智能·aigc·ai写作·论文写作·论文降重·论文查重·辅助写作
小程故事多_8017 小时前
RAG分块天花板?LGMGC多粒度语义分块策略深度解析与实践思考
人工智能·aigc
SmartBrain18 小时前
AI算法工程师面试:大模型和智能体知识(含答案)
人工智能·算法·语言模型·架构·aigc
renhongxia118 小时前
知识图谱如何在制造业实际落地应用
人工智能·语言模型·自然语言处理·aigc·知识图谱
学习吧~技术储备20 小时前
ComfyUI基础学习笔记
ai作画·aigc