Stable Diffusion使用ControlNet:IP-Adapter实现图片风格迁移

IP-Adapter 全称是 Text Compatible Image Prompt Adapter for Text-to-Image Diffusion Models(文本到图像扩散模型的文本兼容图像提示适配器),是腾讯研究院出品的一个新的ControlNet模型,旨在使预训练的文本到图像扩散模型能够生成具有图像提示的图像。

IP-Adapter是一种有效的轻量级适配器,用于实现预训练文本到图像扩散模型的图像提示能力。

IP-Adapter实现图片风格迁移示例

1、选择文生图

2、设置ControlNet unit 0的参数

添加一张图片作为参考风格。

  • Control Type:选择IP-Adapter
  • Preprocessor:选择ip-adapter_clip_sd15
  • Model:选择ip-adapter_sd15_plus
  • Control Weight:设置为1。

3、设置ControlNet unit 1的参数

这里选择Depth控制图片的结构,也可以使用lineart、canny、softedge等线条类模型。

  • Control Type:选择Depth
  • Preprocessor:选择depth_midas
  • Model:选择control_v11f1p_sd15_depth
  • Control Weight:设置为1。

4、文生图参数设置

  • 采样方式:选择DPM++ 2M Karras
  • 迭代步数:设置为20
  • 高度和宽度与ControlNet unit 1上传的图片保持一致

效果展示

Depth Lineart Canny SoftEdge

相关推荐
love530love3 小时前
【ComfyUI/SD环境管理指南(二)】:如何避免插件安装导致的环境崩溃与“外科手术式”修复
人工智能·windows·python·stable diffusion·github·aigc·comfyui
小毅&Nora7 小时前
【人工智能】【深度学习】④ Stable Diffusion核心算法解析:从DDPM到文本生成图像的飞跃
人工智能·深度学习·stable diffusion
Blossom.1187 小时前
基于扩散模型的视频生成优化:从Stable Diffusion到AnimateDiff的显存革命
人工智能·深度学习·学习·决策树·搜索引擎·stable diffusion·音视频
猫头虎1 天前
本地部署 Stable Diffusion3.5超详细教程
stable diffusion·开源·prompt·github·aigc·midjourney·ai编程
love530love1 天前
【实践指南】Windows 下 Stable Diffusion WebUI 与 ComfyUI 模型库“完美共存”指南
人工智能·windows·python·stable diffusion·大模型·aigc·comfyui
love530love2 天前
【笔记】重建 Stable Diffusion WebUI 虚拟环境实录
人工智能·windows·笔记·python·stable diffusion·aigc·虚拟环境
love530love2 天前
【笔记】解决 Stable Diffusion WebUI 启动 “找不到llama_cpp模块”
运维·windows·笔记·python·stable diffusion·github·llama
aosky3 天前
如何部署本地 stable diffusion 本地使用大模型Z Image Turbo
stable diffusion
薛定e的猫咪3 天前
【论文精读】ICLR 2023 --- 作为离线强化学习强表达能力策略类的扩散策略
人工智能·深度学习·机器学习·stable diffusion
余蓝3 天前
本地部署!文生图LCM超简单教程
图像处理·人工智能·深度学习·ai作画·stable diffusion·dall·e 2