Stable Diffusion使用ControlNet:IP-Adapter实现图片风格迁移

IP-Adapter 全称是 Text Compatible Image Prompt Adapter for Text-to-Image Diffusion Models(文本到图像扩散模型的文本兼容图像提示适配器),是腾讯研究院出品的一个新的ControlNet模型,旨在使预训练的文本到图像扩散模型能够生成具有图像提示的图像。

IP-Adapter是一种有效的轻量级适配器,用于实现预训练文本到图像扩散模型的图像提示能力。

IP-Adapter实现图片风格迁移示例

1、选择文生图

2、设置ControlNet unit 0的参数

添加一张图片作为参考风格。

  • Control Type:选择IP-Adapter
  • Preprocessor:选择ip-adapter_clip_sd15
  • Model:选择ip-adapter_sd15_plus
  • Control Weight:设置为1。

3、设置ControlNet unit 1的参数

这里选择Depth控制图片的结构,也可以使用lineart、canny、softedge等线条类模型。

  • Control Type:选择Depth
  • Preprocessor:选择depth_midas
  • Model:选择control_v11f1p_sd15_depth
  • Control Weight:设置为1。

4、文生图参数设置

  • 采样方式:选择DPM++ 2M Karras
  • 迭代步数:设置为20
  • 高度和宽度与ControlNet unit 1上传的图片保持一致

效果展示

Depth Lineart Canny SoftEdge

相关推荐
3D霸霸1 天前
Stable Diffusion 学习笔记02
笔记·学习·stable diffusion
乌旭2 天前
开源GPU架构RISC-V VCIX的深度学习潜力测试:从RTL仿真到MNIST实战
人工智能·深度学习·stable diffusion·架构·aigc·midjourney·risc-v
wei_shuo4 天前
GpuGeek 实操指南:So-VITS-SVC 语音合成与 Stable Diffusion 文生图双模型搭建,融合即梦 AI 的深度实践
人工智能·stable diffusion·gpu算力·gpuseek
这是一个懒人6 天前
Stable Diffusion WebUI 插件大全:功能详解与下载地址
stable diffusion
浪淘沙jkp6 天前
AI大模型学习十八、利用Dify+deepseekR1 +本地部署Stable Diffusion搭建 AI 图片生成应用
人工智能·stable diffusion·agent·dify·ollama·deepseek
Icoolkj7 天前
深入了解 Stable Diffusion:AI 图像生成的奥秘
人工智能·stable diffusion
这是一个懒人8 天前
mac 快速安装stable diffusion webui
macos·stable diffusion
璇转的鱼8 天前
Stable Diffusion进阶之Controlnet插件使用
人工智能·ai作画·stable diffusion·aigc·ai绘画
AloneCat20129 天前
stable Diffusion模型结构
stable diffusion
西西弗Sisyphus9 天前
Stable Diffusion XL 文生图
stable diffusion