Stable Diffusion使用ControlNet:IP-Adapter实现图片风格迁移

IP-Adapter 全称是 Text Compatible Image Prompt Adapter for Text-to-Image Diffusion Models(文本到图像扩散模型的文本兼容图像提示适配器),是腾讯研究院出品的一个新的ControlNet模型,旨在使预训练的文本到图像扩散模型能够生成具有图像提示的图像。

IP-Adapter是一种有效的轻量级适配器,用于实现预训练文本到图像扩散模型的图像提示能力。

IP-Adapter实现图片风格迁移示例

1、选择文生图

2、设置ControlNet unit 0的参数

添加一张图片作为参考风格。

  • Control Type:选择IP-Adapter
  • Preprocessor:选择ip-adapter_clip_sd15
  • Model:选择ip-adapter_sd15_plus
  • Control Weight:设置为1。

3、设置ControlNet unit 1的参数

这里选择Depth控制图片的结构,也可以使用lineart、canny、softedge等线条类模型。

  • Control Type:选择Depth
  • Preprocessor:选择depth_midas
  • Model:选择control_v11f1p_sd15_depth
  • Control Weight:设置为1。

4、文生图参数设置

  • 采样方式:选择DPM++ 2M Karras
  • 迭代步数:设置为20
  • 高度和宽度与ControlNet unit 1上传的图片保持一致

效果展示

Depth Lineart Canny SoftEdge

相关推荐
长不大的蜡笔小新3 天前
基于Stable Diffusion的多模态图像生成与识别系统
stable diffusion
米汤爱学习3 天前
stable-diffusion-webui【笔记】
笔记·stable diffusion
fantasy_arch3 天前
Transformer vs Stable Diffusion vs LLM模型对比
深度学习·stable diffusion·transformer
盼小辉丶3 天前
PyTorch实战——基于文本引导的图像生成技术与Stable Diffusion实践
pytorch·深度学习·stable diffusion·生成模型
Blossom.1183 天前
工业级扩散模型优化实战:从Stable Diffusion到LCM的毫秒级生成
开发语言·人工智能·python·深度学习·机器学习·stable diffusion·transformer
盼小辉丶4 天前
PyTorch实战(21)——扩散模型(Diffusion Model)
pytorch·深度学习·stable diffusion·生成模型
Tiger Shi5 天前
使用Qt调用stable-diffusion.cpp做一个客户端
人工智能·stable diffusion
byte轻骑兵5 天前
共绩算力 RTX 5090 极速部署 Stable Diffusion WebUI:新手也能秒开 AI 绘图工作站
人工智能·stable diffusion
伟大的大威6 天前
在 NVIDIA DGX Spark部署 Stable Diffusion 3.5 并使用ComfyUI
stable diffusion·spark·comfyui
迈火9 天前
APISR IN COMFYUI:提升ComfyUI图像超分辨率的强力插件
图像处理·人工智能·计算机视觉·stable diffusion·aigc·音视频·midjourney