升级版ComfyUI InstantID 换脸:FaceDetailer + InstantID + IP-Adapter

在使用ComfyUI的InstantID进行人脸替换时,一个常见问题是该工具倾向于保留原始参考图的构图,即使用户的提示词与之不符。

例如,即使用户提供的是大头照并请求生成全身照,结果仍是大头照,没有显示出用户所期望的构图。

同样,从半身照生成全身照的工作流也会遇到同样的问题------生成的图像仍然是半身照。

为了克服这一挑战,我设计了一种新的工作流程,该流程可以将参考图中的人脸替换到任意一张照片上,而不受原始构图的限制。

这种方法不仅提高了创作的灵活性,还确保了生成的图像能更好地符合用户的实际需求。接下来的内容,我们将详细介绍如何实现这一工作流程。

如果你喜欢看视频教程,那么我非常欢迎你观看本文所对应的视频(B站同名帐号):

www.bilibili.com/video/BV12T...

基础工作流的搭建

首先,使用SDXL生成一张肖像照片。这张照片将作为换脸操作的基底图像。用于换脸的基底图像,你也可以用Midjourney生成,或者是你自己拍摄的照片。这样就非常灵活了。

生成肖像照片

1️⃣ 准备工作 :确保在ComfyUI管理器中安装了Efficiency Nodes效率节点。

2️⃣ 设置SDXL节点

  • 加载SDXL的效率加载器SDXL的采样器
  • 连接这些节点,选择checkpoint,并输入提示词。
  • 运行基础工作流,生成一张肖像照片。

换脸操作

3️⃣ 加载所需节点

  • 确保在进行下一步之前,您的ComfyUI管理器中已安装Impact Pack。
  • 加载FaceDetailer,这是一个专门用于面部重绘的节点,可以自动识别和处理脸部区域,有效解决脸部形态问题(俗称脸崩)。
  • 添加检测面部区域的节点和分割面部的节点,这些节点将帮助更精确地处理面部特征。
  • 将这些节点相连接。
  • 通过点击"添加提示词队列"按钮,检查节点连接是否正确。

在操作过程中,如果遇到任何疑问或需要进一步的详细说明,可以参考我之前发布的文章,里面使用了LoRA和FaceDetailer进行类似的换脸操作

添加并配置InstantID以进行换脸操作

步骤 1: 安装和配置InstantID

1️⃣ 安装InstantID:在添加InstantID之前,您需要确保已经在ComfyUI管理器里安装了由cubiq开发的InstantID节点。这个节点是实现高质量面部替换的核心。

2️⃣ 配置节点

  • 选择Apply InstantID节点并将其添加到您的工作流中。
  • 连接InstantID的模型输入端口,从instantid节点拖出所需模型。
  • 添加insightface模型,用于识别和处理面部特征。
  • 添加ControlNet模型节点以辅助InstantID的功能。

步骤 2: 准备参考图像

3️⃣ 上传参考图

  • 选择一张脸部的参考图像,如Instagram上的一个AI网红的图像,这将用于替换生成的肖像中的脸部。
  • 连接图像输入端口至已加载图片的节点,以确保参考图被正确加载。

步骤 3: 调整参数并连接

4️⃣ 连接节点

  • 将SDXL Tuple节点的模型和提示词连接到InstantID。

5️⃣ 连接输出端口

  • 确保InstantID的输出端口正确连接到FaceDetailer的输入端口,以便进行最终的面部细节处理。

开始换脸操作

6️⃣ 执行换脸

  • 检查所有连接是否正确无误后,执行换脸操作。
  • 观察输出结果,感觉有些过拟合。调低一下cfg,再调高一下步数。接着再来跑一张图。

我们来对比下脸部参考图和换脸以后的图像。感觉有些不太像。 很多情况下,再加入IP-Adapter可以提高一些换脸的相似度。我们来接着添加IP-Adapter。

添加IP-Adapter以提高相似度

步骤 1: 安装和配置IP-Adapter

1️⃣ 选择IP-Adapter节点

  • 在ComfyUI中搜索并选择包含"FaceID"的IP-Adapter。
  • 如果找不到此节点,请确保安装了ComfyUI IP-Adapter Plus相关节点,并将ComfyUI更新到最新版本。

2️⃣ 配置IP-Adapter FaceID模型

  • 选择"FaceID PLUS V2"预设,该模型会自动根据选定的模型(SD1.5或SDXL)进行配置。

3️⃣ 连接IP-Adapter

  • 将IP-Adapter的主节点与"Unified Loader"连接。
  • 将"Unified Loader"的模型输入端连接至SDXL Tuple的模型输出端。
  • 将IP-Adapter的模型输出端连接至InstantID的模型输入端。
  • 图像输入端口可以连至InstantID的参考图或另外连接一个加载图像的节点。

步骤 2: 运行和调整

4️⃣ 运行换脸操作

  • 设置好后,再次运行整个流程。
  • 对比参考头像和生成的头像,检查相似度。

5️⃣ 调整参数以减少过拟合

  • 如果出现过拟合,可在IP-Adapter节点中调低权重和结束步数。
  • 若调整后相似度降低,可适当增加权重。

6️⃣ 进一步优化

  • 如果依然不满意相似度,可调整InstantID和IP-Adapter的权重设置。
  • 对于细节问题,如耳朵和额头的小问题,可以通过局部重绘或在FaceDetailer中调整面部区域的参数来解决。

高级优化技巧

如果您追求更高的相似度,可以考虑为人物训练一个LoRA模型

我已经制作了相关的教程,详细介绍了如何在ComfyUI中使用训练好的LoRA进行换脸,这将大幅提高相似度。

通过这些详细步骤,您不仅能够实现高相似度的换脸效果,还可以根据需要进行微调,确保最终图像的质量和满意度。

感谢大家的关注,希望这些技巧对您有帮助,敬请期待下一篇教程!

另外,给大家推荐我正在跑SD的云平台:myaiforce.com.cn/lanrui/

欢迎访问我的免费学习AI网站:

myaiforce.com.cn/

原文地址:

myaiforce.com.cn/comfyui-ins...

相关推荐
WebCandy20 小时前
EsChatPro 接入国内 DeepSeek 大模型
ai·aigc
云边有个稻草人1 天前
AIGC与娱乐产业:颠覆创意与生产的新力量
aigc·娱乐
猫头虎1 天前
新纪天工 开物焕彩:重大科技成就发布会参会感
人工智能·开源·aigc·开放原子·开源软件·gpu算力·agi
云起无垠1 天前
第79期 | GPTSecurity周报
gpt·aigc
Jeremy_lf2 天前
【生成模型之三】ControlNet & Latent Diffusion Models论文详解
人工智能·深度学习·stable diffusion·aigc·扩散模型
程序员X小鹿2 天前
羡慕了!小红书上3w+点赞的治愈系插图,用这个免费的AI工具,1分钟搞定!(附详细教程)
aigc
AIGC大时代2 天前
如何使用ChatGPT辅助文献综述,以及如何进行优化?一篇说清楚
人工智能·深度学习·chatgpt·prompt·aigc
吕小明么3 天前
OpenAI o3 “震撼” 发布后回归技术本身的审视与进一步思考
人工智能·深度学习·算法·aigc·agi
聆思科技AI芯片3 天前
实操给桌面机器人加上超拟人音色
人工智能·机器人·大模型·aigc·多模态·智能音箱·语音交互
minos.cpp3 天前
Mac上Stable Diffusion的环境搭建(还算比较简单)
macos·ai作画·stable diffusion·aigc