comfyUI原理

你可以把 ComfyUI 的基础文生图流程,记成"准备三样东西,再交给 KSampler 循环处理":

  1. 主模型:知道图像应有的规律。
  2. 文字条件:告诉模型这次想画什么。
  3. 初始 Latent:一团随机噪声,是本次生成的起点。

#mermaid-svg-yH8G64VueNXyxA81{font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;fill:#333;}@keyframes edge-animation-frame{from{stroke-dashoffset:0;}}@keyframes dash{to{stroke-dashoffset:0;}}#mermaid-svg-yH8G64VueNXyxA81 .edge-animation-slow{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 50s linear infinite;stroke-linecap:round;}#mermaid-svg-yH8G64VueNXyxA81 .edge-animation-fast{stroke-dasharray:9,5!important;stroke-dashoffset:900;animation:dash 20s linear infinite;stroke-linecap:round;}#mermaid-svg-yH8G64VueNXyxA81 .error-icon{fill:#552222;}#mermaid-svg-yH8G64VueNXyxA81 .error-text{fill:#552222;stroke:#552222;}#mermaid-svg-yH8G64VueNXyxA81 .edge-thickness-normal{stroke-width:1px;}#mermaid-svg-yH8G64VueNXyxA81 .edge-thickness-thick{stroke-width:3.5px;}#mermaid-svg-yH8G64VueNXyxA81 .edge-pattern-solid{stroke-dasharray:0;}#mermaid-svg-yH8G64VueNXyxA81 .edge-thickness-invisible{stroke-width:0;fill:none;}#mermaid-svg-yH8G64VueNXyxA81 .edge-pattern-dashed{stroke-dasharray:3;}#mermaid-svg-yH8G64VueNXyxA81 .edge-pattern-dotted{stroke-dasharray:2;}#mermaid-svg-yH8G64VueNXyxA81 .marker{fill:#333333;stroke:#333333;}#mermaid-svg-yH8G64VueNXyxA81 .marker.cross{stroke:#333333;}#mermaid-svg-yH8G64VueNXyxA81 svg{font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:16px;}#mermaid-svg-yH8G64VueNXyxA81 p{margin:0;}#mermaid-svg-yH8G64VueNXyxA81 .label{font-family:"trebuchet ms",verdana,arial,sans-serif;color:#333;}#mermaid-svg-yH8G64VueNXyxA81 .cluster-label text{fill:#333;}#mermaid-svg-yH8G64VueNXyxA81 .cluster-label span{color:#333;}#mermaid-svg-yH8G64VueNXyxA81 .cluster-label span p{background-color:transparent;}#mermaid-svg-yH8G64VueNXyxA81 .label text,#mermaid-svg-yH8G64VueNXyxA81 span{fill:#333;color:#333;}#mermaid-svg-yH8G64VueNXyxA81 .node rect,#mermaid-svg-yH8G64VueNXyxA81 .node circle,#mermaid-svg-yH8G64VueNXyxA81 .node ellipse,#mermaid-svg-yH8G64VueNXyxA81 .node polygon,#mermaid-svg-yH8G64VueNXyxA81 .node path{fill:#ECECFF;stroke:#9370DB;stroke-width:1px;}#mermaid-svg-yH8G64VueNXyxA81 .rough-node .label text,#mermaid-svg-yH8G64VueNXyxA81 .node .label text,#mermaid-svg-yH8G64VueNXyxA81 .image-shape .label,#mermaid-svg-yH8G64VueNXyxA81 .icon-shape .label{text-anchor:middle;}#mermaid-svg-yH8G64VueNXyxA81 .node .katex path{fill:#000;stroke:#000;stroke-width:1px;}#mermaid-svg-yH8G64VueNXyxA81 .rough-node .label,#mermaid-svg-yH8G64VueNXyxA81 .node .label,#mermaid-svg-yH8G64VueNXyxA81 .image-shape .label,#mermaid-svg-yH8G64VueNXyxA81 .icon-shape .label{text-align:center;}#mermaid-svg-yH8G64VueNXyxA81 .node.clickable{cursor:pointer;}#mermaid-svg-yH8G64VueNXyxA81 .root .anchor path{fill:#333333!important;stroke-width:0;stroke:#333333;}#mermaid-svg-yH8G64VueNXyxA81 .arrowheadPath{fill:#333333;}#mermaid-svg-yH8G64VueNXyxA81 .edgePath .path{stroke:#333333;stroke-width:2.0px;}#mermaid-svg-yH8G64VueNXyxA81 .flowchart-link{stroke:#333333;fill:none;}#mermaid-svg-yH8G64VueNXyxA81 .edgeLabel{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-yH8G64VueNXyxA81 .edgeLabel p{background-color:rgba(232,232,232, 0.8);}#mermaid-svg-yH8G64VueNXyxA81 .edgeLabel rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-yH8G64VueNXyxA81 .labelBkg{background-color:rgba(232, 232, 232, 0.5);}#mermaid-svg-yH8G64VueNXyxA81 .cluster rect{fill:#ffffde;stroke:#aaaa33;stroke-width:1px;}#mermaid-svg-yH8G64VueNXyxA81 .cluster text{fill:#333;}#mermaid-svg-yH8G64VueNXyxA81 .cluster span{color:#333;}#mermaid-svg-yH8G64VueNXyxA81 div.mermaidTooltip{position:absolute;text-align:center;max-width:200px;padding:2px;font-family:"trebuchet ms",verdana,arial,sans-serif;font-size:12px;background:hsl(80, 100%, 96.2745098039%);border:1px solid #aaaa33;border-radius:2px;pointer-events:none;z-index:100;}#mermaid-svg-yH8G64VueNXyxA81 .flowchartTitleText{text-anchor:middle;font-size:18px;fill:#333;}#mermaid-svg-yH8G64VueNXyxA81 rect.text{fill:none;stroke-width:0;}#mermaid-svg-yH8G64VueNXyxA81 .icon-shape,#mermaid-svg-yH8G64VueNXyxA81 .image-shape{background-color:rgba(232,232,232, 0.8);text-align:center;}#mermaid-svg-yH8G64VueNXyxA81 .icon-shape p,#mermaid-svg-yH8G64VueNXyxA81 .image-shape p{background-color:rgba(232,232,232, 0.8);padding:2px;}#mermaid-svg-yH8G64VueNXyxA81 .icon-shape .label rect,#mermaid-svg-yH8G64VueNXyxA81 .image-shape .label rect{opacity:0.5;background-color:rgba(232,232,232, 0.8);fill:rgba(232,232,232, 0.8);}#mermaid-svg-yH8G64VueNXyxA81 .label-icon{display:inline-block;height:1em;overflow:visible;vertical-align:-0.125em;}#mermaid-svg-yH8G64VueNXyxA81 .node .label-icon path{fill:currentColor;stroke:revert;stroke-width:revert;}#mermaid-svg-yH8G64VueNXyxA81 :root{--mermaid-font-family:"trebuchet ms",verdana,arial,sans-serif;} KSampler:执行 Steps 次采样循环
进入下一步循环
当前 Latent xₜ

开始时接近随机噪声

之后逐步包含图像结构
调用 MODEL

输入:当前 Latent、当前噪声阶段、提示词编码结果

输出:本步应如何去噪的预测
Sampler

例如 Euler、DPM++

根据模型预测和当前噪声阶段

计算这一步如何更新
新的 Latent xₜ₋₁

通常噪声更少,目标结构更多
Load Checkpoint

加载模型文件
MODEL

负责预测当前 Latent

应如何去噪
CLIP 文本编码器

把文字转换为数学表示
VAE

负责 Latent 与图片之间转换
Prompt

一只橘猫坐在窗台上
提示词编码结果

Conditioning

不是文字本身,而是 CLIP 的输出
Empty Latent Image

创建指定尺寸的潜空间画布

例如最终输出 512 × 512
Latent 容器

提供尺寸、批量等信息
Seed

决定本次随机噪声的起点
随机 Noise

由 KSampler 按 Seed 准备
Scheduler

提供每一步的噪声阶段表

从高噪声逐步到低噪声
最终 Latent x₀

已具备完整图像信息

但仍不是可见图片
VAE Decode

把潜空间数据解码为 RGB 像素
最终图片

橘猫坐在窗台上

其中最容易混淆的部分是 KSampler 内部:

text 复制代码
当前 Latent xₜ
     ↓
MODEL:根据"当前状态 + 噪声阶段 + 文字条件"给出预测
     ↓
Sampler:按具体数学规则计算这一步如何更新
     ↓
新的 Latent xₜ₋₁
     ↓
重复,直到得到最终 Latent x₀

各组件只需这样理解:

组件 作用
Load Checkpoint 加载主模型、CLIP 和 VAE
CLIP 把提示词转换成模型可用的文字条件
Seed 决定初始随机噪声;相同条件下用于复现
Empty Latent Image 定义生成图片的尺寸和批量
MODEL 根据当前 Latent 和文字条件,预测应如何去噪
Scheduler 安排每一步对应的噪声强度
Sampler 按 Euler、DPM++ 等规则,把模型预测变成下一步 Latent
KSampler 承载整个重复调用模型、更新 Latent 的过程
VAE Decode 把最终 Latent 转换成人眼可见的 RGB 图片

最核心的一句话是:

CLIP 告诉模型"想画什么",模型告诉采样器"当前应怎样改",采样器把当前 Latent 一步步更新,VAE 最后把它翻译成图片。

相关推荐
在所不辞兄1 小时前
【零基础学智能仿真-16】循环神经网络与LSTM/GRU——学习力学响应的历史记忆
人工智能·rnn·神经网络·gru·lstm·工程技术·工程仿真
淡海水1 小时前
10-05-高级-模式匹配-CSharp如何改变与数据结构的交互方式
数据结构·算法·c#·模式匹配
愚公搬代码1 小时前
【愚公系列】《造浪者:AI创业实战地图》002-AI创业的六个本质差异
人工智能
Dawson Zhu1 小时前
从“会回答“到“能执行“:AI Agent 的系统构成、运行机制与工程实践
人工智能·语言模型·架构·aigc·agi
七夜zippoe1 小时前
AI Agent 的核心能力循环:感知→规划→执行→反思→记
人工智能·ai·agent·循环·核心能力
loser.with.m1 小时前
【AgentScope 2.0】8-MCP 集成:Agent 的「USB-C 接口」是怎么接的
人工智能·spring boot·agentscope
果壳science1 小时前
张祥前统一场论研讨会在香港理工大学举办
人工智能·算法
xsd202411181 小时前
电梯轿厢事件识别
人工智能
kaixin_啊啊1 小时前
Codex论文辅助全流程
人工智能·笔记·学习·ai·大模型