Dit架构 diffusion范式分类+应用

1.ping 网址

2.ssh nscc/l20

3.crtl+,打开vscode的setting

4.win 10修改ssh配置文件及其密钥权限为600 - 晴云孤魂 - 博客园

整体来看:

使用transformer作为其主干网络,代替了原先的UNet

在latent space进行训练,通过transformer处理潜在的patch

输入的条件(timestep 和 text/label )的四种处理方法:

In-context conditioning: 将condition和input embedding合并成一个tokens(concat),不增加额外计算量

Cross-attention block:在transformer中插入cross attention,将condition当作是K、V,input当作是Q

Adaptive layer norm (adaLN) block:将timestep和 text/label相加,通过MLP去回归参数scale和shift,也不增加计算量。并且在每一次残差相加时,回归一个gate系数。

adaLN-Zero block:参数初始化为0,那么在训练开始时,残差模块当于identical function。

整体流程:patchify -> Transfomer Block -> Linear -> Unpatchify。 注意最后输出的维度是原来维度的2倍,分别输出noise和方差。

由下图可见,adaLN-Zero最好。然后就是探索各种调参效果,此处略。

相关推荐
hongyucai5 小时前
大模型常见问题整理
人工智能·深度学习
小柯南敲键盘6 小时前
跨马翻译:批量图片与视频字幕翻译,支持智能抠图
大数据·人工智能·python·音视频
aax12134536 小时前
VOCs集群治理工程落地|美丽蓝天绿岛项目工艺、控制方案、申报技术要点解析
大数据·人工智能
俊哥V6 小时前
每日 AI 研究简报 · 2026-07-24
人工智能·ai
墨舟的AI笔记6 小时前
浏览器内 LLM 推理:WebGPU 量化模型与推理管线搭建
人工智能
大公产经晚间消息6 小时前
“胜算未来·2026戈峻思享会”即将登陆大连
大数据·人工智能·ai
烟漠河洛6 小时前
AI Agent 在代购系统中的三个落地实战:从知识图谱到自动化链路
人工智能·自动化·知识图谱
IvorySQL6 小时前
PG 日报|修复高 IO 并发场景,解决预读机制耗尽本地缓冲区缺陷
数据库·人工智能·sql·postgresql·区块链
鲜于言悠9056 小时前
Vibe Coding正确打开方式:前端开发者的AI协作编码方法论
人工智能
武子康6 小时前
同一套 ComfyUI 工作流第二次为什么快一倍:4 类消息误解 + 互斥阶段账本 + 10 单元实验矩阵
人工智能·aigc·agent