技术栈
自回归生成
thesky123456
20 天前
大模型
·
文生图
·
diffusion
·
扩散模型
·
dit
·
自回归生成
·
多模态生成
27届大模型面试准备(四十六):多模态生成式架构——扩散与自回归的统一
大模型的能力版图里,A14 讲了视觉语言模型(VLM,理解侧),A31 讲了多模态推理,A40 讲了多模态大模型训练与对齐,A44 讲了生成式世界模型与视频生成(偏"世界如何被模拟")。本文把镜头对准"生成范式"本身:同样是文生图、文生视频,底层为什么会出现自回归(Autoregressive, AR)和扩散(Diffusion)两条技术路线?它们各自擅长什么、又为什么正在相互靠拢?
Shannon@
1 年前
人工智能
·
深度学习
·
transformer
·
encoder-decoder
·
transformer架构
·
自回归生成
·
top-p采样
Transformer架构解析:Encoder与Decoder核心差异、生成式解码技术详解
Transformer是一种Encoder-Decoder架构,主要有Encoder:负责对输入序列进行特征提取,得到一系列隐藏向量表示
我是有底线的