技术栈

自回归生成

thesky123456
20 天前
大模型·文生图·diffusion·扩散模型·dit·自回归生成·多模态生成
27届大模型面试准备(四十六):多模态生成式架构——扩散与自回归的统一大模型的能力版图里,A14 讲了视觉语言模型(VLM,理解侧),A31 讲了多模态推理,A40 讲了多模态大模型训练与对齐,A44 讲了生成式世界模型与视频生成(偏"世界如何被模拟")。本文把镜头对准"生成范式"本身:同样是文生图、文生视频,底层为什么会出现自回归(Autoregressive, AR)和扩散(Diffusion)两条技术路线?它们各自擅长什么、又为什么正在相互靠拢?
Shannon@
1 年前
人工智能·深度学习·transformer·encoder-decoder·transformer架构·自回归生成·top-p采样
Transformer架构解析:Encoder与Decoder核心差异、生成式解码技术详解Transformer是一种Encoder-Decoder架构,主要有Encoder:负责对输入序列进行特征提取,得到一系列隐藏向量表示
我是有底线的