ELBO(Evidence Lower BOund)和 VLB(Variational Lower Bound)是同一个概念的两种叫法
在变分推断(Variational Inference)中,我们的目标是最大化数据的对数似然 og p(x) logp(x),但通常难以直接计算(intractable)。
通过 Jensen 不等式,可以推导出一个下界:

最大化 ELBO ⟺ 同时做到两件事:
- 提高数据重建质量
- 让近似后验 q(z∣x) 接近先验 p(z)
ELBO(Evidence Lower BOund)和 VLB(Variational Lower Bound)是同一个概念的两种叫法
在变分推断(Variational Inference)中,我们的目标是最大化数据的对数似然 og p(x) logp(x),但通常难以直接计算(intractable)。
通过 Jensen 不等式,可以推导出一个下界:

最大化 ELBO ⟺ 同时做到两件事: