【扩散模型原理】（七）Diffusion Models and Optimal Transport（3）

d x ( t ) = − x ( t ) d t + 2 d w ( t ) , x ( 0 ) ∼ p 0 . \mathrm{d}\mathbf{x}(t) = -\mathbf{x}(t)\mathrm{d}t + \sqrt{2}\mathrm{d}\mathbf{w}(t),\quad \mathbf{x}(0)\sim p_0. dx(t)=−x(t)dt+2 dw(t),x(0)∼p0.

这是标准的 "摧毁数据" 过程。 − x ( t ) d t -\mathbf{x}(t)dt −x(t)dt 就像一股向心力，把所有的数据点往原点 ( 0 ) (\mathbf{0}) (0) 拉； 2 d w ( t ) \sqrt{2}d\mathbf{w}(t) 2 dw(t) 是随机乱晃的噪声（布朗运动）。随着时间推移，真实图片（ p 0 p_0 p0）会被这个公式慢慢打散，最终变成标准高斯分布 N ( 0 , I ) \mathcal{N}(\mathbf{0},\mathbf{I}) N(0,I)，也就是纯噪声。

对应的 PF-ODE 为

d S t ( x ) d t = − S t ( x ) − ∇ log ⁡ p t ( S t ( x ) ) , S 0 ( x ) = x . \frac{\mathrm{d}\mathbf{S}_t(\mathbf{x})}{\mathrm{d}t} = -\mathbf{S}_t(\mathbf{x}) - \nabla\log p_t\left(\mathbf{S}_t(\mathbf{x})\right),\quad \mathbf{S}_0(\mathbf{x}) = \mathbf{x}. dtdSt(x)=−St(x)−∇logpt(St(x)),S0(x)=x.

这个式子告诉粒子（ S t ( x ) \mathbf{S}_t(\mathbf{x}) St(x)），在时间 t t t 应该往哪里走。它的速度由两部分组成：

− x -\mathbf{x} −x（回归原点）：延续了 SDE 的漂移项，有把粒子往中心拉的趋势。

− ∇ log ⁡ p t ( x ) -\nabla \log p_t(\mathbf{x}) −∇logpt(x)（Score 项 / 分数函数）：这是最核心的力量，它告诉粒子 "顺着当前概率密度变大的方向走"。

其中， S t \mathbf{S}_t St 表示流映射，它将 p 0 p_0 p0 前推得到边缘分布 p t p_t pt（S t \mathbf{S}_t St就像一个搬运工）：

( S t ) # p 0 = p t , 也就是 p t ( y ) = ∫ R D δ ( y − S t ( x ) ) p 0 ( x ) d x . (\mathbf{S}t)\# p_0 = p_t, \quad 也就是 \quad p_t(\mathbf{y}) = \int{\mathbb{R}^D} \delta\left(\mathbf{y}-\mathbf{S}_t(\mathbf{x})\right)p_0(\mathbf{x})\mathrm{d}\mathbf{x}. (St)#p0=pt,也就是pt(y)=∫RDδ(y−St(x))p0(x)dx.密度 p t p_t pt 依据福克 - 普朗克方程演化：

∂ p t ∂ t = ∇ ⋅ ( x p t ) + Δ p t . \frac{\partial p_t}{\partial t} = \nabla\cdot\left(\mathbf{x} p_t\right) + \Delta p_t. ∂t∂pt=∇⋅(xpt)+Δpt.该方程等价于带有速度场 的连续性方程：

v t ( x ) = − x − ∇ log ⁡ p t ( x ) , \mathbf{v}_t(\mathbf{x}) = -\mathbf{x} - \nabla\log p_t(\mathbf{x}), vt(x)=−x−∇logpt(x),

当时间 t t t 较小时（ t t t 靠近 0，刚开始加噪）， p t p_t pt 的形状非常复杂（比如是几张复杂的图片分布，有很多个山峰）。此时 Score 项会非常大，而且方向极其诡异。它会把粒子顺着复杂分布的山坡推向山谷，轨迹极其弯曲。

到了时间 t t t 很大时， p t p_t pt 变成了高斯分布，分数项才变得简单（变成直线指向原点）。

整体来看，PF-ODE 的轨迹根本不是直线，而是一条在复杂的高维概率空间中蜿蜒曲折的路径。 它虽然能把分布成功转化为高斯分布（ t → ∞ t \to \infty t→∞ 时 S ∞ # p 0 = N ( 0 , I ) \mathbf{S}_\infty \# p_0 = \mathcal{N}(\mathbf{0},\mathbf{I}) S∞#p0=N(0,I)），但消耗的 "路程" 很长，动能不是最小的。

其流由 S t ( x ) \mathbf{S}_t(\mathbf{x}) St(x) 给出。换言之，PF-ODE 可写为：

d S t ( x ) d t = v t ( S t ( x ) ) . \frac{\mathrm{d}\mathbf{S}_t(\mathbf{x})}{\mathrm{d}t} = \mathbf{v}_t\left(\mathbf{S}_t(\mathbf{x})\right). dtdSt(x)=vt(St(x)).当 t → ∞ t \to \infty t→∞ 时，该映射将初始分布传输至先验分布：

S ∞ # p 0 = N ( 0 , I ) = : p prior . \mathbf{S}\infty \# p_0 = \mathcal{N}(\mathbf{0},\mathbf{I}) =: p{\text{prior}}. S∞#p0=N(0,I)=:pprior.

标准扩散模型（PF-ODE）的毛病在于：它是在用"Score 降噪"的方式工作。因为每一步都要估计当前复杂分布的梯度，这导致它走的路是弯弯绕绕的，所以生成图片需要很多步（比如 50 步、100 步甚至 1000 步）。

最优传输（OT）的理想是：如果你能直接算出那个最完美的"笔直传送带"，就能一步到位（1 步生成）。

既然证明了 PF-ODE（标准扩散）不是 OT（走弯路），那么现在的 AI 研究者就在想办法：能不能用数学约束，强行把神经网络学到的路线"掰直"？这就是为什么现在扩散模型越来越快（少步采样），因为大家都在用 OT 的思想（Rectified Flow 等）去改造原本弯路绕绕的 PF-ODE！

Lavenant 与 Santambrogio（2022）论证的目标。 Lavenant 和 Santambrogio（2022）并未直接评估从 p 0 p_0 p0 映射至高斯分布的终端映射 S ∞ \mathbf{S}_\infty S∞ 是否为最优映射。相反，他们选取特定的初始分布 p 0 p_0 p0，考察整条 PF-ODE 轨迹。其核心结论是： 流演化过程中的某一处会丧失最优性。

他们考虑中间边缘分布 p t = S t # p 0 p_t = \mathbf{S}t\#p_0 pt=St#p0，并定义从 p t 0 p{t_0} pt0 到高斯分布的剩余传输映射：

T t → ∞ : = S ∞ ∘ S t − 1 , for all t ≥ 0. \mathbf{T}{t\to\infty}:= \mathbf{S}\infty \circ \mathbf{S}t^{-1},\quad \text{for all } t \ge 0. Tt→∞:=S∞∘St−1,for all t≥0.该论证的核心表明：对于精心选取的 p 0 p_0 p0，存在时刻 t 0 ≥ 0 t_0 \ge 0 t0≥0，使得 T t 0 → ∞ \mathbf{T}{t_0\to\infty} Tt0→∞ 并不是从新初始分布 p t 0 p_{t_0} pt0 到 N ( 0 , I ) \mathcal{N}(\mathbf{0},\mathbf{I}) N(0,I) 的二次代价最优传输映射。

该结果证明，PF-ODE 流一般无法得到最优传输映射，并且对于某些初始分布，最优性这一性质会失效。

一些工具。 Lavenant 与 Santambrogio（2022）的论证关键依赖如下结论，即Brenier 定理：

定理 7.1（非严格形式的 Brenier 定理） 。设 ν 1 , ν 2 \nu_1,\nu_2 ν1,ν2 为定义在 R D \mathbb{R}^D RD 上、具有光滑密度的两个概率分布。光滑映射 T : R D → R D \mathbf{T}: \mathbb{R}^D \to \mathbb{R}^D T:RD→RD 是从 ν 1 \nu_1 ν1 到 ν 2 \nu_2 ν2（二次代价下）的最优传输映射，当且仅当存在凸函数 u u u 使得 T = ∇ u \mathbf{T} = \nabla u T=∇u。此时， D T \mathrm{D}\mathbf{T} DT 对称且半正定，且 u u u 满足蒙日 - 安培方程：

det ⁡ D 2 u ( x ) = ν 1 ( x ) ν 2 ( ∇ u ( x ) ) . \det \mathrm{D}^2 u(\mathbf{x}) = \frac{\nu_1(\mathbf{x})}{\nu_2(\nabla u(\mathbf{x}))}. detD2u(x)=ν2(∇u(x))ν1(x).

该证明还隐含用到下述事实（后文不再重复说明）： 一个映射为两分布间的最优传输映射，当且仅当其逆映射为反向的最优传输映射。

证明概要：PF-ODE 一般并非最优传输映射。 Lavenant 与 Santambrogio（2022）采用反证法 ：假设对任意 t ≥ 0 t \ge 0 t≥0，映射

T t = S t ∘ S ∞ − 1 \mathbf{T}_t = \mathbf{S}t \circ \mathbf{S}\infty^{-1} Tt=St∘S∞−1是从 N ( 0 , I ) \mathcal{N}(\mathbf{0},\mathbf{I}) N(0,I) 到 p t p_t pt 的二次代价最优传输映射。（假设 PF-ODE 这条导航路线，就是数学物理上最完美的"直线传送带（二次代价最优传输）"）

步骤 1：Brenier 定理。由 Brenier 定理，任意以高斯分布为源分布的最优传输映射，其雅可比矩阵必对称且半正定 。因此（寻找完美搬运工的"生理特征"）
D T t ( x ) = D S t ( S ∞ − 1 ( x ) ) D ( S ∞ − 1 ) ( x ) \mathrm{D}\mathbf{T}t(\mathbf{x}) = \mathrm{D}\mathbf{S}t(\mathbf{S}\infty^{-1}(\mathbf{x}))\mathrm{D}(\mathbf{S}\infty^{-1})(\mathbf{x}) DTt(x)=DSt(S∞−1(x))D(S∞−1)(x)对所有 t t t、 x \mathbf{x} x 均为对称矩阵。此处 D T t ( x ) \mathrm{D}\mathbf{T}_t(\mathbf{x}) DTt(x) 表示关于 x \mathbf{x} x 的全微分。

雅可比矩阵代表局部的"拉伸和旋转"。对称且半正定，意味着它只能拉伸，不能旋转（不拐弯）。就像一个完美的圆柱形擀面杖，只能把面团压平，不能把面团拧成麻花。

步骤 2：对对称性条件关于时间求导。对时间求导可得：
∂ ∂ t D T t ( x ) = ( ∂ ∂ t D S t ) ( S ∞ − 1 ( x ) ) D ( S ∞ − 1 ) ( x ) . \frac{\partial}{\partial t}\mathrm{D}\mathbf{T}t(\mathbf{x}) = \left(\frac{\partial}{\partial t}\mathrm{D}\mathbf{S}t\right)\left(\mathbf{S}\infty^{-1}(\mathbf{x})\right)\mathrm{D}(\mathbf{S}\infty^{-1})(\mathbf{x}). ∂t∂DTt(x)=(∂t∂DSt)(S∞−1(x))D(S∞−1)(x).由于该对称性对所有 t t t 成立，因此该导数矩阵同样保持对称。
利用流的常微分方程（对 x \mathbf{x} x 求微分），可得：
∂ ( D S t ) ∂ t = D v t ( S t ) ⋅ D S t = ( − I − D 2 log ⁡ p t ( S t ) ) ⋅ D S t . \frac{\partial(\mathrm{D}\mathbf{S}_t)}{\partial t} = \mathrm{D}\mathbf{v}_t(\mathbf{S}_t) \cdot \mathrm{D}\mathbf{S}_t = \left(-\mathbf{I} - \mathrm{D}^2 \log p_t(\mathbf{S}_t)\right) \cdot \mathrm{D}\mathbf{S}_t. ∂t∂(DSt)=Dvt(St)⋅DSt=(−I−D2logpt(St))⋅DSt.联立上述结果可知
( − I − D 2 log ⁡ p t ( S t ) ) ⋅ D S t ⋅ D ( S ∞ − 1 ) \left(-\mathbf{I} - \mathrm{D}^2 \log p_t(\mathbf{S}_t)\right) \cdot \mathrm{D}\mathbf{S}t \cdot \mathrm{D}(\mathbf{S}\infty^{-1}) (−I−D2logpt(St))⋅DSt⋅D(S∞−1)对所有 t ≥ 0 t \ge 0 t≥0 均为对称矩阵。
当 t = 0 t=0 t=0 时， S 0 = I \mathbf{S}0 = \mathbf{I} S0=I 且 D S 0 = I \mathrm{D}\mathbf{S}0 = \mathbf{I} DS0=I，于是得到
( − I − D 2 log ⁡ p 0 ( S ∞ − 1 ( x ) ) ) ⋅ D ( S ∞ − 1 ) ( x ) \left(-\mathbf{I} - \mathrm{D}^2 \log p_0\left(\mathbf{S}\infty^{-1}(\mathbf{x})\right)\right) \cdot \mathrm{D}(\mathbf{S}\infty^{-1})(\mathbf{x}) (−I−D2logp0(S∞−1(x)))⋅D(S∞−1)(x)为对称矩阵。

数学上，既然对所有 t t t 都对称，那它对时间 t t t 的导数也必须对称。

利用 PF-ODE 的速度场方程 v t = − x − ∇ log ⁡ p t \mathbf{v}t = -\mathbf{x} - \nabla \log p_t vt=−x−∇logpt，进行一顿推导，得出结论：在 t = 0 t = 0 t=0 时， ( − I − D 2 log ⁡ p 0 ) ⋅ D ( S ∞ − 1 ) \left(-\mathbf{I} - D^2 \log p_0\right) \cdot D(\mathbf{S}\infty^{-1}) (−I−D2logp0)⋅D(S∞−1) 这个乘积必须是对称矩阵。

这里的 D 2 log ⁡ p 0 D^2 \log p_0 D2logp0 代表真实图片分布的 "地形崎岖程度（Hessian 矩阵）"， D ( S ∞ − 1 ) D(\mathbf{S}_\infty^{-1}) D(S∞−1) 代表搬运时的 "拉伸程度"。

步骤 3：交换条件。由于假设 T 0 = S ∞ − 1 \mathbf{T}0=\mathbf{S}\infty^{-1} T0=S∞−1 是最优传输映射，其雅可比矩阵 D T 0 = D ( S ∞ − 1 ) \mathrm{D}\mathbf{T}0=\mathrm{D}(\mathbf{S}\infty^{-1}) DT0=D(S∞−1) 对称。此外，Hessian 矩阵 D 2 log ⁡ p 0 \mathrm{D}^2\log p_0 D2logp0 也是对称矩阵。回顾结论：两个对称矩阵的乘积为对称矩阵 ，当且仅当二者可交换。因此，对任意 x ∈ R D \mathbf{x}\in\mathbb{R}^D x∈RD，
D 2 log ⁡ p 0 ( S ∞ − 1 ( x ) ) \mathrm{D}^2\log p_0\left(\mathbf{S}\infty^{-1}(\mathbf{x})\right) D2logp0(S∞−1(x))必须与 D ( S ∞ − 1 ) ( x ) \mathrm{D}(\mathbf{S}\infty^{-1})(\mathbf{x}) D(S∞−1)(x) 可交换。
令 y = S ∞ − 1 ( x ) \mathbf{y}=\mathbf{S}\infty^{-1}(\mathbf{x}) y=S∞−1(x)，可得等价条件 ：对任意 y ∈ R D \mathbf{y}\in\mathbb{R}^D y∈RD， D 2 log ⁡ p 0 ( y ) \mathrm{D}^2\log p_0(\mathbf{y}) D2logp0(y) 必须与 D S ∞ ( y ) \mathrm{D}\mathbf{S}\infty(\mathbf{y}) DS∞(y) 可交换。
接下来将该条件转化为更便于计算的形式。由于 S ∞ \mathbf{S}\infty S∞ 是 p 0 p_0 p0 与 N ( 0 , I ) \mathcal{N}(\mathbf{0},\mathbf{I}) N(0,I) 之间的最优传输映射，由 Brenier 定理可知，存在凸函数 u u u 使得 S ∞ = ∇ u \mathbf{S}\infty=\nabla u S∞=∇u。结合蒙日 - 安培方程可得：
log ⁡ p 0 ( y ) = log ⁡ det ⁡ ( D 2 u ( y ) ) − 1 2 ∥ ∇ u ( y ) ∥ 2 + Constant . \log p_0(\mathbf{y}) = \log\det\left(\mathrm{D}^2 u(\mathbf{y})\right) - \frac12\left\|\nabla u(\mathbf{y})\right\|^2 + \text{Constant}. logp0(y)=logdet(D2u(y))−21∥∇u(y)∥2+Constant.代入 D S ∞ = D 2 u \mathrm{D}\mathbf{S}_\infty=\mathrm{D}^2 u DS∞=D2u，该条件化为：
D 2 ( log ⁡ det ⁡ D 2 u − 1 2 ∥ ∇ u ∥ 2 ) 必须与 D 2 u 可交换 . (7.5.1) \mathrm{D}^2\left(\log\det\mathrm{D}^2 u - \frac12\left\|\nabla u\right\|^2\right) \text{ 必须与 } \mathrm{D}^2 u \text{ 可交换}. \tag{7.5.1} D2(logdetD2u−21∥∇u∥2) 必须与 D2u 可交换.(7.5.1)上式给出了 T t \mathbf{T}_t Tt 为最优传输映射的一个必要条件。

线性代数有一个常识：两个对称矩阵相乘，结果仍然是对称矩阵 ，当且仅当这两个矩阵可以 "交换"（即 A B = B A AB = BA AB=BA）。

所以，推导出了一个必要条件："地形凹凸矩阵" 和 "搬运拉伸矩阵" 必须可以完美交换。

"交换" 意味着互不干涉。地形说 "我要在这里凹下去"，搬运工说 "好，我顺着你的地形拉伸"。两者完美配合，毫无摩擦。

进一步用蒙日 - 安培方程把这个条件转化成公式： D 2 ( log ⁡ det ⁡ D 2 u − 1 2 ∥ ∇ u ∥ 2 ) D^2\left(\log \det D^2 u - \frac12 \|\nabla u\|^2\right) D2(logdetD2u−21∥∇u∥2) 必须与 D 2 u D^2 u D2u 可交换。

步骤 4：构造反例。下面说明如何利用该必要条件导出矛盾。（构造反例，绝杀比赛）
假设可以构造一个凸函数 u u u，使得
D 2 ( log ⁡ det ⁡ D 2 u ( x ) − 1 2 ∣ ∇ u ( x ) ∣ 2 ) \mathrm{D}^2\left(\log\det \mathrm{D}^2 u(\mathbf{x})-\frac12\left|\nabla u(\mathbf{x})\right|^2\right) D2(logdetD2u(x)−21∣∇u(x)∣2)在某个 x ∈ R D \mathbf{x}\in\mathbb{R}^D x∈RD 处与 D 2 u ( x ) \mathrm{D}^2u(\mathbf{x}) D2u(x) 不可交换。定义 p 0 = ( ∇ u ) − 1 # N ( 0 , I ) p_0 = (\nabla u)^{-1}\#\mathcal{N}(\mathbf{0},\mathbf{I}) p0=(∇u)−1#N(0,I)，由 Brenier 定理可知， ∇ u \nabla u ∇u 是从 p 0 p_0 p0 到 N ( 0 , I ) \mathcal{N}(\mathbf{0},\mathbf{I}) N(0,I) 的最优传输映射。但此时式 (7.5.1) 的条件不成立，由此产生矛盾。因此我们的目标就是构造这样的函数。考虑
u ( x ) = 1 2 ∥ x ∥ 2 + ε ϕ ( x ) , u(\mathbf{x}) = \frac12\left\|\mathbf{x}\right\|^2 + \varepsilon\phi(\mathbf{x}), u(x)=21∥x∥2+εϕ(x),其中 ε \varepsilon ε 为小量。于是 D 2 u ( 0 ) = I + ε D 2 ϕ ( 0 ) \mathrm{D}^2u(\mathbf{0})=\mathbf{I}+\varepsilon\mathrm{D}^2\phi(\mathbf{0}) D2u(0)=I+εD2ϕ(0)，在 x = 0 \mathbf{x}=\mathbf{0} x=0 处的交换条件要求 D 2 ϕ ( 0 ) \mathrm{D}^2\phi(\mathbf{0}) D2ϕ(0) 与 D 2 ( Δ ϕ ) ( 0 ) \mathrm{D}^2(\Delta\phi)(\mathbf{0}) D2(Δϕ)(0) 可交换。
例如，在 R 2 \mathbb{R}^2 R2 中，选取
ϕ ( x 1 , x 2 ) = x 1 x 2 + x 1 4 \phi(x_1,x_2)=x_1x_2+x_1^4 ϕ(x1,x2)=x1x2+x14即可给出一个反例，其 Hessian 矩阵 D 2 log ⁡ p 0 \mathrm{D}^2\log p_0 D2logp0 与雅可比矩阵 D 2 u \mathrm{D}^2u D2u 不可交换。
该矛盾说明 T t \mathbf{T}t Tt 无法对所有 t ≥ 0 t\ge0 t≥0 都为最优映射。因此，存在 t 0 ≥ 0 t_0\ge0 t0≥0，使得映射 T t 0 → ∞ \mathbf{T}{t_0\to\infty} Tt0→∞ 不是最优传输映射。

由于真实图片的数据分布 p 0 p_0 p0 极其复杂（就像那个带 x 1 4 x_1^4 x14 的扭曲地形），导致 PF-ODE 在这个崎岖地形上必然会走出弯弯绕绕的曲线，而无法做到 "直线无旋转"。

为什么标准扩散模型采样很慢？ 因为它走的不是直线（存在旋转和弯曲），必须一步一步小心翼翼地走几百步。

为什么会出现流匹配（Flow Matching）和整流（Rectified Flow）？ 既然 PF-ODE 的弯曲是数学本质决定的，那我们就不顺着它了！我们直接放弃旧的 PF-ODE，用另一种目标函数强行训练一个神经网络，硬生生把弯的路径 "掰直"。这就是现在生成模型能实现 "一步 / 少步生成" 的底层理论底气！

7.5.2 标准线性流与回流能否得到最优传输映射？（Can Canonical Linear Flow and Reflow Leads to an OT Map?）

前文已经说明，PF-ODE（尤其在 VP 型前向核下）一般不是最优传输映射。由此引出一个自然的问题：

问题 7.5.1：对于线性插值流 ( 1 − t ) x 0 + t x 1 (1-t)\mathbf{x}_0 + t\mathbf{x}_1 (1−t)x0+tx1，其中 x 0 ∼ p s r c \mathbf{x}0 \sim p\mathrm{src} x0∼psrc， x 1 ∼ p t g t \mathbf{x}1 \sim p\mathrm{tgt} x1∼ptgt；若将该流作用于独立耦合 π ( x 0 , x 1 ) = p s r c ( x 0 ) p t g t ( x 1 ) \pi(\mathbf{x}_0,\mathbf{x}1) = p\mathrm{src}(\mathbf{x}0)p\mathrm{tgt}(\mathbf{x}_1) π(x0,x1)=psrc(x0)ptgt(x1)，能否还原出最优传输映射？

该问题的答案是否定的。

尽管如此，将线性路径与给定耦合相结合，可以得到真实最优传输代价的一个实用上界。在所有可行路径中，线性插值给出的这一上界最为紧致，下文将对此展开讨论。

**标准线性流与最优传输。**针对二次代价下的最优传输问题，我们考察式 (7.2.1) 的等价形式，即式 (7.2.3) 给出的 Benamou--Brenier 表述：

K ( p s r c , p t g t ) : = min ⁡ ( p t , v t ) s.t. ∂ t p t + ∇ ⋅ ( p t v t ) = 0 , p 0 = p s r c , p 1 = p t g t ∫ 0 1 ∫ R D ∥ v t ( x ) ∥ 2 p t ( x ) d x d t . \mathcal{K}\left(p_\mathrm{src},p_\mathrm{tgt}\right):=\min_{\substack{(p_t,\mathbf{v}t) \text{ s.t. } \partial_t p_t+\nabla\cdot(p_t \mathbf{v}t)=0,\\ p_0=p\mathrm{src},\,p_1=p\mathrm{tgt}}}\int_0^1\int_{\mathbb{R}^D}\left\|\mathbf{v}_t(\mathbf{x})\right\|^2 p_t(\mathbf{x})\,\mathrm{d}\mathbf{x}\mathrm{d}t. K(psrc,ptgt):=(pt,vt) s.t. ∂tpt+∇⋅(ptvt)=0,p0=psrc,p1=ptgtmin∫01∫RD∥vt(x)∥2pt(x)dxdt.然而，直接求解该极小化问题通常难以实现，因为其需要求解高度非线性偏微分方程，即蒙日 - 安培方程。

尽管 Benamou--Brenier 表述一般难以求解，但 Liu（2022）与 Lipman 等人（2024）指出，其动能存在一个便于计算的上界。该上界的构造方式为：将搜索范围限定在一类结构更简单的条件流 中，其中每条路径由取自源分布与目标分布耦合 π 0 , 1 \pi_{0,1} π0,1 的固定端点 ( x 0 , x 1 ) (\mathbf{x}_0,\mathbf{x}_1) (x0,x1) 定义。在该条件流族内，标准线性插值是最优选择，具体结论如下。

命题 7.5.1：基于条件流的最优传输动能上界

设 π 0 , 1 \pi_{0,1} π0,1 为 p s r c p_\mathrm{src} psrc 与 p t g t p_\mathrm{tgt} ptgt 之间的任意耦合。

(1) 动能以任意连接两端点的条件流 Ψ t ( x 0 , x 1 ) \Psi_t(\mathbf{x}0,\mathbf{x}1) Ψt(x0,x1) 的路径能量期望为上界：
K ( p s r c , p t g t ) ≤ E ( x 0 , x 1 ) ∼ π 0 , 1 $\int 0 1 ∥ Ψ t ' ( x 0 , x 1 ) ∥ 2 d t$ . \mathcal{K}\left(p\mathrm{src},p\mathrm{tgt}\right) \leq \mathbb{E}_{(\mathbf{x}_0,\mathbf{x}1)\sim\pi{0,1}}\left $\\int_0\^1 \\left\\\|\\Psi_t'(\\mathbf{x}_0,\\mathbf{x}_1)\\right\\\|\^2 dt\\right$ . K(psrc,ptgt)≤E(x0,x1)∼π0,1 $\int01∥Ψt'(x0,x1)∥2dt$ .

(2) 能够最小化右侧上界的唯一条件流 Ψ t ∗ \Psi_t^* Ψt∗ 为线性插值路径：
Ψ t ∗ ( x 0 , x 1 ) = ( 1 − t ) x 0 + t x 1 . \Psi_t^*(\mathbf{x}_0,\mathbf{x}1) = (1-t)\mathbf{x}0 + t\mathbf{x}1. Ψt∗(x0,x1)=(1−t)x0+tx1. 将该最优路径代入，可得到最紧致的上界形式：
K ( p s r c , p t g t ) ≤ E ( x 0 , x 1 ) ∼ π 0 , 1 ∥ x 1 − x 0 ∥ 2 . \mathcal{K}\left(p\mathrm{src},p\mathrm{tgt}\right) \leq \mathbb{E}{(\mathbf{x}_0,\mathbf{x}1)\sim\pi{0,1}}\left\|\mathbf{x}_1 - \mathbf{x}_0\right\|^2. K(psrc,ptgt)≤E(x0,x1)∼π0,1∥x1−x0∥2.

命题证明

该证明首先直接应用 Jensen 不等式与条件期望的塔式性质，再借助欧拉--拉格朗日方程求解简化后的变分问题；完整推导可参见（Lipman 等人，2024）的第 4.7 节。

换言之，对任意选定的耦合 π 0 , 1 \pi_{0,1} π0,1，线性插值 Ψ t ∗ \Psi_t^* Ψt∗（即流匹配与整流所采用的前向核）可最小化真实动能的一个上界。

需要强调的是：该条件流族内的最优性，并不能保证关于边缘分布的全局最优性。

**回流与最优传输。**两个分布之间最朴素的传输方案，是采用简单的独立耦合，以直线连接二者的样本点。但该方案显然不是最优的：问题并不出在直线路径本身，而是初始的点配对方式效率低下。

回流（Reflow）方法为此提供了一种构造性的解决思路。它是专门用于修正该配对关系的迭代算法，关键性质是每一步迭代都保证代价不增。该性质表明，回流方法能够系统性地将传输方案向更优的构型推进，由此引出一个核心问题：该算法是否收敛。

问题 7.5.2：若迭代使用整流算子，会得到什么结果？迭代得到的传输方案序列能否收敛至最优传输方案？或者说，回流过程的不动点是否对应最优传输映射？

简短结论：一般情况下并不成立。下文将说明其中存在的问题。回顾定义，回流流程通过如下更新规则迭代优化 p s r c p_\mathrm{src} psrc 与 p t g t p_\mathrm{tgt} ptgt 之间的耦合：

π ( k + 1 ) = R e c t i f y ( π ( k ) ) , \pi^{(k+1)} = \mathrm{Rectify}\big(\pi^{(k)}\big), π(k+1)=Rectify(π(k)),算法以乘积耦合 π ( 0 ) : = p s r c ( x 0 ) p t g t ( x 1 ) \pi^{(0)} := p_\mathrm{src}(\mathbf{x}0)p\mathrm{tgt}(\mathbf{x}_1) π(0):=psrc(x0)ptgt(x1) 作为初始值。更准确地说，整流算子按如下方式输出更新后的耦合 π ( k + 1 ) \pi^{(k+1)} π(k+1)：在每一轮迭代 k = 0 , 1 , 2 , ... k=0,1,2,\dots k=0,1,2,...，速度场 v t ( k ) \mathbf{v}_t^{(k)} vt(k) 通过下式学习得到：

v t ( k ) ∈ arg ⁡ min ⁡ u t L ( u t ∣ π ( k ) ) , \mathbf{v}t^{(k)} \in \mathop{\arg\min}{\mathbf{u}_t} \mathcal{L}\big(\mathbf{u}_t \mid \pi^{(k)}\big), vt(k)∈argminutL(ut∣π(k)),其中 L ( u t ∣ π ( k ) ) \mathcal{L}(\mathbf{u}_t \mid \pi^{(k)}) L(ut∣π(k)) 为式 (5.4.1) 定义的损失函数（例如整流流损失或流匹配损失）。为简化记号，此处对速度场采用非参数形式，而非其他场景中使用的参数化形式 ϕ \phi ϕ。更新后的耦合定义为：

π ( k + 1 ) ( x 0 , x 1 ) : = p s r c ( x 0 ) δ ( x 1 − Ψ 1 ( k ) ( x 0 ) ) , \pi^{(k+1)}(\mathbf{x}_0,\mathbf{x}1):= p\mathrm{src}(\mathbf{x}_0)\,\delta\big(\mathbf{x}_1 - \Psi_1^{(k)}(\mathbf{x}_0)\big), π(k+1)(x0,x1):=psrc(x0)δ(x1−Ψ1(k)(x0)),式中 Ψ 1 ( k ) \Psi_1^{(k)} Ψ1(k) 代表从初值 x 0 \mathbf{x}_0 x0 出发对 v t ( k ) \mathbf{v}_t^{(k)} vt(k) 积分，在时刻 t = 1 t=1 t=1 得到的求解映射。

Liu、Gong 等人（2022）发现：对于 p s r c p_\mathrm{src} psrc 与 p t g t p_\mathrm{tgt} ptgt 之间的耦合 π \pi π，即使存在使回流损失最小化（即满足 L ( v t ∣ π ) = 0 \mathcal{L}(\mathbf{v}_t\mid\pi)=0 L(vt∣π)=0）的速度场 v t \mathbf{v}_t vt，也不代表该传输方案一定是最优的。

在 Benamou--Brenier 框架中，最优传输速度场为势函数的梯度。受此启发，Liu（2022）提出附加约束：速度场 v t \mathbf{v}_t vt 应当为势场。对应地，对式 (5.4.1) 的目标进行修改，将 v t \mathbf{v}_t vt 限制在梯度向量场空间（也称为势流）内：

w t ( k ) ∈ arg ⁡ min ⁡ u t : u t = ∇ φ for some φ : R D → R L ( u t ∣ π ( k ) ) , (7.5.2) \mathbf{w}t^{(k)} \in \mathop{\arg\min}{\substack{\mathbf{u}_t:\mathbf{u}_t=\nabla\varphi\\\text{for some }\varphi:\mathbb{R}^D\to\mathbb{R}}} \mathcal{L}\big(\mathbf{u}t\mid\pi^{(k)}\big), \tag{7.5.2} wt(k)∈argminut:ut=∇φfor some φ:RD→RL(ut∣π(k)),(7.5.2)其余流程与整流算子（Rectify）保持一致。我们将该算子记作 R e c t i f y ⊥ \mathrm{Rectify}\perp Rectify⊥，用以强调其向无旋向量场的投影操作。

设 π \pi π 为 p s r c p_\mathrm{src} psrc 与 p t g t p_\mathrm{tgt} ptgt 之间的耦合。Liu、Gong 等人（2022）提出刻画最优性的如下等价猜想：

(i) π \pi π 是最优传输耦合。
(ii) π \pi π 是势整流算子的不动点：
π = R e c t i f y ⊥ ( π ) . \pi = \mathrm{Rectify}_\perp(\pi). π=Rectify⊥(π).
(iii) 存在梯度型速度场 v t = ∇ φ t \mathbf{v}_t = \nabla \varphi_t vt=∇φt，使得整流损失为零：
L ( v t ∣ π ) = 0. \mathcal{L}(\mathbf{v}_t \mid \pi) = 0. L(vt∣π)=0.

然而，Hertrich 等人（2025）给出了两类反例：

若中间分布 p t p_t pt 的支集不连通，则可以找到 R e c t i f y ⊥ \mathrm{Rectify}_\perp Rectify⊥ 的不动点，其回流损失为零且对应的速度场为梯度场，但该不动点仍然无法得到最优耦合。（ 地形断裂）
即便两端分布均为高斯分布，依然存在这样的耦合：其损失可以任意小，但与最优耦合之间的偏差却能够任意大。（ 分布简单也不行）

因此，尽管整流流能够构建性能优异的生成模型，但其作为最优传输求解器的可靠性仍然有限。这揭示了生成建模与严谨的最优传输理论之间存在显著的理论鸿沟，有待在二者的交叉方向开展进一步研究。

最后需要说明： **传输代价并不总是和下游任务性能正相关；换言之，求解精确的最优传输映射未必能带来更好的实际效果。**即便如此，各类变体最优传输理论仍是众多科学与工程问题的基础，而扩散模型为探究这类难题提供了强有力的框架。

在数学家的眼里，一笔画成的绝对直线才是终极真理；但在AI工程师眼里，只要能把噪声漂亮地变成高清图片，哪怕路线绕成了麻花（只要它自洽、稳定），也是一个好模型。

下一章：【扩散模型原理】（八）Guidance and Controllable Generation（1）