【随机过程】第十讲：从停时定理二到鞅收敛定理

一、定理二：把后两个条件收成一个

上一节把停时定理的三个条件立了起来，最后落在一条上：第三个条件

lim⁡n→∞E∣XnI{T>n}∣=0\lim_{n \to \infty} E|X_n I_{\lbrace T > n \rbrace}| = 0limn→∞E∣XnI{T>n}∣=0

不是从问题里想出来的，是证明里处理不掉的那一项被搬进了定理。搬进去的代价是难验，要算二阶矩、要估尾概率，一条一条来。这一节先看定理二怎么把它化掉。

设 {Xn,n≥0}\lbrace X_n, n \ge 0 \rbrace{Xn,n≥0} 关于 {Yn,n≥0}\lbrace Y_n, n \ge 0 \rbrace{Yn,n≥0} 是鞅，TTT 是停时。若

(1) P(T<∞)=1P(T < \infty) = 1P(T<∞)=1；

(2) E(sup⁡n≥0∣XT∧n∣)<∞E\big(\sup_{n \ge 0} |X_{T \wedge n}|\big) < \inftyE(supn≥0∣XT∧n∣)<∞，

则

EXT=EXT∧n=EX0E X_T = E X_{T \wedge n} = E X_0EXT=EXT∧n=EX0

条件二把后两个条件收成了一句话：这一个可积的量同时压住整条被停过程。上确界取在所有的 nnn 上，不是某个固定的 nnn，路径上没有可以漏掉的尖峰。

它比定理一那三条强。只要这个上确界可积，定理一的条件二、条件三一起到手

E(sup⁡n≥0∣XT∧n∣)<∞⟹E∣XT∣<∞E\Big(\sup_{n \ge 0} |X_{T \wedge n}|\Big) < \infty \Longrightarrow E|X_T| < \inftyE(supn≥0∣XT∧n∣)<∞⟹E∣XT∣<∞

lim⁡n→∞E∣XnI{T>n}∣=0\lim_{n \to \infty} E|X_n I_{\lbrace T > n \rbrace}| = 0limn→∞E∣XnI{T>n}∣=0

反方向不成立。两个定理覆盖的范围一样，不存在谁宽谁窄，差别只在入口：定理一逐项处理两条尾巴，定理二一次压住整条过程。TTT 有界、或者 XXX 本身有界的时候，上确界一眼能估，走定理二更省事；尾巴结构清楚、能一项一项算的场合，走定理一更顺手。

定理三、定理四在这个基础上再走一步，条件和用法都更贴近应用，这里不再单独推。做法归一：把定理一或定理二的条件代进去，换一条更好验的。

这个等价关系容易看漏。两个定理的条件写得不一样，读起来像一强一弱，随手画个圈把定理一套在定理二外面。实际两个圈重合。有的书写定理二在前，把定理一的证明反过来做一遍，结论一样，只是链条接的方向不同。

条件二强在哪里，展开看是两层。T∧nT \wedge nT∧n 落在 TTT 上的那些时刻，XT∧nX_{T \wedge n}XT∧n 就是 XTX_TXT，所以 E∣XT∣<∞E|X_T| < \inftyE∣XT∣<∞；每个 nnn 上，被截出来的那一块 XnI{T=n}X_n I_{\lbrace T = n \rbrace}XnI{T=n} 也被同一个 ZZZ 压着。前一层给条件二，后一层给条件三。定理二把两层合进一个式子，所以比定理一直接，代价是得对整个 nnn 一起估，不能一个 nnn 一个 nnn 地算。

二、证明：给那个上确界起个名字

第一步只做一件事，令

Z=sup⁡n≥0∣XT∧n∣Z = \sup_{n \ge 0} |X_{T \wedge n}|Z=supn≥0∣XT∧n∣

然后把 XTX_TXT 按 TTT 的取值拆开。做法是把 1 分解成一组指示函数，再乘上 XTX_TXT：TTT 取值 0,1,2,...0,1,2,\ldots0,1,2,...，各取值对应的事件互不相交，合起来是全集

XT=∑k=0∞XkI{T=k}=∑k=0∞XT∧kI{T=k}X_T = \sum_{k=0}^{\infty} X_k I_{\lbrace T = k \rbrace} = \sum_{k=0}^{\infty} X_{T \wedge k} I_{\lbrace T = k \rbrace}XT=∑k=0∞XkI{T=k}=∑k=0∞XT∧kI{T=k}

第二个等号用的是：在 {T=k}\lbrace T = k \rbrace{T=k} 上 T∧k=kT \wedge k = kT∧k=k。把 XkX_kXk 换成 XT∧kX_{T \wedge k}XT∧k，是为了让每一项都落进 ZZZ 的管辖。级数看着是无穷和，每条路径上只有一项非零，写成无穷和是为了能逐项放大。

∣XT∣≤∑k=0∞∣XT∧k∣I{T=k}≤sup⁡n≥0∣XT∧n∣=Z|X_T| \le \sum_{k=0}^{\infty} |X_{T \wedge k}| I_{\lbrace T = k \rbrace} \le \sup_{n \ge 0} |X_{T \wedge n}| = Z∣XT∣≤∑k=0∞∣XT∧k∣I{T=k}≤supn≥0∣XT∧n∣=Z

于是

E∣XT∣≤EZ<∞E|X_T| \le E Z < \inftyE∣XT∣≤EZ<∞

定理一的条件二到手。整段只用了绝对值不等式和「每一项不超过上确界」，没有别的技巧。这一段的漂亮之处就在这里：定理一里要单独验的条件，被一个上确界的定义直接送过来了。

尾巴那一项换个方向做同样的替换

E∣XnI{T>n}∣=E∣XT∧nI{T>n}∣≤E(ZI{T>n})E|X_n I_{\lbrace T > n \rbrace}| = E|X_{T \wedge n} I_{\lbrace T > n \rbrace}| \le E(Z I_{\lbrace T > n \rbrace})E∣XnI{T>n}∣=E∣XT∧nI{T>n}∣≤E(ZI{T>n})

第一个等号是因为在 {T>n}\lbrace T > n \rbrace{T>n} 上 T∧n=nT \wedge n = nT∧n=n。

问题变成一句话：ZZZ 可积，{T>n}\lbrace T > n \rbrace{T>n} 随 nnn 缩小到空集，ZZZ 在它上面的积分是否趋于零。趋于零。ZI{T>n}Z I_{\lbrace T > n \rbrace}ZI{T>n} 逐点收敛到零，又被可积的 ZZZ 控制，控制收敛定理直接给

E(ZI{T>n})→0E(Z I_{\lbrace T > n \rbrace}) \to 0E(ZI{T>n})→0

条件三成立，定理一的三条都满足，EXT=EX0E X_T = E X_0EXT=EX0。整个证明到这里结束，没有别的处理。

这里能看出上确界的用处。条件里如果写的是 lim⁡nE∣XT∧n∣<∞\lim_n E|X_{T \wedge n}| < \inftylimnE∣XT∧n∣<∞，管住的只是 nnn 很大以后那一段，中间某一小段冲高再回落，极限照样有限。可冲高的那一步完全可能正好落在 TTT 上，换成 TTT 就出事。上确界把每个 nnn 都管住，控制收敛才有统一的控制函数可用。

换成概率论的说法：控制收敛定理要求有一张统一的可积控制牌，sup⁡n∣XT∧n∣\sup_n |X_{T \wedge n}|supn∣XT∧n∣ 就是那张牌。没有它，逐点收敛推不出期望收敛。

三、例 11：三个条件各验一遍

例子取带漂移的随机游走。Y0=0Y_0 = 0Y0=0，{Yk,k≥1}\lbrace Y_k, k \ge 1 \rbrace{Yk,k≥1} 独立同分布，EYk=μE Y_k = \muEYk=μ，DYk=σ2<∞D Y_k = \sigma^2 < \inftyDYk=σ2<∞，S0=0S_0 = 0S0=0，Sn=∑k=1nYkS_n = \sum_{k=1}^{n} Y_kSn=∑k=1nYk，取

Xn=Sn−μnX_n = S_n - \mu nXn=Sn−μn

TTT 是停时且 ET<∞E T < \inftyET<∞，要证 μET=EST\mu E T = E S_TμET=EST。

三个条件全由 ET<∞E T < \inftyET<∞ 这一个假设带出来。Xn=Sn−μnX_n = S_n - \mu nXn=Sn−μn 这条构造不是新东西，前面讲鞅的构造时已经用过：从有漂移的部分和里减掉漂移项，剩下的就是鞅。先确认这一点：给定 Y0,...,YnY_0,\ldots,Y_nY0,...,Yn

E(Xn+1∣Y0,...,Yn)=Sn+μ−μ(n+1)=XnE(X_{n+1}|Y_0,\ldots,Y_n) = S_n + \mu - \mu(n+1) = X_nE(Xn+1∣Y0,...,Yn)=Sn+μ−μ(n+1)=Xn

条件一。ET=∑kkP(T=k)<∞E T = \sum_k k P(T = k) < \inftyET=∑kkP(T=k)<∞，级数收敛，尾部趋于零。而

P(T≥n)≤∑k=n∞P(T=k)≤∑k=n∞kP(T=k)→0P(T \ge n) \le \sum_{k=n}^{\infty} P(T = k) \le \sum_{k=n}^{\infty} k P(T = k) \to 0P(T≥n)≤∑k=n∞P(T=k)≤∑k=n∞kP(T=k)→0

P(T=∞)P(T = \infty)P(T=∞) 不超过任何尾部概率，所以 P(T=∞)=0P(T = \infty) = 0P(T=∞)=0。顺带得到后面要用的 nP(T=n)→0n P(T = n) \to 0nP(T=n)→0。

条件二。把 XTX_TXT 展开成随机个数的和

E∣XT∣=E∣ST−μT∣≤E∑k=1T∣Yk−μ∣=ET⋅E∣Yk−μ∣E|X_T| = E|S_T - \mu T| \le E\sum_{k=1}^{T} |Y_k - \mu| = E T \cdot E|Y_k - \mu|E∣XT∣=E∣ST−μT∣≤E∑k=1T∣Yk−μ∣=ET⋅E∣Yk−μ∣

最后一步把平均个数与单项大小分开。中间过程写全是这样

E∑k=1T∣Yk−μ∣=∑k=1∞E(∣Yk−μ∣I{T≥k})=∑k=1∞E∣Yk−μ∣P(T≥k)E\sum_{k=1}^{T} |Y_k - \mu| = \sum_{k=1}^{\infty} E\big(|Y_k - \mu| I_{\lbrace T \ge k \rbrace}\big) = \sum_{k=1}^{\infty} E|Y_k - \mu| P(T \ge k)E∑k=1T∣Yk−μ∣=∑k=1∞E(∣Yk−μ∣I{T≥k})=∑k=1∞E∣Yk−μ∣P(T≥k)

第二个等号靠独立性：{T≥k}\lbrace T \ge k \rbrace{T≥k} 由 Y0,...,Yk−1Y_0,\ldots,Y_{k-1}Y0,...,Yk−1 决定，与 YkY_kYk 独立。再用 ET=∑k≥1P(T≥k)E T = \sum_{k \ge 1} P(T \ge k)ET=∑k≥1P(T≥k) 收拢，得到 ET⋅E∣Yk−μ∣E T \cdot E|Y_k - \mu|ET⋅E∣Yk−μ∣。这一步的前提是 TTT 为停时，换成随便一个随机变量立刻断掉。

单项有界用柯西不等式

E∣Yk−μ∣≤(E∣Yk−μ∣2)1/2=σ<∞E|Y_k - \mu| \le \big(E|Y_k - \mu|^2\big)^{1/2} = \sigma < \inftyE∣Yk−μ∣≤(E∣Yk−μ∣2)1/2=σ<∞

所以 E∣XT∣≤σET<∞E|X_T| \le \sigma E T < \inftyE∣XT∣≤σET<∞。柯西那一步右边本来是 (σ2)1/2(E1)1/2(\sigma^2)^{1/2}(E 1)^{1/2}(σ2)1/2(E1)1/2，后面那个因子是 1，写出来只是走个形式，省掉也不影响。

条件三。要估 E(XnI{T>n})E(X_n I_{\lbrace T > n \rbrace})E(XnI{T>n})，先平方再上柯西

$E(XnI{T\>n})$ 2≤EXn2⋅EI{T>n}≤nσ2P(T≥n)\big $E(X_n I_{\\lbrace T \> n \\rbrace})\\big$ ^2 \le E X_n^2 \cdot E I_{\lbrace T > n \rbrace} \le n \sigma^2 P(T \ge n) $E(XnI{T\>n})$ 2≤EXn2⋅EI{T>n}≤nσ2P(T≥n)

中间用 EXn2=nσ2E X_n^2 = n \sigma^2EXn2=nσ2。再配上尾部估计

nP(T≥n)≤∑k=n∞nP(T=k)≤∑k=n∞kP(T=k)→0n P(T \ge n) \le \sum_{k=n}^{\infty} n P(T = k) \le \sum_{k=n}^{\infty} k P(T = k) \to 0nP(T≥n)≤∑k=n∞nP(T=k)≤∑k=n∞kP(T=k)→0

于是 lim⁡E(XnI{T>n})=0\lim E(X_n I_{\lbrace T > n \rbrace}) = 0limE(XnI{T>n})=0。三条齐了，用停时定理

EXT=EST−μET=EX0=0E X_T = E S_T - \mu E T = E X_0 = 0EXT=EST−μET=EX0=0

μET=EST\mu E T = E S_TμET=EST

结论是个常用工具：随机游走的平均步数与平均位移由同一个 μ\muμ 连在一起。噪声大小 σ\sigmaσ 不影响这个等式，只影响 ETE TET 本身。σ\sigmaσ 大了，走得更散，但停下来的位置与步数的比例关系不变。

条件三这一步要回头看一遍。为什么不直接估 E(XnIT>n)E(X_n I_{T>n})E(XnIT>n)，要先平方。因为 XnX_nXn 正负都有可能，直接估期望会被正负抵消，估不出量级；平方之后变成二阶矩，柯西一上，两个因子都能算。这是停时证明里最常用的一手：要估一个期望的大小，先看它的平方能不能估。

四、式子里必须有一个显式的 n

把 μET=EST\mu E T = E S_TμET=EST 倒过来看，会看到一件事。要算出 ETE TET，靠的是 XT=ST−μTX_T = S_T - \mu TXT=ST−μT 里那个 μT\mu TμT。μ\muμ 是常数，TTT 是停时，两者相乘，取均值之后 ETE TET 就露出来了。整个构造的关键不在停时定理，而在 XnX_nXn 的定义里那个显式的 nnn。

如果 μ=0\mu = 0μ=0，Xn=SnX_n = S_nXn=Sn 本身就是鞅。停时定理照样成立，EXT=EST=0E X_T = E S_T = 0EXT=EST=0，可是 ETE TET 根本不在式子里。想求平均到达时间，这条路走不通，得换一个把 nnn 显式带出来的鞅，例如 Sn2−nσ2S_n^2 - n\sigma^2Sn2−nσ2。

后者算得出来。设 TTT 是 SnS_nSn 首次离开 (−a,a)(-a,a)(−a,a) 的时刻，∣ST∣=a|S_T| = a∣ST∣=a。对 T∧mT \wedge mT∧m 用有界停时的结论

EST∧m2=σ2E(T∧m)E S_{T \wedge m}^2 = \sigma^2 E(T \wedge m)EST∧m2=σ2E(T∧m)

令 mmm 趋于无穷。左边 ST∧mS_{T \wedge m}ST∧m 始终落在 $-a-max∣Y∣, a+max∣Y∣$ $-a-\\max\|Y\|,\\ a+\\max\|Y\|$ $-a-max∣Y∣, a+max∣Y∣$ 里，有界收敛；右边 T∧mT \wedge mT∧m 单调上升，单调收敛。于是

EST2=σ2ETE S_T^2 = \sigma^2 E TEST2=σ2ET

左边是 a2a^2a2，所以

ET=a2σ2E T = \dfrac{a^2}{\sigma^2}ET=σ2a2

两种形态，两类问题。μn\mu nμn 那种把时间装进漂移项，解出来的是位移与时间的关系；nσ2n\sigma^2nσ2 那种把时间装进二次变差，解出来的是时间本身。要算哪个量，就让哪个量显式地出现在鞅里。构造手法可以有很多种，落到纸面上的形态只有这两类。

构造的时候有个取舍。漂移项那一种，μ\muμ 要非零，μ=0\mu = 0μ=0 时退化成 SnS_nSn，TTT 就消失了；二次变差那一种，要 σ2\sigma^2σ2 非零，而且要能算出 EST2E S_T^2EST2，边界整齐的时候好算，边界不规则就麻烦。手上有什么就用什么。

五、停时定理这一块讲完了

定理二讲完，停时这一块可以收住。

停时的取值永远分两截：000 到 nnn，和 T>nT > nT>n。观测到第 nnn 步，能确定的只有「停了」和「没停」这两件事，中间没有别的档。所以取值到 nnn 为止，再加一整段 T>nT > nT>n，没有 n+1n+1n+1 也没有 n+2n+2n+2。前一段能看见，后一段看不见，定理的全部麻烦都来自后一段。

三个条件里，前两个描述问题，第三个是证明里处理不掉的那一项被写成条件。定理二把它换成上确界，定理三换成步长有界加 ETE TET 有限，定理四换成二次矩一致有界。换的方向一致：条件越来越强，适用面越来越窄，可验性越来越高。

定理三、四还有一个共同的用法，先认 ET<∞E T < \inftyET<∞，再用矛盾与否判断真假。ET<∞E T < \inftyET<∞ 与 ET=∞E T = \inftyET=∞ 是一体两面，没有第三种可能，算出来是负数或者与已知的界冲突，就说明押错了那一面。

ET=a2/σ2E T = a^2/\sigma^2ET=a2/σ2 这个结果可以直接读。aaa 是边界，σ\sigmaσ 是单步噪声。边界翻倍，时间变四倍；噪声翻倍，时间变四分之一。两个指数都能从式子里读出来，不需要模拟。

还有一件事不能省。条件从证明里搬进定理之后，得举一个例子说明这条条件在实际问题里能满足。没有例子，定理只是自圆其说。看定理的人一眼就能认出哪一条是从证明里搬来的，接下来就会问：凭什么说它成立。例 11 干的就是这件事：三个条件逐条验，验完才说明搬进去的那一条不是空的。

这一步在写论文的时候尤其要紧。定理证完不算完，后面必须有一个能落地的例子，否则审稿的人不会认。反过来，例子也是给自己画的圈：说明这个定理管得住哪一类问题，管不住哪一类。

上面这几条是停时定理能给的全部东西。再往下走，靠的是另一套工具：上穿。

六、上穿：把振荡次数变成可数的量

一条随机序列在区间 (a,b)(a,b)(a,b) 上来回穿。把 (a,b)(a,b)(a,b) 当成保护带，带内的取值不关心，只看它从带子下面穿到带子上面几次。

这个量在工程上有直接对应。移动通信里接收信号强度是时变的，受电池电量、建筑遮挡、区内用户数目影响，做越区切换要先判断它在一段时间里跌出某个区间几次、又回来几次。数出来的次数就是切换要处理的次数。最初提这个问题的人，问的正是这件事。

数学把具体场景剥掉，只留下一个区间和一个计数。剥掉之后结论更通用，代价是看不出它从哪里来。

画两条水平线 aaa 和 bbb，纵轴被分成三段。序列从上面下来，先落到 aaa 以下，然后在带子里来回跳；等到某一刻跳到 bbb 以上，这一段算一次上穿。从 bbb 以上再掉回 aaa 以下，下一次重新跳到 bbb 以上，才算第二次。中间怎么跳都不计数，只数「从下沿上去」这一件事。

把这件事写清楚要一串记号。α0=0\alpha_0 = 0α0=0，α1\alpha_1α1 是首次落到 aaa 以下的时刻，α2\alpha_2α2 是 α1\alpha_1α1 之后首次升到 bbb 以上的时刻，此后奇数号回落到 aaa 以下，偶数号升到 bbb 以上

α2k−1=min⁡{n:n≥α2k−2, Xn≤a}\alpha_{2k-1} = \min\lbrace n : n \ge \alpha_{2k-2},\ X_n \le a \rbraceα2k−1=min{n:n≥α2k−2, Xn≤a}

α2k=min⁡{n:n>α2k−1, Xn≥b}\alpha_{2k} = \min\lbrace n : n > \alpha_{2k-1},\ X_n \ge b \rbraceα2k=min{n:n>α2k−1, Xn≥b}

一次上穿是一对 (α2k−1,α2k)(\alpha_{2k-1}, \alpha_{2k})(α2k−1,α2k)。截至 nnn 穿了几次，是最后一对不超过 nnn 的序号除以二

V(n)(a,b)=max⁡{k≥1:α2k≤n}=∑k=1 $n/2$ I{α2k≤n}V^{(n)}(a,b) = \max\lbrace k \ge 1 : \alpha_{2k} \le n \rbrace = \sum_{k=1}^{ $n/2$ } I_{\lbrace \alpha_{2k} \le n \rbrace}V(n)(a,b)=max{k≥1:α2k≤n}=∑k=1 $n/2$ I{α2k≤n}

$n/2$ $n/2$ $n/2$ 表示不超过 n/2n/2n/2 的整数。每穿一次至少走两步，所以 V(n)V^{(n)}V(n) 最大到 $n/2$ $n/2$ $n/2$ 。

定义里有个约定：min⁡\minmin 取空集时记 α=∞\alpha = \inftyα=∞。序列此后再也不落到 aaa 以下，对应的时刻就是无穷，后面的时刻全是无穷，指示函数全为零，计数停在那里。这样处理，只穿了有限次的路径不必另设条件。

这一串 α\alphaα 本身都是停时。α1\alpha_1α1 是首次落到 aaa 以下的时刻，到第 nnn 步就知道落没落，不需要看以后；后面每一个都靠前一个定义，同样是「到了就知道」。所以上一节的工具可以直接搬到这一节来用，证明里那句 E(X~β∣Fα)≥X~αE(\tilde X_\beta | F_\alpha) \ge \tilde X_\alphaE(X~β∣Fα)≥X~α 才站得住。上穿次数是一个计数，它的每个分界点又都是停时，两件事在这里接上了。

挖掉带内是刻意的取舍。信号在两个门限之间时切换不触发，只有跨过门限才要处理。挖掉之后，问题从跟踪一条连续曲线变成数几个离散事件。这一步是这类量能算的原因：整数可以用尾概率求和，连续轨迹不能。

为什么下鞅配的是上穿，上鞅配的是下穿。下鞅的条件均值单调上升，均值线一路往上走。一旦升到区间上方，再回来的概率就很小，而且越往后越小。所以固定区间里的往返次数必然有限，被离区间多远的量卡住。上鞅反过来。

这个判断不需要推导，画一条往上走的均值线就看出来了。方向定错了，后面推得再细也没用。

七、Doob 上穿不等式

定理的条件写的是下鞅，鞅自然也满足，因为鞅的条件期望恒等，既不大于也不小于，两头都算。所以这条不等式对鞅可以直接用，不必另证一遍。

设 {Xn,n≥0}\lbrace X_n, n \ge 0 \rbrace{Xn,n≥0} 关于 {Yn,n≥0}\lbrace Y_n, n \ge 0 \rbrace{Yn,n≥0} 是下鞅，a<ba < ba<b，则

EV(n)(a,b)≤E(Xn−a)+−E(X0−a)+b−aE V^{(n)}(a,b) \le \dfrac{E(X_n - a)^+ - E(X_0 - a)^+}{b - a}EV(n)(a,b)≤b−aE(Xn−a)+−E(X0−a)+

其中 a+=max⁡(a,0)a^+ = \max(a,0)a+=max(a,0)。右端可以再放大一步

EV(n)(a,b)≤EXn++∣a∣b−aE V^{(n)}(a,b) \le \dfrac{E X_n^+ + |a|}{b - a}EV(n)(a,b)≤b−aEXn++∣a∣

读法是：上穿的平均次数等于终点高出 aaa 的部分减起点高出 aaa 的部分，再除以区间宽度。区间越窄，同一高差能穿的次数越多；起点越高，剩下的可穿次数越少。

分子里只留高出 aaa 的部分，因为低于 aaa 的那截对「上穿」没有贡献：一次上穿要从 aaa 以下出发、爬到 bbb 以上，能用的高度只有 aaa 以上那一截。取正部就是把这截没用的切掉。切掉之后分子非负，这一点由下鞅保证：{(Xn−a)+}\lbrace (X_n - a)^+ \rbrace{(Xn−a)+} 是下鞅，均值单调不减，终点不小于起点。

第二条不等式把起点位置放大成 ∣a∣|a|∣a∣。(Xn−a)+≤Xn++∣a∣(X_n - a)^+ \le X_n^+ + |a|(Xn−a)+≤Xn++∣a∣，(X0−a)+≥0(X_0 - a)^+ \ge 0(X0−a)+≥0，两项一放一丢，就得到右端。界松了一点，换来一个只与终点有关的式子。

EXn+E X_n^+EXn+ 随 nnn 增大而不减，所以右端随 nnn 变松。收敛定理要写成 sup⁡nE∣Xn∣<∞\sup_n E|X_n| < \inftysupnE∣Xn∣<∞，原因就在这里：要推极限，得有一个对所有的 nnn 都成立、与 nnn 无关的上界。

这个式子的物理意义，是给振荡定一个预算。序列往上走得越远，在固定区间里来回的次数越少；预算的上限由终点位置决定，与中间怎么抖无关。抖动再厉害，只要终点没上去，穿不了几次。

八、证明里最不直观的一步

第一步，把区间平移掉。先看 {(Xn−a)+}\lbrace (X_n - a)^+ \rbrace{(Xn−a)+} 还是不是下鞅

E((Xn+1−a)+∣Y0,...,Yn)≥E(Xn+1∣Y0,...,Yn)∨a−a≥(Xn−a)+E\big((X_{n+1} - a)^+ | Y_0,\ldots,Y_n\big) \ge E(X_{n+1} | Y_0,\ldots,Y_n) \vee a - a \ge (X_n - a)^+E((Xn+1−a)+∣Y0,...,Yn)≥E(Xn+1∣Y0,...,Yn)∨a−a≥(Xn−a)+

中间不等号用 max⁡\maxmax 的性质：先取正部再取条件期望，不小于先取条件期望再取正部。最后一步用 XnX_nXn 是下鞅。

第二步，平移不改次数。X~k=(Xk−a)+\tilde X_k = (X_k - a)^+X~k=(Xk−a)+ 上穿 (0,b−a)(0, b-a)(0,b−a) 的次数，与 XkX_kXk 上穿 (a,b)(a,b)(a,b) 的次数一样，问题整体搬到 a=0a = 0a=0。

第三步，把 X~n−X~0\tilde X_n - \tilde X_0X~n−X~0 按段拆开

X~n−X~0=(X~n−X~2V)+∑k=1V(X~α2k−X~α2k−1)+∑k=1V(X~α2k−1−X~α2k−2)\tilde X_n - \tilde X_0 = (\tilde X_n - \tilde X_{2V}) + \sum_{k=1}^{V} (\tilde X_{\alpha_{2k}} - \tilde X_{\alpha_{2k-1}}) + \sum_{k=1}^{V} (\tilde X_{\alpha_{2k-1}} - \tilde X_{\alpha_{2k-2}})X~n−X~0=(X~n−X~2V)+∑k=1V(X~α2k−X~α2k−1)+∑k=1V(X~α2k−1−X~α2k−2)

三段首尾相接，加起来正好是整个增量。第一段是最后一次上穿之后的尾段，第二段是各次上穿，第三段是各次回落。

第二段有几何意义：每次上穿从不超过 aaa 的位置走到不低于 bbb 的位置，至少涨 b−ab - ab−a，一共 VVV 段

II≥(b−a)V(n)(a,b)II \ge (b-a) V^{(n)}(a,b)II≥(b−a)V(n)(a,b)

第一段与第三段的期望非负，用下鞅对两个停时时刻的单调性：α≤β\alpha \le \betaα≤β 都不超过 nnn，则 E(X~β∣Fα)≥X~αE(\tilde X_\beta | F_\alpha) \ge \tilde X_\alphaE(X~β∣Fα)≥X~α。第一段对应 2V2V2V 到 nnn 的增量，第三段第 kkk 项对应 α2k−2\alpha_{2k-2}α2k−2 到 α2k−1\alpha_{2k-1}α2k−1 的增量，两者都是「从较早就较晚」。

把非负的两项丢掉

(b−a)EV(n)(a,b)≤EX~n−EX~0(b-a) E V^{(n)}(a,b) \le E \tilde X_n - E \tilde X_0(b−a)EV(n)(a,b)≤EX~n−EX~0

这一步是整条证明最不合直觉的地方。看一条具体轨迹，从上往下掉的那一段明明是负的，凭什么说它的期望不小于零。

原因在下鞅给的逐段单调性上。轨迹上看到的是负值，取条件期望之后被抵掉了。样本上亏、平均下来不亏，两者不矛盾，差的就是条件期望这一步。

光看轨迹不够。这里要的是均值，能约束均值的性质是条件期望的单调性，不是那条线的高低。轨迹只能告诉你一条路径走到哪儿，条件期望告诉你所有路径平均下来走到哪儿，两件事不能混。

推论是上鞅配下穿，形式对称

EV(n)(a,b)≤E(b∧X0)−E(b∧Xn)b−aE V^{(n)}(a,b) \le \dfrac{E(b \wedge X_0) - E(b \wedge X_n)}{b - a}EV(n)(a,b)≤b−aE(b∧X0)−E(b∧Xn)

如果 Xn≥0X_n \ge 0Xn≥0，右端放大成与 nnn 无关的常数

EV(n)(a,b)≤bb−aE V^{(n)}(a,b) \le \dfrac{b}{b - a}EV(n)(a,b)≤b−ab

这个界很松。松的好处是不用算任何一条轨迹，就能断言上穿次数有限，而且平均次数的上界只由区间位置定。松界在推收敛的时候够用，因为要的只是「有限」这两个字。

九、下鞅收敛定理

上穿不等式只是一个工具，真正能落地的是它推出来的收敛定理，后面所有的应用都从那里出来。这一节的结论只有一个：由它可以推出几乎必然收敛。

条件 sup⁡nE∣Xn∣<∞\sup_n E|X_n| < \inftysupnE∣Xn∣<∞ 画成图是一条天花板。下鞅的均值单调上升，上面被一条天花板挡着，上升不可能无限继续。确定性的数列走到这一步就完了：单调有界必收敛。现在换成随机序列，结论变成几乎必然收敛到一个随机变量，条件比数列的情形强，结论也强。

设 {Xn}\lbrace X_n \rbrace{Xn} 关于 {Yn}\lbrace Y_n \rbrace{Yn} 是下鞅，sup⁡nE∣Xn∣<∞\sup_n E|X_n| < \inftysupnE∣Xn∣<∞，则存在随机变量 X∞X_\inftyX∞，使

P(lim⁡n→∞Xn=X∞)=1P\Big(\lim_{n \to \infty} X_n = X_\infty\Big) = 1P(limn→∞Xn=X∞)=1

且 E∣X∞∣<∞E|X_\infty| < \inftyE∣X∞∣<∞。

证明的路线是把收敛翻译成计数。序列不收敛，意味着在某个高度附近来回震荡；来回震荡，就是在某个区间上穿了无穷多次。上穿次数被有限的数卡住，震荡不可能无限持续。

第一件事是把绝对矩条件换成单边矩条件，因为上穿不等式的右端只出现 Xn+X_n^+Xn+

EXn+≤E∣Xn∣≤2EXn+−EXnE X_n^+ \le E|X_n| \le 2 E X_n^+ - E X_nEXn+≤E∣Xn∣≤2EXn+−EXn

所以 sup⁡E∣Xn∣<∞\sup E|X_n| < \inftysupE∣Xn∣<∞ 与 sup⁡EXn+<∞\sup E X_n^+ < \inftysupEXn+<∞ 是一件事。这一步不能省，两种条件对不上，后面代不进去。

然后对每个固定区间用一次不等式

EV(a,b)=lim⁡n→∞EV(n)(a,b)≤sup⁡nEXn++∣a∣b−a<∞E V(a,b) = \lim_{n \to \infty} E V^{(n)}(a,b) \le \dfrac{\sup_n E X_n^+ + |a|}{b - a} < \inftyEV(a,b)=limn→∞EV(n)(a,b)≤b−asupnEXn++∣a∣<∞

非负随机变量的均值有限，就几乎必然有限

P{V(a,b)<∞}=1P\lbrace V(a,b) < \infty \rbrace = 1P{V(a,b)<∞}=1

这一步用的是上一节那个事实的反面。ET<∞E T < \inftyET<∞ 推出 P(T<∞)=1P(T < \infty) = 1P(T<∞)=1，现在把 TTT 换成 V(a,b)V(a,b)V(a,b)，均值有限就推出几乎必然有限，同一个手法换一个对象。

把 (a,b)(a,b)(a,b) 取遍所有有理数对，得到可数个零概率事件的并，仍然零概率。序列没有极限，就存在一对有理数 a<ba < ba<b，使上极限大于 bbb、下极限小于 aaa，也就是在这个区间上穿了无穷多次

P{lim inf⁡nXn<lim sup⁡nXn}≤∑a<bP{V(a,b)=∞}=0P\lbrace \liminf_n X_n < \limsup_n X_n \rbrace \le \sum_{a < b} P\lbrace V(a,b) = \infty \rbrace = 0P{liminfnXn<limsupnXn}≤∑a<bP{V(a,b)=∞}=0

所以

P{lim⁡n→∞Xn=X∞}=1P\Big\lbrace \lim_{n \to \infty} X_n = X_\infty \Big\rbrace = 1P{limn→∞Xn=X∞}=1

最后用 Fatou 引理补上可积性

为什么是有理数对而不是全体实数对。全体实数对不可数，可数个零概率集合并起来还是零概率，不可数个并起来说不清。有理数稠密，任取一个实数对，中间能塞进一对有理数，所以「在实数对上下穿无穷多次」等价于「在某对有理数上下穿无穷多次」。这一步是可数化。

Fatou 那一步也有讲究。前面只证明了 XnX_nXn 收敛，没说极限可积。可积性是另补的：lim inf⁡∣Xn∣\liminf |X_n|liminf∣Xn∣ 的期望不超过 lim inf⁡E∣Xn∣\liminf E|X_n|liminfE∣Xn∣，而后者被上界卡住。少了这一步，X∞X_\inftyX∞ 只是一个随机变量，不能拿它做期望运算。

定理的意思是：鞅的均值不变，看上去没有理由收敛；加一个上界条件，它就几乎必然收敛到一个随机变量。收敛之后，nnn 足够大时 XnX_nXn 的分布可以拿 X∞X_\inftyX∞ 的分布顶上，尾部概率、超出某个门限的概率，都落在这一个分布上。分布定了，统计性能就定了。

这里得到的是几乎必然收敛，比依概率收敛强。依概率收敛说的是「偏差大的路径越来越少」，几乎必然收敛说的是「除了一个零概率的例外集合，每一条路径都收敛」。两者的差别在样本路径上，前者允许路径反复跳出去又回来，后者不允许。上穿次数有限，管的正是这件事：跳出去又回来的次数被卡住，路径最后只能停在一个极限上。

整个过程没有用到马尔可夫性，也没有用到 XnX_nXn 与 Xn+1X_{n+1}Xn+1 的相关结构。下鞅加一个有界条件，就够。

定理的用法可以排成一条链：先构造一个鞅，再加一个凸函数变成下鞅，然后用收敛定理拿到几乎必然收敛，最后用收敛的那个随机变量做稳定性分析。这条链在控制与信号处理里反复出现，每一环都不难，难的是第一步构造得对不对。

中间为什么要转成下鞅。因为优化问题多数是求最小值、最小代价、最少资源，这一类问题对应的目标函数是下凸的。鞅加一个下凸函数得到下鞅，正好接上收敛定理。上凸函数反过来给上鞅，配的是另一套结论。这一步转得对不对，决定了能不能用上收敛定理。

两个推论在很多写法里被省掉，理由是它们太直接，走一遍同样的路就出来了。省掉不影响后面用，用的时候回头补一遍也不费事。

从鞅的定义出发，能做的东西只有两条路。一条把固定的 nnn 换成随机变量，让均值不变在随机时刻上成立，通向停时定理；一条让 nnn 趋于无穷，看序列本身有没有极限，通向收敛定理。

还有一句留给做研究的人。一个定理证完就停在那里，后面既没有例子也没有应用，这种地方可以下手。收敛定理就是这样：它在上穿不等式之后顺手就出来了，出来之后很多书不再往下写。工程技术里难的，是把这类只证到一半的结论接到具体问题上。有一类被 5G 采纳的极化码，编码构造先做出来，严格的收敛性证明隔了好几年才补齐，补的那一步用的正是鞅收敛这一支。

十、极大值不等式：把 n 个不等式并成一个

收敛定理管 nnn 趋于无穷。nnn 有限的时候，工程上更关心另一件事：这 nnn 个时刻里有没有哪一刻越界。

设定取最简单的形式：YnY_nYn 独立同分布，EYi=0E Y_i = 0EYi=0，EYi2=σ2E Y_i^2 = \sigma^2EYi2=σ2，X0=0X_0 = 0X0=0，Xn=∑i=1nYiX_n = \sum_{i=1}^{n} Y_iXn=∑i=1nYi。切比雪夫给的是单个时刻的界

ε2P{∣Xn∣>ε}≤∫∣x∣>εx2dPXn(x)≤EXn2=nσ2\varepsilon^2 P\lbrace |X_n| > \varepsilon \rbrace \le \int_{|x| > \varepsilon} x^2 dP_{X_n}(x) \le E X_n^2 = n\sigma^2ε2P{∣Xn∣>ε}≤∫∣x∣>εx2dPXn(x)≤EXn2=nσ2

Kolmogorov 把它换成最大值

ε2P{max⁡0≤k≤n∣Xk∣>ε}≤nσ2\varepsilon^2 P\Big\lbrace \max_{0 \le k \le n} |X_k| > \varepsilon \Big\rbrace \le n\sigma^2ε2P{max0≤k≤n∣Xk∣>ε}≤nσ2

右端一样，左端从「第 nnn 个时刻越界」换成「前 nnn 个时刻里有某个越界」。界没有变松，管的范围大了 nnn 倍。

单个时刻的不等式有 nnn 条，每条只管一个时刻。要判断整段时间会不会出问题，把这 nnn 条并起来并不够，因为它们不互斥，概率不能直接相加。硬加会得到 nnn 倍的松界，等于白加。最大值那一条直接给出并集的概率。

从 nnn 条并成一条，界会比逐条相加松一些，这笔交易是划算的：松一点换来的是一整段时间被管住，而逐条相加连一个能用的界都给不出。

用降维描述更贴切。max⁡0≤k≤n∣Xk∣\max_{0 \le k \le n} |X_k|max0≤k≤n∣Xk∣ 是一个新的随机变量，把 nnn 个随机变量压成了一个，原来要处理的一族分布变成一条分布。

技术上怎么处理这个 max，思路只有一条：把事件按首次越界的时刻切开，切成互不相交的几块，每块上做一次单点估计，加总正好收成 nσ2n\sigma^2nσ2。不切开就只能用并集上界。切开之后每一块上都带着「此前没有越界」的信息，这个信息把松掉的界补回来一部分。

放到鞅的框架里看，形状一样：把 ∣Xn∣|X_n|∣Xn∣ 换成下鞅，把切比雪夫换成 Doob 极大值不等式，结论从单个时刻的尾概率变成前 nnn 步最大值的尾概率。

它也有明显的短板。右端随 nnn 线性增长，固定 ε\varepsilonε 时界随 nnn 一起发散，只能在小样本段使用。样本一长，要换指数型的界，把右端压成 e−cnε2e^{-cn\varepsilon^2}e−cnε2 的形状，那条路要用矩母函数。

今天的内容到这里。下一次从一系列不等式讲起，往后是几个应用。