本文是为了记录《随机信号分析与处理》第一章习题的解答过程,主要内容为概率分布函数求pdf,使用雅可比矩阵做线性变换的函数替换,分析了卡方分布的pdf,为后面《信号检测与估计》课程的习题解答做基础训练。
一、习题 1.1 条件概率密度公式
题目:设 X 和 Y 是随机变量,证明
fY∣X(y∣x)=fXY(x,y)fX(x),fX∣Y(x∣y)=fXY(x,y)fY(y)(1-1)f_{Y|X}(y|x)=\frac{f_{XY}(x,y)}{f_X(x)},\qquad f_{X|Y}(x|y)=\frac{f_{XY}(x,y)}{f_Y(y)} \tag{1-1}fY∣X(y∣x)=fX(x)fXY(x,y),fX∣Y(x∣y)=fY(y)fXY(x,y)(1-1)
解:以事件 x<X≤x+Δxx\lt X\le x+\Delta xx<X≤x+Δx 为条件,按条件概率的定义写出条件分布函数,再对 y 求导
FY ∣ x<X≤x+Δx(y)=P{Y≤y, x<X≤x+Δx}P{x<X≤x+Δx}=∫xx+Δx∫−∞yfXY(u,v) dv duFX(x+Δx)−FX(x)(1-2)F_{Y\,|\,x\lt X\le x+\Delta x}(y)=\frac{P\{Y\le y,\ x\lt X\le x+\Delta x\}}{P\{x\lt X\le x+\Delta x\}}=\frac{\int_{x}^{x+\Delta x}\int_{-\infty}^{y}f_{XY}(u,v)\,\mathrm{d}v\,\mathrm{d}u}{F_X(x+\Delta x)-F_X(x)} \tag{1-2}FY∣x<X≤x+Δx(y)=P{x<X≤x+Δx}P{Y≤y, x<X≤x+Δx}=FX(x+Δx)−FX(x)∫xx+Δx∫−∞yfXY(u,v)dvdu(1-2)
fY ∣ x<X≤x+Δx(y)=∫xx+ΔxfXY(u,y) duFX(x+Δx)−FX(x)≈fXY(x,y)ΔxfX(x)Δx=fXY(x,y)fX(x)(1-3)f_{Y\,|\,x\lt X\le x+\Delta x}(y)=\frac{\int_{x}^{x+\Delta x}f_{XY}(u,y)\,\mathrm{d}u}{F_X(x+\Delta x)-F_X(x)}\approx\frac{f_{XY}(x,y)\Delta x}{f_X(x)\Delta x}=\frac{f_{XY}(x,y)}{f_X(x)} \tag{1-3}fY∣x<X≤x+Δx(y)=FX(x+Δx)−FX(x)∫xx+ΔxfXY(u,y)du≈fX(x)ΔxfXY(x,y)Δx=fX(x)fXY(x,y)(1-3)
令 Δx→0\Delta x\to 0Δx→0,条件事件收缩为单点 X=xX=xX=x,左端即为 fY∣X(y∣x)f_{Y|X}(y|x)fY∣X(y∣x),第一式得证;把 X 与 Y 的角色互换即得第二式。
二、随机变量函数的分布(习题 1.2~1.8)
习题 1.2 二项分布的均值与方差
题目:P{X=m}=Cnmpm(1−p)n−mP\{X=m\}=C_n^m p^m(1-p)^{n-m}P{X=m}=Cnmpm(1−p)n−m,m=0,1,2,⋯ ,nm=0,1,2,\cdots,nm=0,1,2,⋯,n,0<p<10\lt p\lt 10<p<1,求 X 的均值和方差。
解:用组合恒等式 mCnm=nCn−1m−1mC_n^m=nC_{n-1}^{m-1}mCnm=nCn−1m−1,去掉 m=0m=0m=0 的零项后作指标替换 k=m−1k=m-1k=m−1
E(X)=∑m=0nmCnmpm(1−p)n−m=np∑k=0n−1Cn−1kpk(1−p)n−1−k=np(1-4)E(X)=\sum_{m=0}^{n}mC_n^m p^m(1-p)^{n-m}=np\sum_{k=0}^{n-1}C_{n-1}^{k}p^{k}(1-p)^{n-1-k}=np \tag{1-4}E(X)=m=0∑nmCnmpm(1−p)n−m=npk=0∑n−1Cn−1kpk(1−p)n−1−k=np(1-4)
二阶矩先算 EX(X−1)EX(X-1)EX(X−1),此时可以连用两次恒等式
EX(X−1)=∑m=0nm(m−1)Cnmpm(1−p)n−m=n(n−1)p2∑k=0n−2Cn−2kpk(1−p)n−2−k=n(n−1)p2(1-5)EX(X-1)=\sum_{m=0}^{n}m(m-1)C_n^m p^m(1-p)^{n-m}=n(n-1)p^2\sum_{k=0}^{n-2}C_{n-2}^{k}p^{k}(1-p)^{n-2-k}=n(n-1)p^2 \tag{1-5}EX(X−1)=m=0∑nm(m−1)Cnmpm(1−p)n−m=n(n−1)p2k=0∑n−2Cn−2kpk(1−p)n−2−k=n(n−1)p2(1-5)
E(X2)=EX(X−1)+E(X)=n(n−1)p2+np,D(X)=E(X2)−E(X)2=np(1−p)(1-6)E(X^2)=EX(X-1)+E(X)=n(n-1)p^2+np,\qquad D(X)=E(X^2)-E(X)^2=np(1-p) \tag{1-6}E(X2)=EX(X−1)+E(X)=n(n−1)p2+np,D(X)=E(X2)−E(X)2=np(1−p)(1-6)
习题 1.3 电导的概率密度
题目:设电阻 R 在 900~1100 Ω 之间均匀分布,求电导 G=1/RG=1/RG=1/R 的概率密度。
解:fR(r)=1/200f_R(r)=1/200fR(r)=1/200(900<r<1100900\lt r\lt 1100900<r<1100)。变换 g=1/rg=1/rg=1/r 在 r>0r\gt 0r>0 上单调下降,反函数 r=1/gr=1/gr=1/g,∣dr/dg∣=1/g2\left|\mathrm{d}r/\mathrm{d}g\right|=1/g^{2}∣dr/dg∣=1/g2,代入单调变换公式
fG(g)=1200 g2,11100<g<1900(1-7)f_G(g)=\frac{1}{200\,g^{2}},\qquad \frac{1}{1100}\lt g\lt \frac{1}{900} \tag{1-7}fG(g)=200g21,11001<g<9001(1-7)

图 1 习题 1.3 中电阻的均匀密度与电导的密度
习题 1.4 乘积与商的概率密度
题目:设有随机变量 X1X_1X1 和 X2X_2X2,求 Y=X1X2Y=X_1X_2Y=X1X2 和 Z=X1/X2Z=X_1/X_2Z=X1/X2 的概率密度。
解:用二元变换法,各引入一个辅助变量。求 Y 的密度时取 U=X1U=X_1U=X1,反变换为 x1=ux_1=ux1=u、x2=y/ux_2=y/ux2=y/u
J=∂(x1,x2)∂(u,y)=∣10−yu21u∣=1u,fY(y)=∫−∞∞1∣u∣fX1X2(u,yu)du(1-8)J=\frac{\partial(x_1,x_2)}{\partial(u,y)}=\begin{vmatrix}1&0\\ -\frac{y}{u^{2}}&\frac{1}{u}\end{vmatrix}=\frac{1}{u},\qquad f_Y(y)=\int_{-\infty}^{\infty}\frac{1}{|u|}f_{X_1X_2}\left(u,\frac{y}{u}\right)\mathrm{d}u \tag{1-8}J=∂(u,y)∂(x1,x2)= 1−u2y0u1 =u1,fY(y)=∫−∞∞∣u∣1fX1X2(u,uy)du(1-8)
求 Z 的密度时取 U=X2U=X_2U=X2,则 x1=zux_1=zux1=zu、x2=ux_2=ux2=u
J=∂(x1,x2)∂(z,u)=∣uz01∣=u,fZ(z)=∫−∞∞∣u∣ fX1X2(zu,u)du(1-9)J=\frac{\partial(x_1,x_2)}{\partial(z,u)}=\begin{vmatrix}u&z\\ 0&1\end{vmatrix}=u,\qquad f_Z(z)=\int_{-\infty}^{\infty}|u|\,f_{X_1X_2}\left(zu,u\right)\mathrm{d}u \tag{1-9}J=∂(z,u)∂(x1,x2)= u0z1 =u,fZ(z)=∫−∞∞∣u∣fX1X2(zu,u)du(1-9)
X1X_1X1 与 X2X_2X2 相互独立时,把联合密度写成两个边际密度之积
fY(y)=∫−∞∞1∣u∣fX1(u)fX2(yu)du,fZ(z)=∫−∞∞∣u∣ fX1(zu)fX2(u) du(1-10)f_Y(y)=\int_{-\infty}^{\infty}\frac{1}{|u|}f_{X_1}(u)f_{X_2}\left(\frac{y}{u}\right)\mathrm{d}u,\qquad f_Z(z)=\int_{-\infty}^{\infty}|u|\,f_{X_1}(zu)f_{X_2}(u)\,\mathrm{d}u \tag{1-10}fY(y)=∫−∞∞∣u∣1fX1(u)fX2(uy)du,fZ(z)=∫−∞∞∣u∣fX1(zu)fX2(u)du(1-10)
习题 1.5 最大值与最小值的分布函数
题目:X 和 Y 独立,分布函数为 FX(x)F_X(x)FX(x)、FY(y)F_Y(y)FY(y),令 W=max(X,Y)W=\max(X,Y)W=max(X,Y)、V=min(X,Y)V=\min(X,Y)V=min(X,Y),求分布函数。
解:最大值事件要求两个分量同时不超过阈值,由独立性相乘;最小值用对立事件
FW(w)=P(X≤w, Y≤w)=FX(w)FY(w)(1-11)F_W(w)=P(X\le w,\,Y\le w)=F_X(w)F_Y(w) \tag{1-11}FW(w)=P(X≤w,Y≤w)=FX(w)FY(w)(1-11)
FV(v)=1−P(X>v, Y>v)=1−1−FX(v)1−FY(v)(1-12)F_V(v)=1-P(X\gt v,\,Y\gt v)=1-1-F_X(v)1-F_Y(v) \tag{1-12}FV(v)=1−P(X>v,Y>v)=1−1−FX(v)1−FY(v)(1-12)
当 X 与 Y 都有密度时,对分布函数求导
fW(w)=fX(w)FY(w)+FX(w)fY(w),fV(v)=fX(v)1−FY(v)+1−FX(v)fY(v)(1-13)f_W(w)=f_X(w)F_Y(w)+F_X(w)f_Y(w),\qquad f_V(v)=f_X(v)1-F_Y(v)+1-F_X(v)f_Y(v) \tag{1-13}fW(w)=fX(w)FY(w)+FX(w)fY(w),fV(v)=fX(v)1−FY(v)+1−FX(v)fY(v)(1-13)
习题 1.6 取两个值的变换
题目:设 Y=g(X)Y=g(X)Y=g(X),其中
g(x)={A,x0<x<x10,其他(1-14)g(x)=\begin{cases}A,& x_0\lt x\lt x_1\\ 0,& \text{其他}\end{cases} \tag{1-14}g(x)={A,0,x0<x<x1其他(1-14)
解:g 只取 0 和 A 两个值,先把两个取值的概率算出来
P(Y=A)=P(x0<X<x1)=FX(x1)−FX(x0),P(Y=0)=1−FX(x1)+FX(x0)(1-15)P(Y=A)=P(x_0\lt X\lt x_1)=F_X(x_1)-F_X(x_0),\qquad P(Y=0)=1-F_X(x_1)+F_X(x_0) \tag{1-15}P(Y=A)=P(x0<X<x1)=FX(x1)−FX(x0),P(Y=0)=1−FX(x1)+FX(x0)(1-15)
用单位阶跃函数写出分布函数,密度是两个冲激
FY(y)=1−FX(x1)+FX(x0) u(y)+FX(x1)−FX(x0) u(y−A)(1-16)F_Y(y)=1-F_X(x_1)+F_X(x_0)\,u(y)+F_X(x_1)-F_X(x_0)\,u(y-A) \tag{1-16}FY(y)=1−FX(x1)+FX(x0)u(y)+FX(x1)−FX(x0)u(y−A)(1-16)
fY(y)=1−FX(x1)+FX(x0) δ(y)+FX(x1)−FX(x0) δ(y−A)(1-17)f_Y(y)=1-F_X(x_1)+F_X(x_0)\,\delta(y)+F_X(x_1)-F_X(x_0)\,\delta(y-A) \tag{1-17}fY(y)=1−FX(x1)+FX(x0)δ(y)+FX(x1)−FX(x0)δ(y−A)(1-17)
连续型随机变量经取值有限的变换后可以变成离散型,冲激的强度就是各取值的概率,形状见图 2。

图 2 习题 1.6 两点取值的变换与结果密度上的两根冲激
习题 1.7 带死区的分段变换
题目:设函数 g(x) 为
g(x)={x+c,x<−c0,−c≤x≤cx−c,x>c(1-18)g(x)=\begin{cases}x+c,& x\lt -c\\ 0,& -c\le x\le c\\ x-c,& x\gt c\end{cases} \tag{1-18}g(x)=⎩ ⎨ ⎧x+c,0,x−c,x<−c−c≤x≤cx>c(1-18)
解:三段分别把定义域映到 (−∞,0)(-\infty,0)(−∞,0)、{0}\{0\}{0}、(0,∞)(0,\infty)(0,∞),按分布函数定义逐段解不等式
y<0:FY(y)=P(X+c≤y)=FX(y−c)(1-19)y\lt 0:\quad F_Y(y)=P(X+c\le y)=F_X(y-c) \tag{1-19}y<0:FY(y)=P(X+c≤y)=FX(y−c)(1-19)
y≥0:FY(y)=P(X≤y+c)=FX(y+c)(1-20)y\ge 0:\quad F_Y(y)=P(X\le y+c)=F_X(y+c) \tag{1-20}y≥0:FY(y)=P(X≤y+c)=FX(y+c)(1-20)
FY(y)={FX(y−c),y<0FX(y+c),y≥0(1-21)F_Y(y)=\begin{cases}F_X(y-c),& y\lt 0\\ F_X(y+c),& y\ge 0\end{cases} \tag{1-21}FY(y)={FX(y−c),FX(y+c),y<0y≥0(1-21)
变换在 y=0y=0y=0 处产生跳跃,跳跃幅度为 FX(c)−FX(−c)=P(−c<X≤c)F_X(c)-F_X(-c)=P(-c\lt X\le c)FX(c)−FX(−c)=P(−c<X≤c),死区内的概率全部压缩到原点,见图 3。

图 3 习题 1.7 的死区变换与分布函数在原点的跳跃
习题 1.8 带空隙的分段变换
题目:设函数 g(x) 为
g(x)={x−c,x<0x+c,x≥0(1-22)g(x)=\begin{cases}x-c,& x\lt 0\\ x+c,& x\ge 0\end{cases} \tag{1-22}g(x)={x−c,x+c,x<0x≥0(1-22)
解:左段的取值恒小于 −c-c−c,右段的取值不小于 c,中间区间 (−c,c)(-c,c)(−c,c) 不在值域内。逐段解不等式
y<−c:FY(y)=P(X≤y+c)=FX(y+c)(1-23)y\lt -c:\quad F_Y(y)=P(X\le y+c)=F_X(y+c) \tag{1-23}y<−c:FY(y)=P(X≤y+c)=FX(y+c)(1-23)
−c≤y<c:FY(y)=P(X<0)=FX(0)(1-24)-c\le y\lt c:\quad F_Y(y)=P(X\lt 0)=F_X(0) \tag{1-24}−c≤y<c:FY(y)=P(X<0)=FX(0)(1-24)
y≥c:FY(y)=P(X≤y−c)=FX(y−c)(1-25)y\ge c:\quad F_Y(y)=P(X\le y-c)=F_X(y-c) \tag{1-25}y≥c:FY(y)=P(X≤y−c)=FX(y−c)(1-25)
FY(y)={FX(y+c),y<−cFX(0),−c≤y<cFX(y−c),y≥c(1-26)F_Y(y)=\begin{cases}F_X(y+c),& y\lt -c\\ F_X(0),& -c\le y\lt c\\ F_X(y-c),& y\ge c\end{cases} \tag{1-26}FY(y)=⎩ ⎨ ⎧FX(y+c),FX(0),FX(y−c),y<−c−c≤y<cy≥c(1-26)
中间区间取常值 FX(0)F_X(0)FX(0) 而不是 0:左段的取值虽落在 −c-c−c 以下,但阈值满足 y≥−cy\ge -cy≥−c 时负半轴的概率全部计入。分布函数在 [−c,c)[-c,c)[−c,c) 上平坦,说明该区间没有概率质量,见图 4。

图 4 习题 1.8 的空隙变换与分布函数的平坦段
三、条件分布与条件期望(习题 1.9~1.12)
习题 1.9 由联合密度求条件期望
题目:(X,Y)(X,Y)(X,Y) 的联合概率密度为
fXY(x,y)={12e−y,y>∣x∣0,其他(1-27)f_{XY}(x,y)=\begin{cases}\frac{1}{2}\mathrm{e}^{-y},& y\gt |x|\\ 0,& \text{其他}\end{cases} \tag{1-27}fXY(x,y)={21e−y,0,y>∣x∣其他(1-27)
求 E(Y∣X)E(Y|X)E(Y∣X)。
解:先对 y 从 ∣x∣|x|∣x∣ 积分到无穷,得到 X 的边际密度与条件密度
fX(x)=∫∣x∣∞12e−ydy=12e−∣x∣,fY∣X(y∣x)=fXY(x,y)fX(x)=e−(y−∣x∣),y>∣x∣(1-28)f_X(x)=\int_{|x|}^{\infty}\frac{1}{2}\mathrm{e}^{-y}\mathrm{d}y=\frac{1}{2}\mathrm{e}^{-|x|},\qquad f_{Y|X}(y|x)=\frac{f_{XY}(x,y)}{f_X(x)}=\mathrm{e}^{-(y-|x|)},\quad y\gt |x| \tag{1-28}fX(x)=∫∣x∣∞21e−ydy=21e−∣x∣,fY∣X(y∣x)=fX(x)fXY(x,y)=e−(y−∣x∣),y>∣x∣(1-28)
条件密度是起点为 ∣x∣|x|∣x∣、均值为 1 的指数密度,作换元 t=y−∣x∣t=y-|x|t=y−∣x∣
E(Y∣X=x)=∫0∞(t+∣x∣)e−tdt=1+∣x∣(1-29)E(Y|X=x)=\int_{0}^{\infty}(t+|x|)\mathrm{e}^{-t}\mathrm{d}t=1+|x| \tag{1-29}E(Y∣X=x)=∫0∞(t+∣x∣)e−tdt=1+∣x∣(1-29)
条件密度随 x 平移、形状不变,条件期望落在每条曲线的空心圆处,见图 5。

图 5 习题 1.9 的边际密度与不同 x 下的条件密度
习题 1.10 两级均匀分布的条件期望
题目:X 在 0,a0,a0,a 上均匀分布,给定 X 后 Y 在 X,aX,aX,a 上均匀分布,求 E(Y∣X=x)E(Y|X=x)E(Y∣X=x) 与 E(Y)E(Y)E(Y)。
解:fX(x)=1/af_X(x)=1/afX(x)=1/a,条件密度为 fY∣X(y∣x)=1/(a−x)f_{Y|X}(y|x)=1/(a-x)fY∣X(y∣x)=1/(a−x)(x<y<ax\lt y\lt ax<y<a),条件期望是该区间的中点
E(Y∣X=x)=∫xaya−xdy=a2−x22(a−x)=a+x2(1-30)E(Y|X=x)=\int_{x}^{a}\frac{y}{a-x}\mathrm{d}y=\frac{a^{2}-x^{2}}{2(a-x)}=\frac{a+x}{2} \tag{1-30}E(Y∣X=x)=∫xaa−xydy=2(a−x)a2−x2=2a+x(1-30)
用重期望公式把 x 换成随机变量 X,只需用到 E(X)=a/2E(X)=a/2E(X)=a/2
E(Y)=Ea+X2=a+E(X)2=3a4(1-31)E(Y)=E\left\\frac{a+X}{2}\\right=\frac{a+E(X)}{2}=\frac{3a}{4} \tag{1-31}E(Y)=E2a+X=2a+E(X)=43a(1-31)
习题 1.11 联合密度下条件期望的计算
题目:(X,Y)(X,Y)(X,Y) 的联合密度为 fXY(x,y)=2(ax+by)/(a+b)f_{XY}(x,y)=2(ax+by)/(a+b)fXY(x,y)=2(ax+by)/(a+b),0<x,y<10\lt x,y\lt 10<x,y<1,计算 E(X∣Y=1/4)E(X|Y=1/4)E(X∣Y=1/4) 与 E(Y∣X=1/2)E(Y|X=1/2)E(Y∣X=1/2)。
解:先求边际密度,再作条件密度
fY(y)=∫012(ax+by)a+bdx=a+2bya+b,fX(x)=∫012(ax+by)a+bdy=2ax+ba+b(1-32)f_Y(y)=\int_0^1\frac{2(ax+by)}{a+b}\mathrm{d}x=\frac{a+2by}{a+b},\qquad f_X(x)=\int_0^1\frac{2(ax+by)}{a+b}\mathrm{d}y=\frac{2ax+b}{a+b} \tag{1-32}fY(y)=∫01a+b2(ax+by)dx=a+ba+2by,fX(x)=∫01a+b2(ax+by)dy=a+b2ax+b(1-32)
fX∣Y(x∣y)=2(ax+by)a+2by,fY∣X(y∣x)=2(ax+by)2ax+b(1-33)f_{X|Y}(x|y)=\frac{2(ax+by)}{a+2by},\qquad f_{Y|X}(y|x)=\frac{2(ax+by)}{2ax+b} \tag{1-33}fX∣Y(x∣y)=a+2by2(ax+by),fY∣X(y∣x)=2ax+b2(ax+by)(1-33)
把 y=1/4y=1/4y=1/4 与 x=1/2x=1/2x=1/2 分别代入后积分
E(X∣Y=14)=∫01x4ax+b2a+bdx=8a+3b6(2a+b)(1-34)E\left(X\left|Y=\frac{1}{4}\right.\right)=\int_0^1x\frac{4ax+b}{2a+b}\mathrm{d}x=\frac{8a+3b}{6(2a+b)} \tag{1-34}E(X Y=41)=∫01x2a+b4ax+bdx=6(2a+b)8a+3b(1-34)
E(Y∣X=12)=∫01ya+2bya+bdy=3a+4b6(a+b)(1-35)E\left(Y\left|X=\frac{1}{2}\right.\right)=\int_0^1y\frac{a+2by}{a+b}\mathrm{d}y=\frac{3a+4b}{6(a+b)} \tag{1-35}E(Y X=21)=∫01ya+ba+2bydy=6(a+b)3a+4b(1-35)
习题 1.12 由分布函数求均值与方差
题目:某设备有效期的分布函数为
FX(x)={1−e−x/5,x≥00,x<0(1-36)F_X(x)=\begin{cases}1-\mathrm{e}^{-x/5},& x\ge 0\\ 0,& x\lt 0\end{cases} \tag{1-36}FX(x)={1−e−x/5,0,x≥0x<0(1-36)
求该设备有效期的均值与方差。
解:对分布函数求导得 fX(x)=15e−x/5f_X(x)=\frac{1}{5}\mathrm{e}^{-x/5}fX(x)=51e−x/5(x≥0x\ge 0x≥0),是参数为 1/5 的指数分布。按尾积分公式 E(X)=∫0∞1−FX(x)dxE(X)=\int_0^{\infty}1-F_X(x)\mathrm{d}xE(X)=∫0∞1−FX(x)dx 计算
E(X)=∫0∞e−x/5dx=5,E(X2)=∫0∞2xe−x/5dx=50(1-37)E(X)=\int_0^{\infty}\mathrm{e}^{-x/5}\mathrm{d}x=5,\qquad E(X^2)=\int_0^{\infty}2x\mathrm{e}^{-x/5}\mathrm{d}x=50 \tag{1-37}E(X)=∫0∞e−x/5dx=5,E(X2)=∫0∞2xe−x/5dx=50(1-37)
D(X)=E(X2)−E(X)2=25(1-38)D(X)=E(X^2)-E(X)^2=25 \tag{1-38}D(X)=E(X2)−E(X)2=25(1-38)
两个积分都对应曲线下的面积,见图 6。

图 6 习题 1.12 中尾积分求一阶矩与二阶矩的几何意义
四、多维正态分布(习题 1.13~1.14)
习题 1.13 标准正态向量的正交变换
题目:X1X_1X1、X2X_2X2、X3X_3X3 相互独立且都服从 N(0,1),证明
Y1=12(X1−X2),Y2=16(X1+X2−2X3),Y3=13(X1+X2+X3)(1-39)Y_1=\frac{1}{\sqrt{2}}(X_1-X_2),\quad Y_2=\frac{1}{\sqrt{6}}(X_1+X_2-2X_3),\quad Y_3=\frac{1}{\sqrt{3}}(X_1+X_2+X_3) \tag{1-39}Y1=2 1(X1−X2),Y2=6 1(X1+X2−2X3),Y3=3 1(X1+X2+X3)(1-39)
也相互独立,且都服从 N(0,1)。
解:把三式写成 Y=LXY=LXY=LX,其中 mX=0m_X=0mX=0、CX=IC_X=ICX=I。正态向量经线性变换后仍服从正态分布,均值与协方差按 mY=LmXm_Y=Lm_XmY=LmX、CY=LCXLTC_Y=LC_XL^{\mathrm{T}}CY=LCXLT 变换
L=12−1201616−26131313(1-40)L=\begin{bmatrix}\frac{1}{\sqrt{2}}&-\frac{1}{\sqrt{2}}&0\\ \frac{1}{\sqrt{6}}&\frac{1}{\sqrt{6}}&-\frac{2}{\sqrt{6}}\\ \frac{1}{\sqrt{3}}&\frac{1}{\sqrt{3}}&\frac{1}{\sqrt{3}}\end{bmatrix} \tag{1-40}L= 2 16 13 1−2 16 13 10−6 23 1 (1-40)
mY=L⋅0=0,CY=ELX(LX)T=L EXXTLT=LILT=LLT(1-41)m_Y=L\cdot 0=0,\qquad C_Y=E\leftLX(LX)\^{\\mathrm{T}}\\right=L\,E\leftXX\^{\\mathrm{T}}\\rightL^{\mathrm{T}}=LIL^{\mathrm{T}}=LL^{\mathrm{T}} \tag{1-41}mY=L⋅0=0,CY=ELX(LX)T=LEXXTLT=LILT=LLT(1-41)
逐行核对 L:三行的行范数都是 1,两两内积为
12⋅16−12⋅16=0,12⋅13−12⋅13=0,16⋅13+16⋅13−26⋅13=0(1-42)\frac{1}{\sqrt{2}}\cdot\frac{1}{\sqrt{6}}-\frac{1}{\sqrt{2}}\cdot\frac{1}{\sqrt{6}}=0,\quad \frac{1}{\sqrt{2}}\cdot\frac{1}{\sqrt{3}}-\frac{1}{\sqrt{2}}\cdot\frac{1}{\sqrt{3}}=0,\quad \frac{1}{\sqrt{6}}\cdot\frac{1}{\sqrt{3}}+\frac{1}{\sqrt{6}}\cdot\frac{1}{\sqrt{3}}-\frac{2}{\sqrt{6}}\cdot\frac{1}{\sqrt{3}}=0 \tag{1-42}2 1⋅6 1−2 1⋅6 1=0,2 1⋅3 1−2 1⋅3 1=0,6 1⋅3 1+6 1⋅3 1−6 2⋅3 1=0(1-42)
行向量构成标准正交组,L 为正交矩阵,故 CY=LLT=IC_Y=LL^{\mathrm{T}}=ICY=LLT=I,即 Y∼N(0,I)Y\sim N(0,I)Y∼N(0,I)。把单位协方差矩阵代入联合密度后可直接分解
fY(y)=1(2π)3/2e−yTy/2=∏i=1312πe−yi2/2(1-43)f_Y(y)=\frac{1}{(2\pi)^{3/2}}\mathrm{e}^{-y^{\mathrm{T}}y/2}=\prod_{i=1}^{3}\frac{1}{\sqrt{2\pi}}\mathrm{e}^{-y_i^{2}/2} \tag{1-43}fY(y)=(2π)3/21e−yTy/2=i=1∏32π 1e−yi2/2(1-43)
右边是三个标准正态密度之积,所以 Y1Y_1Y1、Y2Y_2Y2、Y3Y_3Y3 相互独立且都服从 N(0,1)。
习题 1.14 二维正态分布的象限概率
题目:X 和 Y 为零均值正态随机变量,方差均为 σ2\sigma^{2}σ2,相关系数为 r,记 α=arcsinr\alpha=\arcsin rα=arcsinr,证明
(1)P(X>0,Y>0)=P(X<0,Y<0)=14+α2π(1-44)\text{(1)}\quad P(X\gt 0,Y\gt 0)=P(X\lt 0,Y\lt 0)=\frac{1}{4}+\frac{\alpha}{2\pi} \tag{1-44}(1)P(X>0,Y>0)=P(X<0,Y<0)=41+2πα(1-44)
(2)P(X>0,Y<0)=P(X<0,Y>0)=14−α2π(1-45)\text{(2)}\quad P(X\gt 0,Y\lt 0)=P(X\lt 0,Y\gt 0)=\frac{1}{4}-\frac{\alpha}{2\pi} \tag{1-45}(2)P(X>0,Y<0)=P(X<0,Y>0)=41−2πα(1-45)
(3)P(XY>0)=12+απ,(4)P(XY<0)=12−απ(1-46)\text{(3)}\quad P(XY\gt 0)=\frac{1}{2}+\frac{\alpha}{\pi},\qquad \text{(4)}\quad P(XY\lt 0)=\frac{1}{2}-\frac{\alpha}{\pi} \tag{1-46}(3)P(XY>0)=21+πα,(4)P(XY<0)=21−πα(1-46)
解:先标准化,令 U=X/σU=X/\sigmaU=X/σ、V=Y/σV=Y/\sigmaV=Y/σ,四个概率只与 r 有关,与 σ2\sigma^{2}σ2 无关。作极坐标变换 u=ρcosθu=\rho\cos\thetau=ρcosθ、v=ρsinθv=\rho\sin\thetav=ρsinθ,雅可比为 ρ\rhoρ,二次型 u2−2ruv+v2=ρ2(1−rsin2θ)u^{2}-2ruv+v^{2}=\rho^{2}(1-r\sin 2\theta)u2−2ruv+v2=ρ2(1−rsin2θ),对 ρ\rhoρ 积分得 θ\thetaθ 的密度
fΘ(θ)=∫0∞ρ2π1−r2exp−ρ2(1−rsin2θ)2(1−r2)dρ=1−r22π(1−rsin2θ)(1-47)f_{\Theta}(\theta)=\int_0^{\infty}\frac{\rho}{2\pi\sqrt{1-r^{2}}}\exp\left-\\frac{\\rho\^{2}(1-r\\sin 2\\theta)}{2(1-r\^{2})}\\right\mathrm{d}\rho=\frac{\sqrt{1-r^{2}}}{2\pi\left(1-r\sin 2\theta\right)} \tag{1-47}fΘ(θ)=∫0∞2π1−r2 ρexp−2(1−r2)ρ2(1−rsin2θ)dρ=2π(1−rsin2θ)1−r2 (1-47)
第一象限对应 θ∈(0,π/2)\theta\in(0,\pi/2)θ∈(0,π/2),令 ψ=2θ\psi=2\thetaψ=2θ,用 ∫0πdψ1−rsinψ=π+2arcsinr1−r2\int_0^{\pi}\frac{\mathrm{d}\psi}{1-r\sin\psi}=\frac{\pi+2\arcsin r}{\sqrt{1-r^{2}}}∫0π1−rsinψdψ=1−r2 π+2arcsinr 得
P(X>0,Y>0)=1−r24π⋅π+2arcsinr1−r2=14+α2π(1-48)P(X\gt 0,Y\gt 0)=\frac{\sqrt{1-r^{2}}}{4\pi}\cdot\frac{\pi+2\arcsin r}{\sqrt{1-r^{2}}}=\frac{1}{4}+\frac{\alpha}{2\pi} \tag{1-48}P(X>0,Y>0)=4π1−r2 ⋅1−r2 π+2arcsinr=41+2πα(1-48)
(X,Y)(X,Y)(X,Y) 与 (−X,−Y)(-X,-Y)(−X,−Y) 同分布,第三象限的概率与第一象限相同,(1)得证。把 r 换成 −r-r−r 即得(2)。XY>0XY\gt 0XY>0 是一、三象限之并,两事件互斥
P(XY>0)=2(14+α2π)=12+απ,P(XY<0)=1−P(XY>0)=12−απ(1-49)P(XY\gt 0)=2\left(\frac{1}{4}+\frac{\alpha}{2\pi}\right)=\frac{1}{2}+\frac{\alpha}{\pi},\qquad P(XY\lt 0)=1-P(XY\gt 0)=\frac{1}{2}-\frac{\alpha}{\pi} \tag{1-49}P(XY>0)=2(41+2πα)=21+πα,P(XY<0)=1−P(XY>0)=21−πα(1-49)
(3)(4)得证。r=0r=0r=0 时 α=0\alpha=0α=0,第一象限概率为 1/4;r=1r=1r=1 时 α=π/2\alpha=\pi/2α=π/2,第一象限概率为 1/2;r=−1r=-1r=−1 时第一象限概率为 0,都与直觉一致,见图 7。

图 7 习题 1.14 中二维正态的等密度椭圆与同号概率随相关系数的变化
五、χ² 分布族(习题 1.15~1.16)
习题 1.15 中心 χ² 分布
题目:X1,X2,⋯ ,XnX_1,X_2,\cdots,X_nX1,X2,⋯,Xn 相互独立且都服从 N(0,1),令 χ2=∑i=1nXi2\chi^{2}=\sum_{i=1}^{n}X_i^{2}χ2=∑i=1nXi2,证明
fχ2(x)={12n/2Γ(n/2)xn2−1e−x/2,x≥00,x<0(1-50)f_{\chi^{2}}(x)=\begin{cases}\frac{1}{2^{n/2}\Gamma(n/2)}x^{\frac{n}{2}-1}\mathrm{e}^{-x/2},& x\ge 0\\ 0,& x\lt 0\end{cases} \tag{1-50}fχ2(x)={2n/2Γ(n/2)1x2n−1e−x/2,0,x≥0x<0(1-50)
解:推导时先保留一般方差 σ2\sigma^{2}σ2,设 Xi∼N(0,σ2)X_i\sim N(0,\sigma^{2})Xi∼N(0,σ2),最后令 σ2=1\sigma^{2}=1σ2=1 即得。第一步,方程 y=x2y=x^{2}y=x2 有两个根 ±y\pm\sqrt{y}±y ,两个分支的贡献相加
fYi(y)=12yfXi(y)+12yfXi(−y)=12πσ2ye−y/(2σ2),y>0(1-51)f_{Y_i}(y)=\frac{1}{2\sqrt{y}}f_{X_i}(\sqrt{y})+\frac{1}{2\sqrt{y}}f_{X_i}(-\sqrt{y})=\frac{1}{\sqrt{2\pi\sigma^{2}y}}\mathrm{e}^{-y/(2\sigma^{2})},\quad y\gt 0 \tag{1-51}fYi(y)=2y 1fXi(y )+2y 1fXi(−y )=2πσ2y 1e−y/(2σ2),y>0(1-51)
第二步,求平方项的特征函数
ΦYi(μ)=∫0∞ejμy12πσ2ye−y/(2σ2)dy=11−2jσ2μ(1-52)\Phi_{Y_i}(\mu)=\int_0^{\infty}\mathrm{e}^{\mathrm{j}\mu y}\frac{1}{\sqrt{2\pi\sigma^{2}y}}\mathrm{e}^{-y/(2\sigma^{2})}\mathrm{d}y=\frac{1}{\sqrt{1-2\mathrm{j}\sigma^{2}\mu}} \tag{1-52}ΦYi(μ)=∫0∞ejμy2πσ2y 1e−y/(2σ2)dy=1−2jσ2μ 1(1-52)
第三步,YiY_iYi 相互独立,和的特征函数等于各特征函数之积
Φχ2(μ)=∏i=1n11−2jσ2μ=1(1−2jσ2μ)n/2(1-53)\Phi_{\chi^{2}}(\mu)=\prod_{i=1}^{n}\frac{1}{\sqrt{1-2\mathrm{j}\sigma^{2}\mu}}=\frac{1}{\left(1-2\mathrm{j}\sigma^{2}\mu\right)^{n/2}} \tag{1-53}Φχ2(μ)=i=1∏n1−2jσ2μ 1=(1−2jσ2μ)n/21(1-53)
第四步,用伽马密度的特征函数恒等式 ∫0∞ejμxxa−1e−x/ββaΓ(a)dx=1(1−jβμ)a\int_0^{\infty}\mathrm{e}^{\mathrm{j}\mu x}\frac{x^{a-1}\mathrm{e}^{-x/\beta}}{\beta^{a}\Gamma(a)}\mathrm{d}x=\frac{1}{\left(1-\mathrm{j}\beta\mu\right)^{a}}∫0∞ejμxβaΓ(a)xa−1e−x/βdx=(1−jβμ)a1 作反变换,取 a=n/2a=n/2a=n/2、β=2σ2\beta=2\sigma^{2}β=2σ2
fχ2(x)=xn/2−1e−x/(2σ2)(2σ2)n/2Γ(n/2),x≥0(1-54)f_{\chi^{2}}(x)=\frac{x^{n/2-1}\mathrm{e}^{-x/(2\sigma^{2})}}{(2\sigma^{2})^{n/2}\Gamma(n/2)},\quad x\ge 0 \tag{1-54}fχ2(x)=(2σ2)n/2Γ(n/2)xn/2−1e−x/(2σ2),x≥0(1-54)
令 σ2=1\sigma^{2}=1σ2=1 即得待证形式。由特征函数在 μ=0\mu=0μ=0 处的导数可得 E(χ2)=nσ2E(\chi^{2})=n\sigma^{2}E(χ2)=nσ2、D(χ2)=2nσ4D(\chi^{2})=2n\sigma^{4}D(χ2)=2nσ4。
习题 1.16 非中心 χ² 分布
题目:X1,X2,⋯ ,XnX_1,X_2,\cdots,X_nX1,X2,⋯,Xn 相互独立且都服从 N(0,σ2\sigma^{2}σ2),a 为常数,令 Q=1σ2∑i=1n(a+Xi)2Q=\frac{1}{\sigma^{2}}\sum_{i=1}^{n}(a+X_i)^{2}Q=σ21∑i=1n(a+Xi)2,证明
fQ(q)=12(qλ)n−24e−(λ+q)/2In/2−1(λq),q≥0,λ=na2σ2(1-55)f_Q(q)=\frac{1}{2}\left(\frac{q}{\lambda}\right)^{\frac{n-2}{4}}\mathrm{e}^{-(\lambda+q)/2}I_{n/2-1}\left(\sqrt{\lambda q}\right),\quad q\ge 0,\qquad \lambda=\frac{na^{2}}{\sigma^{2}} \tag{1-55}fQ(q)=21(λq)4n−2e−(λ+q)/2In/2−1(λq ),q≥0,λ=σ2na2(1-55)
解:记 Xai=a+XiX_{ai}=a+X_iXai=a+Xi,ξi=Xai/σ∼N(b,1)\xi_i=X_{ai}/\sigma\sim N(b,1)ξi=Xai/σ∼N(b,1),其中 b=a/σb=a/\sigmab=a/σ,则 Q=∑iξi2Q=\sum_i\xi_i^{2}Q=∑iξi2。第一步,把两个分支的贡献相加并配成双曲余弦
fYi(y)=12πσ2ye−(a−y)22σ2+e−(a+y)22σ2=12πσ2ye−y+a22σ2cosh(ayσ2)(1-56)f_{Y_i}(y)=\frac{1}{\sqrt{2\pi\sigma^{2}y}}\left\\mathrm{e}\^{-\\frac{(a-\\sqrt{y})\^{2}}{2\\sigma\^{2}}}+\\mathrm{e}\^{-\\frac{(a+\\sqrt{y})\^{2}}{2\\sigma\^{2}}}\\right=\frac{1}{\sqrt{2\pi\sigma^{2}y}}\mathrm{e}^{-\frac{y+a^{2}}{2\sigma^{2}}}\cosh\left(\frac{a\sqrt{y}}{\sigma^{2}}\right) \tag{1-56}fYi(y)=2πσ2y 1e−2σ2(a−y )2+e−2σ2(a+y )2=2πσ2y 1e−2σ2y+a2cosh(σ2ay )(1-56)
第二步,Zi=ξi2Z_i=\xi_i^{2}Zi=ξi2 的特征函数,被积函数的指数部分配方后积掉高斯部分
ΦZi(μ)=12π∫−∞∞e−(ξ−b)22+jμξ2dξ=11−2jμe−b2/2eb22(1−2jμ)(1-57)\Phi_{Z_i}(\mu)=\frac{1}{\sqrt{2\pi}}\int_{-\infty}^{\infty}\mathrm{e}^{-\frac{(\xi-b)^{2}}{2}+\mathrm{j}\mu\xi^{2}}\mathrm{d}\xi=\frac{1}{\sqrt{1-2\mathrm{j}\mu}}\mathrm{e}^{-b^{2}/2}\mathrm{e}^{\frac{b^{2}}{2(1-2\mathrm{j}\mu)}} \tag{1-57}ΦZi(μ)=2π 1∫−∞∞e−2(ξ−b)2+jμξ2dξ=1−2jμ 1e−b2/2e2(1−2jμ)b2(1-57)
第三步,ZiZ_iZi 相互独立,代入 b2=a2/σ2b^{2}=a^{2}/\sigma^{2}b2=a2/σ2 与 λ=nb2\lambda=nb^{2}λ=nb2,把指数项展成幂级数
ΦQ(μ)=1(1−2jμ)n/2e−λ/2∑k=0∞(λ/2)kk!(1−2jμ)−k(1-58)\Phi_Q(\mu)=\frac{1}{(1-2\mathrm{j}\mu)^{n/2}}\mathrm{e}^{-\lambda/2}\sum_{k=0}^{\infty}\frac{(\lambda/2)^{k}}{k!}\left(1-2\mathrm{j}\mu\right)^{-k} \tag{1-58}ΦQ(μ)=(1−2jμ)n/21e−λ/2k=0∑∞k!(λ/2)k(1−2jμ)−k(1-58)
第四步,求和号内每一项都是形状参数 n/2+kn/2+kn/2+k、尺度参数 2 的伽马密度的特征函数,逐项反变换
fQ(q)=∑k=0∞e−λ/2(λ/2)kk!⋅qn/2+k−1e−q/22n/2+kΓ(n/2+k),q≥0(1-59)f_Q(q)=\sum_{k=0}^{\infty}\mathrm{e}^{-\lambda/2}\frac{(\lambda/2)^{k}}{k!}\cdot\frac{q^{n/2+k-1}\mathrm{e}^{-q/2}}{2^{n/2+k}\Gamma(n/2+k)},\quad q\ge 0 \tag{1-59}fQ(q)=k=0∑∞e−λ/2k!(λ/2)k⋅2n/2+kΓ(n/2+k)qn/2+k−1e−q/2,q≥0(1-59)
即非中心 χ² 分布是中心 χ² 分布按泊松权重的混合,权重为均值为 λ/2\lambda/2λ/2 的泊松分布;λ→0\lambda\to 0λ→0 时只有 k=0k=0k=0 项保留,退化为自由度为 n 的中心 χ² 分布。
第五步,用修正贝塞尔函数的级数 Iν(z)=∑k=0∞(z/2)2k+νk! Γ(k+ν+1)I_{\nu}(z)=\sum_{k=0}^{\infty}\frac{(z/2)^{2k+\nu}}{k!\,\Gamma(k+\nu+1)}Iν(z)=∑k=0∞k!Γ(k+ν+1)(z/2)2k+ν,取 ν=n/2−1\nu=n/2-1ν=n/2−1、z=λqz=\sqrt{\lambda q}z=λq 整理即得待证形式
fQ(q)=12(qλ)n−24e−(λ+q)/2In/2−1(λq),q≥0(1-60)f_Q(q)=\frac{1}{2}\left(\frac{q}{\lambda}\right)^{\frac{n-2}{4}}\mathrm{e}^{-(\lambda+q)/2}I_{n/2-1}\left(\sqrt{\lambda q}\right),\quad q\ge 0 \tag{1-60}fQ(q)=21(λq)4n−2e−(λ+q)/2In/2−1(λq ),q≥0(1-60)
由泊松混合形式可直接读出一阶矩与二阶矩:E(Q)=n+λE(Q)=n+\lambdaE(Q)=n+λ、D(Q)=2n+4λD(Q)=2n+4\lambdaD(Q)=2n+4λ。两类分布的形状对比见图 8,非中心参数 λ\lambdaλ 使密度整体右移并展宽。

图 8 习题 1.15 与 1.16 中中心与非中心 χ² 分布的密度曲线