证明 几何分布 的期望和方差

几何分布

几何分布(Geometric Distribution)描述了在进行一系列独立的伯努利试验时,第一次成功所需的试验次数。假设每次试验成功的概率为 ( p ),则几何分布的概率质量函数(PMF)为:

P ( X = k ) = ( 1 − p ) k − 1 p , k = 1 , 2 , 3 , ... P(X = k) = (1 - p)^{k-1} p, \quad k = 1, 2, 3, \ldots P(X=k)=(1−p)k−1p,k=1,2,3,...

其中,随机变量 ( X ) 表示第一次成功所需的试验次数。

期望值

期望值(Expectation)表示随机变量的平均值。对于几何分布 ( X ),期望值 ( \mathbb{E}(X) ) 定义为:

E ( X ) = ∑ k = 1 ∞ k ⋅ P ( X = k ) \mathbb{E}(X) = \sum_{k=1}^{\infty} k \cdot P(X = k) E(X)=k=1∑∞k⋅P(X=k)

代入几何分布的概率质量函数:

E ( X ) = ∑ k = 1 ∞ k ⋅ ( 1 − p ) k − 1 p \mathbb{E}(X) = \sum_{k=1}^{\infty} k \cdot (1 - p)^{k-1} p E(X)=k=1∑∞k⋅(1−p)k−1p

我们可以将 ( p ) 提取出来:

E ( X ) = p ∑ k = 1 ∞ k ⋅ ( 1 − p ) k − 1 \mathbb{E}(X) = p \sum_{k=1}^{\infty} k \cdot (1 - p)^{k-1} E(X)=pk=1∑∞k⋅(1−p)k−1

为了计算这个和,我们使用以下求和公式:

∑ k = 1 ∞ k x k − 1 = 1 ( 1 − x ) 2 for ∣ x ∣ < 1 \sum_{k=1}^{\infty} k x^{k-1} = \frac{1}{(1 - x)^2} \quad \text{for} \quad |x| < 1 k=1∑∞kxk−1=(1−x)21for∣x∣<1

在这里,令 ( x = 1 - p ),因此有:

∑ k = 1 ∞ k ⋅ ( 1 − p ) k − 1 = 1 p 2 \sum_{k=1}^{\infty} k \cdot (1 - p)^{k-1} = \frac{1}{p^2} k=1∑∞k⋅(1−p)k−1=p21

代入上面的结果:

E ( X ) = p ⋅ 1 p 2 = 1 p \mathbb{E}(X) = p \cdot \frac{1}{p^2} = \frac{1}{p} E(X)=p⋅p21=p1

方差

方差(Variance)表示随机变量与其期望值之间的离散程度,记作 ( \text{Var}(X) )。方差的定义为:

Var ( X ) = E [ ( X − E ( X ) ) 2 ] = E ( X 2 ) − ( E ( X ) ) 2 \text{Var}(X) = \mathbb{E}[(X - \mathbb{E}(X))^2] = \mathbb{E}(X^2) - (\mathbb{E}(X))^2 Var(X)=E[(X−E(X))2]=E(X2)−(E(X))2

首先,我们计算 ( \mathbb{E}(X^2) )。利用几何级数求和,我们有:

E ( X 2 ) = ∑ k = 1 ∞ k 2 ⋅ ( 1 − p ) k − 1 p \mathbb{E}(X^2) = \sum_{k=1}^{\infty} k^2 \cdot (1 - p)^{k-1} p E(X2)=k=1∑∞k2⋅(1−p)k−1p

我们使用以下求和公式:

∑ k = 1 ∞ k 2 x k − 1 = 1 + x ( 1 − x ) 3 for ∣ x ∣ < 1 \sum_{k=1}^{\infty} k^2 x^{k-1} = \frac{1 + x}{(1 - x)^3} \quad \text{for} \quad |x| < 1 k=1∑∞k2xk−1=(1−x)31+xfor∣x∣<1

令 ( x = 1 - p ),因此有:

∑ k = 1 ∞ k 2 ⋅ ( 1 − p ) k − 1 = 1 + ( 1 − p ) ( 1 − ( 1 − p ) ) 3 = 2 − p p 3 \sum_{k=1}^{\infty} k^2 \cdot (1 - p)^{k-1} = \frac{1 + (1 - p)}{(1 - (1 - p))^3} = \frac{2 - p}{p^3} k=1∑∞k2⋅(1−p)k−1=(1−(1−p))31+(1−p)=p32−p

因此,

E ( X 2 ) = p ⋅ 2 − p p 3 = 2 − p p 2 \mathbb{E}(X^2) = p \cdot \frac{2 - p}{p^3} = \frac{2 - p}{p^2} E(X2)=p⋅p32−p=p22−p

现在我们可以计算方差:

Var ( X ) = E ( X 2 ) − ( E ( X ) ) 2 = 2 − p p 2 − ( 1 p ) 2 = 2 − p p 2 − 1 p 2 = 2 − p − 1 p 2 = 1 − p p 2 \text{Var}(X) = \mathbb{E}(X^2) - (\mathbb{E}(X))^2 = \frac{2 - p}{p^2} - \left(\frac{1}{p}\right)^2 = \frac{2 - p}{p^2} - \frac{1}{p^2} = \frac{2 - p - 1}{p^2} = \frac{1 - p}{p^2} Var(X)=E(X2)−(E(X))2=p22−p−(p1)2=p22−p−p21=p22−p−1=p21−p

结论

对于几何分布 ( X ),其期望值和方差分别为:

E ( X ) = 1 p \mathbb{E}(X) = \frac{1}{p} E(X)=p1

Var ( X ) = 1 − p p 2 \text{Var}(X) = \frac{1 - p}{p^2} Var(X)=p21−p

这些结果表明,在进行一系列独立的伯努利试验中,第一次成功所需的试验次数的平均值是E(x),而离散程度由Var(x)决定。

相关推荐
无水先生5 天前
ML 系列赛: 第 22 节 — 离散概率分布 (Multinoulli Distribution)
概率论
qzhqbb5 天前
贝叶斯定理
概率论
无水先生5 天前
ML 系列:第 21 节 — 离散概率分布(二项分布)
概率论
pzx_0015 天前
【独立同分布】
人工智能·机器学习·概率论
TiAmo·penny6 天前
测度论原创(三)
概率论
phoenix@Capricornus6 天前
中心极限定理的三种形式
机器学习·概率论
庆庆知识库6 天前
信号与噪声分析——第二节:随机变量的统计特征
概率论
Researcher-Du7 天前
随机采样之接受拒绝采样
概率论
无水先生8 天前
ML 系列:机器学习和深度学习的深层次总结( 19)— PMF、PDF、平均值、方差、标准差
概率论
无水先生8 天前
ML 系列:机器学习和深度学习的深层次总结( 20)— 离散概率分布 (Bernoulli 分布)
概率论