关于样本方差的分母是 ( n-1 ) 而不是 ( n )的原因

样本方差的分母是 ( n-1 ) 而不是 ( n ) 的原因与统计学中的"自由度"概念有关。使用 ( n-1 ) 作为分母可以使样本方差成为总体方差的无偏估计量。

自由度

在计算样本方差时,我们需要先计算样本均值 ( \bar{x} )。样本中的 ( n ) 个数据点中,实际上只有 ( n-1 ) 个数据点是自由变化的,因为最后一个数据点可以通过样本均值和前面的 ( n-1 ) 个数据点确定。因此,我们说在计算样本方差时,有 ( n-1 ) 个自由度。

无偏估计

如果我们使用 ( n ) 作为分母来计算样本方差:

s n 2 = 1 n ∑ i = 1 n ( x i − x ˉ ) 2 s_n^2 = \frac{1}{n} \sum_{i=1}^n (x_i - \bar{x})^2 sn2=n1i=1∑n(xi−xˉ)2

这个估计量会系统性地低估总体方差 ( \sigma^2 )。这是因为在计算样本方差时,样本均值 ( \bar{x} ) 是根据样本数据计算出来的,这使得每个样本数据点 ( x_i ) 与 ( \bar{x} ) 的差异小于它们与总体均值 ( \mu ) 的差异。

为了纠正这种偏差,我们使用 ( n-1 ) 作为分母来计算样本方差:

s 2 = 1 n − 1 ∑ i = 1 n ( x i − x ˉ ) 2 s^2 = \frac{1}{n-1} \sum_{i=1}^n (x_i - \bar{x})^2 s2=n−11i=1∑n(xi−xˉ)2

这种调整使得样本方差成为总体方差的无偏估计量。这意味着在大量重复抽样的情况下,样本方差的期望值等于总体方差。

数学证明

为了证明这种调整的合理性,我们可以用期望值的概念进行解释。令样本方差的计算公式为:

s 2 = 1 n − 1 ∑ i = 1 n ( x i − x ˉ ) 2 s^2 = \frac{1}{n-1} \sum_{i=1}^n (x_i - \bar{x})^2 s2=n−11i=1∑n(xi−xˉ)2

然后考虑它的期望值:

E [ s 2 ] = E [ 1 n − 1 ∑ i = 1 n ( x i − x ˉ ) 2 ] E[s^2] = E\left[\frac{1}{n-1} \sum_{i=1}^n (x_i - \bar{x})^2\right] E[s2]=E[n−11i=1∑n(xi−xˉ)2]

经过数学推导,可以证明:

E [ s 2 ] = σ 2 E[s^2] = \sigma^2 E[s2]=σ2

这表明使用 ( n-1 ) 作为分母能使样本方差的期望值等于总体方差,从而使样本方差成为总体方差的无偏估计量。

相关推荐
明月照山海-3 天前
机器学习周报十三
人工智能·机器学习·概率论
北京地铁1号线4 天前
概率统计面试题1:随机抛掷的点到圆心距离的期望
概率论
ratbag6720134 天前
概率论与数理统计专业重点学哪些知识?
概率论
Yingjun Mo5 天前
1. 统计推断-基于神经网络与Langevin扩散的自适应潜变量建模与优化
人工智能·神经网络·算法·机器学习·概率论
图先5 天前
概率论第五讲—大数定律与中心极限定理
概率论
图先8 天前
概率论第六讲—数理统计
概率论
西猫雷婶9 天前
scikit-learn/sklearn学习|广义线性回归损失函数的基本表达式
深度学习·神经网络·学习·机器学习·线性回归·scikit-learn·概率论
xz2024102****11 天前
最大似然估计:损失函数的底层数学原理
人工智能·算法·机器学习·概率论
kingmax5421200811 天前
概率与数理统计公式及结论汇总
人工智能·机器学习·概率论
西猫雷婶12 天前
神经网络|(十九)概率论基础知识-伽马函数·下
人工智能·深度学习·神经网络·机器学习·回归·scikit-learn·概率论