关于样本方差的分母是 ( n-1 ) 而不是 ( n )的原因

样本方差的分母是 ( n-1 ) 而不是 ( n ) 的原因与统计学中的"自由度"概念有关。使用 ( n-1 ) 作为分母可以使样本方差成为总体方差的无偏估计量。

自由度

在计算样本方差时,我们需要先计算样本均值 ( \bar{x} )。样本中的 ( n ) 个数据点中,实际上只有 ( n-1 ) 个数据点是自由变化的,因为最后一个数据点可以通过样本均值和前面的 ( n-1 ) 个数据点确定。因此,我们说在计算样本方差时,有 ( n-1 ) 个自由度。

无偏估计

如果我们使用 ( n ) 作为分母来计算样本方差:

s n 2 = 1 n ∑ i = 1 n ( x i − x ˉ ) 2 s_n^2 = \frac{1}{n} \sum_{i=1}^n (x_i - \bar{x})^2 sn2=n1i=1∑n(xi−xˉ)2

这个估计量会系统性地低估总体方差 ( \sigma^2 )。这是因为在计算样本方差时,样本均值 ( \bar{x} ) 是根据样本数据计算出来的,这使得每个样本数据点 ( x_i ) 与 ( \bar{x} ) 的差异小于它们与总体均值 ( \mu ) 的差异。

为了纠正这种偏差,我们使用 ( n-1 ) 作为分母来计算样本方差:

s 2 = 1 n − 1 ∑ i = 1 n ( x i − x ˉ ) 2 s^2 = \frac{1}{n-1} \sum_{i=1}^n (x_i - \bar{x})^2 s2=n−11i=1∑n(xi−xˉ)2

这种调整使得样本方差成为总体方差的无偏估计量。这意味着在大量重复抽样的情况下,样本方差的期望值等于总体方差。

数学证明

为了证明这种调整的合理性,我们可以用期望值的概念进行解释。令样本方差的计算公式为:

s 2 = 1 n − 1 ∑ i = 1 n ( x i − x ˉ ) 2 s^2 = \frac{1}{n-1} \sum_{i=1}^n (x_i - \bar{x})^2 s2=n−11i=1∑n(xi−xˉ)2

然后考虑它的期望值:

E [ s 2 ] = E [ 1 n − 1 ∑ i = 1 n ( x i − x ˉ ) 2 ] E[s^2] = E\left[\frac{1}{n-1} \sum_{i=1}^n (x_i - \bar{x})^2\right] E[s2]=E[n−11i=1∑n(xi−xˉ)2]

经过数学推导,可以证明:

E [ s 2 ] = σ 2 E[s^2] = \sigma^2 E[s2]=σ2

这表明使用 ( n-1 ) 作为分母能使样本方差的期望值等于总体方差,从而使样本方差成为总体方差的无偏估计量。

相关推荐
EniacCheng1 天前
贝叶斯定理
人工智能·机器学习·概率论
EniacCheng1 天前
二项分布和泊松分布
概率论·泊松分布·二项分布
byzh_rc2 天前
[模式识别-从入门到入土] 组合分类器
人工智能·算法·机器学习·支持向量机·概率论
牧歌悠悠3 天前
【Random Matrices】第一章-随机矩阵入门
线性代数·数学·概率论·随机矩阵·高维概率
缘友一世5 天前
现代密码学【3】之密码学形式化分析与可证明安全基础
安全·密码学·概率论
byzh_rc5 天前
[模式识别-从入门到入土] 拓展-EM算法
算法·机器学习·概率论
无水先生6 天前
随机变量在代数运算中的误差传播(2/2)
概率论·统计学
图像生成小菜鸟7 天前
Score Based diffusion model 数学推导
算法·机器学习·概率论
*星星之火*7 天前
【大白话 AI 答疑】 第7篇熵、交叉熵与交叉熵损失的概念梳理及计算示例
人工智能·机器学习·概率论
咚咚王者9 天前
人工智能之数学基础 概率论与统计:第一章 基础概念
人工智能·概率论