方差的迭代计算公式


1️、方差基础公式

给定一组数据 x1,x2,...,xnx_1, x_2, \dots, x_nx1,x2,...,xn,其 均值方差 定义如下:

均值:

xˉn=1n∑i=1nxi \bar{x}n = \frac{1}{n} \sum{i=1}^{n} x_i xˉn=n1i=1∑nxi

方差:

无偏样本方差
sn2=1n−1∑i=1n(xi−xˉn)2 s_n^2 = \frac{1}{n-1} \sum_{i=1}^{n} (x_i - \bar{x}_n)^2 sn2=n−11i=1∑n(xi−xˉn)2

总体方差
σn2=1n∑i=1n(xi−xˉn)2 \sigma_n^2 = \frac{1}{n} \sum_{i=1}^{n} (x_i - \bar{x}_n)^2 σn2=n1i=1∑n(xi−xˉn)2

注意:样本方差比总体方差除以 n−1n-1n−1,以消除偏差。


2️、为什么需要迭代公式?

直接计算方差需要存储所有数据 ,尤其对于大规模数据或流式数据(streaming data),这是不现实的。

迭代公式允许 每来一个新数据 xn+1x_{n+1}xn+1 时更新均值和方差,无需重新扫描整个数据集。


3️、均值迭代公式

已有 nnn 个样本均值 xˉ∗n\bar{x}*nxˉ∗n,加入新样本 x∗n+1x*{n+1}x∗n+1 后,新的均值 xˉn+1\bar{x}_{n+1}xˉn+1:

xˉn+1=xˉn+xn+1−xˉnn+1 \bar{x}_{n+1} = \bar{x}n + \frac{x{n+1} - \bar{x}_n}{n+1} xˉn+1=xˉn+n+1xn+1−xˉn

简单理解:新均值是旧均值加上新数据偏差的 1/(n+1)1/(n+1)1/(n+1)。


4️、方差迭代公式推导(Welford 算法)

  1. 定义当前样本数量 nnn 的 累计平方差
    M2,n=∑i=1n(xi−xˉn)2 M_{2,n} = \sum_{i=1}^{n} (x_i - \bar{x}_n)^2 M2,n=i=1∑n(xi−xˉn)2

  2. 当加入新样本 xn+1x_{n+1}xn+1:

    • 更新均值:
      xˉn+1=xˉn+xn+1−xˉnn+1 \bar{x}_{n+1} = \bar{x}n + \frac{x{n+1} - \bar{x}_n}{n+1} xˉn+1=xˉn+n+1xn+1−xˉn
    • 差值:
      δ=xn+1−xˉn \delta = x_{n+1} - \bar{x}n δ=xn+1−xˉn
      δ2=xn+1−xˉn+1 \delta_2 = x
      {n+1} - \bar{x}_{n+1} δ2=xn+1−xˉn+1
  3. 更新累计平方差:
    M2,n+1=M2,n+δ⋅δ2 M_{2,n+1} = M_{2,n} + \delta \cdot \delta_2 M2,n+1=M2,n+δ⋅δ2

  4. 迭代计算方差:

  • 样本方差:
    sn+12=M2,n+1n s_{n+1}^2 = \frac{M_{2,n+1}}{n} sn+12=nM2,n+1
    或无偏样本方差:
    sn+12=M2,n+1n s_{n+1}^2 = \frac{M_{2,n+1}}{n} sn+12=nM2,n+1

核心思想:每次只用上一轮累计平方差 + 新样本与均值的偏差,保证数值稳定,不容易溢出。


5️、数值稳定性说明

Welford 方法相比直接公式:
sn2=1n∑xi2−xˉn2 s_n^2 = \frac{1}{n} \sum x_i^2 - \bar{x}_n^2 sn2=n1∑xi2−xˉn2

优势:

  • 不需要存储所有 xix_ixi;
  • 避免 平方和减去平方均值 导致的数值精度丢失;
  • 可以实时处理大规模或流式数据。

6️、C++ 实战示例

cpp 复制代码
#include <vector>
#include <iostream>

class OnlineVariance {
private:
    int n = 0;
    double mean = 0.0;
    double M2 = 0.0;  // 累计平方差
public:
    void addSample(double x) {
        n++;
        double delta = x - mean;
        mean += delta / n;
        double delta2 = x - mean;
        M2 += delta * delta2;
    }

    double getMean() const { return mean; }
    double getVariance() const { return n > 1 ? M2 / (n-1) : 0.0; } // 样本方差
    double getPopulationVariance() const { return n > 0 ? M2 / n : 0.0; } // 总体方差
};

int main() {
    std::vector<double> data = {2.0, 4.0, 4.0, 4.0, 5.0, 5.0, 7.0, 9.0};
    OnlineVariance ov;

    for (auto x : data) {
        ov.addSample(x);
        std::cout << "n=" << ov.n << ", mean=" << ov.getMean()
                  << ", variance=" << ov.getVariance() << std::endl;
    }

    return 0;
}

输出示例(部分):

复制代码
n=1, mean=2, variance=0
n=2, mean=3, variance=2
n=3, mean=3.33333, variance=2.33333
...

每增加一个数据点,均值和方差都会被实时更新。


7️、总结公式

  • 均值迭代
    xˉn+1=xˉn+xn+1−xˉnn+1 \bar{x}_{n+1} = \bar{x}n + \frac{x{n+1}-\bar{x}_n}{n+1} xˉn+1=xˉn+n+1xn+1−xˉn
  • 累计平方差迭代
    M2,n+1=M2,n+(xn+1−xˉn)(xn+1−xˉn+1) M_{2,n+1} = M_{2,n} + (x_{n+1}-\bar{x}n)(x{n+1}-\bar{x}_{n+1}) M2,n+1=M2,n+(xn+1−xˉn)(xn+1−xˉn+1)
  • 方差
    sn+12=M2,n+1n(总体方差) s_{n+1}^2 = \frac{M_{2,n+1}}{n} \quad \text{(总体方差)} sn+12=nM2,n+1(总体方差)
    sn+12=M2,n+1n−1(样本方差) s_{n+1}^2 = \frac{M_{2,n+1}}{n-1} \quad \text{(样本方差)} sn+12=n−1M2,n+1(样本方差)

这种迭代方式适合大数据、流式数据和实时计算,数值稳定且无需存储所有历史数据。


相关推荐
LSL666_3 小时前
1 elasticSearch 和 IK分词器的本地下载
大数据·elasticsearch·jenkins
lpfasd1234 小时前
git-进阶技巧与最佳实践
大数据·git·elasticsearch
微盛AI企微管家4 小时前
企业微信AI聊天agent:优化企业微信客户运营的推荐工具
大数据·人工智能·微信·企业微信
auutuumn4 小时前
PyTorch深度学习实战01:全流程体验深度学习
人工智能·pytorch·深度学习
hmb↑4 小时前
Apache Flink CDC——变更数据捕获
大数据·flink·apache
贝多财经4 小时前
双11释放新增量,淘宝闪购激活近场潜力
大数据
B站_计算机毕业设计之家5 小时前
深度学习:Yolo水果检测识别系统 深度学习算法 pyqt界面 训练集测试集 深度学习 数据库 大数据 (建议收藏)✅
数据库·人工智能·python·深度学习·算法·yolo·pyqt
闲人编程5 小时前
用Python分析你的Spotify/网易云音乐听歌数据
开发语言·python·ai·数据分析·spotify·网易云·codecapsule
凌不了云6 小时前
doris通过外部表同步数据
大数据