方差的迭代计算公式


1️、方差基础公式

给定一组数据 x1,x2,...,xnx_1, x_2, \dots, x_nx1,x2,...,xn,其 均值方差 定义如下:

均值:

xˉn=1n∑i=1nxi \bar{x}n = \frac{1}{n} \sum{i=1}^{n} x_i xˉn=n1i=1∑nxi

方差:

无偏样本方差
sn2=1n−1∑i=1n(xi−xˉn)2 s_n^2 = \frac{1}{n-1} \sum_{i=1}^{n} (x_i - \bar{x}_n)^2 sn2=n−11i=1∑n(xi−xˉn)2

总体方差
σn2=1n∑i=1n(xi−xˉn)2 \sigma_n^2 = \frac{1}{n} \sum_{i=1}^{n} (x_i - \bar{x}_n)^2 σn2=n1i=1∑n(xi−xˉn)2

注意:样本方差比总体方差除以 n−1n-1n−1,以消除偏差。


2️、为什么需要迭代公式?

直接计算方差需要存储所有数据 ,尤其对于大规模数据或流式数据(streaming data),这是不现实的。

迭代公式允许 每来一个新数据 xn+1x_{n+1}xn+1 时更新均值和方差,无需重新扫描整个数据集。


3️、均值迭代公式

已有 nnn 个样本均值 xˉ∗n\bar{x}*nxˉ∗n,加入新样本 x∗n+1x*{n+1}x∗n+1 后,新的均值 xˉn+1\bar{x}_{n+1}xˉn+1:

xˉn+1=xˉn+xn+1−xˉnn+1 \bar{x}_{n+1} = \bar{x}n + \frac{x{n+1} - \bar{x}_n}{n+1} xˉn+1=xˉn+n+1xn+1−xˉn

简单理解:新均值是旧均值加上新数据偏差的 1/(n+1)1/(n+1)1/(n+1)。


4️、方差迭代公式推导(Welford 算法)

  1. 定义当前样本数量 nnn 的 累计平方差
    M2,n=∑i=1n(xi−xˉn)2 M_{2,n} = \sum_{i=1}^{n} (x_i - \bar{x}_n)^2 M2,n=i=1∑n(xi−xˉn)2

  2. 当加入新样本 xn+1x_{n+1}xn+1:

    • 更新均值:
      xˉn+1=xˉn+xn+1−xˉnn+1 \bar{x}_{n+1} = \bar{x}n + \frac{x{n+1} - \bar{x}_n}{n+1} xˉn+1=xˉn+n+1xn+1−xˉn
    • 差值:
      δ=xn+1−xˉn \delta = x_{n+1} - \bar{x}n δ=xn+1−xˉn
      δ2=xn+1−xˉn+1 \delta_2 = x
      {n+1} - \bar{x}_{n+1} δ2=xn+1−xˉn+1
  3. 更新累计平方差:
    M2,n+1=M2,n+δ⋅δ2 M_{2,n+1} = M_{2,n} + \delta \cdot \delta_2 M2,n+1=M2,n+δ⋅δ2

  4. 迭代计算方差:

  • 样本方差:
    sn+12=M2,n+1n s_{n+1}^2 = \frac{M_{2,n+1}}{n} sn+12=nM2,n+1
    或无偏样本方差:
    sn+12=M2,n+1n s_{n+1}^2 = \frac{M_{2,n+1}}{n} sn+12=nM2,n+1

核心思想:每次只用上一轮累计平方差 + 新样本与均值的偏差,保证数值稳定,不容易溢出。


5️、数值稳定性说明

Welford 方法相比直接公式:
sn2=1n∑xi2−xˉn2 s_n^2 = \frac{1}{n} \sum x_i^2 - \bar{x}_n^2 sn2=n1∑xi2−xˉn2

优势:

  • 不需要存储所有 xix_ixi;
  • 避免 平方和减去平方均值 导致的数值精度丢失;
  • 可以实时处理大规模或流式数据。

6️、C++ 实战示例

cpp 复制代码
#include <vector>
#include <iostream>

class OnlineVariance {
private:
    int n = 0;
    double mean = 0.0;
    double M2 = 0.0;  // 累计平方差
public:
    void addSample(double x) {
        n++;
        double delta = x - mean;
        mean += delta / n;
        double delta2 = x - mean;
        M2 += delta * delta2;
    }

    double getMean() const { return mean; }
    double getVariance() const { return n > 1 ? M2 / (n-1) : 0.0; } // 样本方差
    double getPopulationVariance() const { return n > 0 ? M2 / n : 0.0; } // 总体方差
};

int main() {
    std::vector<double> data = {2.0, 4.0, 4.0, 4.0, 5.0, 5.0, 7.0, 9.0};
    OnlineVariance ov;

    for (auto x : data) {
        ov.addSample(x);
        std::cout << "n=" << ov.n << ", mean=" << ov.getMean()
                  << ", variance=" << ov.getVariance() << std::endl;
    }

    return 0;
}

输出示例(部分):

复制代码
n=1, mean=2, variance=0
n=2, mean=3, variance=2
n=3, mean=3.33333, variance=2.33333
...

每增加一个数据点,均值和方差都会被实时更新。


7️、总结公式

  • 均值迭代
    xˉn+1=xˉn+xn+1−xˉnn+1 \bar{x}_{n+1} = \bar{x}n + \frac{x{n+1}-\bar{x}_n}{n+1} xˉn+1=xˉn+n+1xn+1−xˉn
  • 累计平方差迭代
    M2,n+1=M2,n+(xn+1−xˉn)(xn+1−xˉn+1) M_{2,n+1} = M_{2,n} + (x_{n+1}-\bar{x}n)(x{n+1}-\bar{x}_{n+1}) M2,n+1=M2,n+(xn+1−xˉn)(xn+1−xˉn+1)
  • 方差
    sn+12=M2,n+1n(总体方差) s_{n+1}^2 = \frac{M_{2,n+1}}{n} \quad \text{(总体方差)} sn+12=nM2,n+1(总体方差)
    sn+12=M2,n+1n−1(样本方差) s_{n+1}^2 = \frac{M_{2,n+1}}{n-1} \quad \text{(样本方差)} sn+12=n−1M2,n+1(样本方差)

这种迭代方式适合大数据、流式数据和实时计算,数值稳定且无需存储所有历史数据。


相关推荐
Narrastory7 小时前
明日香 - Pytorch 快速入门保姆级教程(一)
人工智能·pytorch·深度学习
Narrastory7 小时前
明日香 - Pytorch 快速入门保姆级教程(二)
人工智能·pytorch·深度学习
字节跳动数据平台10 小时前
代码量减少 70%、GPU 利用率达 95%:火山引擎多模态数据湖如何释放模思智能的算法生产力
大数据
得物技术12 小时前
深入剖析Spark UI界面:参数与界面详解|得物技术
大数据·后端·spark
武子康13 小时前
大数据-238 离线数仓 - 广告业务 Hive分析实战:ADS 点击率、购买率与 Top100 排名避坑
大数据·后端·apache hive
武子康1 天前
大数据-237 离线数仓 - Hive 广告业务实战:ODS→DWD 事件解析、广告明细与转化分析落地
大数据·后端·apache hive
程序员打怪兽1 天前
详解Visual Transformer (ViT)网络模型
深度学习
Duang1 天前
从零推导指数估值模型 —— 一个三因子打分系统的设计思路
数据分析·领域驱动设计
大大大大晴天2 天前
Flink生产问题排障-Kryo serializer scala extensions are not available
大数据·flink
CoovallyAIHub3 天前
仿生学突破:SILD模型如何让无人机在电力线迷宫中发现“隐形威胁”
深度学习·算法·计算机视觉