Heteroskedasticity

Heteroskedasticity come from

The passage is describing heteroskedasticity , a situation where the variance of the error term ( ϵ\epsilonϵ ) is not constant but depends on the explanatory variable (x).

In ordinary regression we usually assume homoskedasticity: (Var(ϵ)=σ2\text{Var}(\epsilon) = \sigma^2Var(ϵ)=σ2), the same for all values of (x)(x)(x). But here, the idea is that when (x) is large in magnitude, the spread (variance) of the errors is also larger. In probabilistic terms, if (Var(ϵ)\text{Var}(\epsilon)Var(ϵ)) grows with (x), then the probability that (ϵ\epsilonϵ) takes on large positive or negative values increases as (x) increases.


Consequences of heteroskedasticity

the equation (221) is ∑i=1n(xi−xˉ)2\sum_{i=1}^n(x_{i}-\bar{x})^2∑i=1n(xi−xˉ)2 in the denominator

the equation (222) is ∑i=1n(xi−xˉ)22\\sum_{i=1}\^n(x_{i}-\\bar{x})\^2^2∑i=1n(xi−xˉ)22 in the denominator

Detecting heteroskedasticity

Formal statistical tests

注意这里是对yiy_iyi的方差,也是error平方的期望.

下面这里是真实的error平方.

The White Test


1. White 检验的特点

  • 不需要假设异方差的具体形式

    和 Breusch--Pagan 不同,BP 假设方差和解释变量的线性关系;White 则允许更一般的关系(比如平方项、交互项),所以更灵活。

  • 不要求误差服从正态分布

    White 检验基于大样本渐近理论,不依赖于正态性假设。

2. 局限性

  • 拒绝零假设 ≠ 一定有异方差

    White 检验本质上是在检验"模型是否被正确设定"。所以如果模型有遗漏变量、函数形式错了,它也可能拒绝零假设。

    换句话说,它可能把"模型设定错误"当成"异方差"。

  • 过于一般

    • 优点:几乎任何形式的异方差都能检测出来。

    • 缺点:敏感度太高,有时会报"假阳性",让人以为是异方差,实际上是模型设定的问题。

相关推荐
机器学习之心19 小时前
CPO-SVR:用冠豪猪优化算法给支持向量回归机“自动调参“,一次预测多个指标
算法·回归·cpo-svr
承渊政道1 天前
【从零开始大模型开发与微调:基于PyTorch与ChatGLM】(从注意力到自回归生成:彻底理解Transformer解码器)
pytorch·回归·transformer·chatglm·注意力机制·解码器
比奇堡裤头村2 天前
统计学习方法——逻辑斯谛回归与最大熵模型
数据挖掘·回归·学习方法
147API3 天前
蒸馏模型数据漂移怎么监控,从输入变化到回归验证
人工智能·数据挖掘·回归
10mAh4 天前
【Git】误删分支、reset --hard 后提交丢了怎么办?——reflog、fsck 与安全恢复实战
数据库·git·安全·回归
小宋10214 天前
大模型应用如何建立评测集:从“感觉变好”到可回归的质量工程
人工智能·数据挖掘·回归
Smilecoc6 天前
决策树(五):决策树回归
算法·决策树·回归
过期的秋刀鱼!8 天前
回归树-决策树推广到回归树
人工智能·算法·决策树·机器学习·数据挖掘·回归
小小测试开发9 天前
Trace 驱动回归:把线上 Agent 故障变成 CI 门禁的四步管道
人工智能·ci/cd·数据挖掘·回归
淡忘suuda13 天前
生产级 AI Agent 评测体系实战:从数据集构建到自动回归与质量门禁
人工智能·数据挖掘·回归