数学建模——Box-Cox变换

用途:当某个随机变量 X X X 不服从正态分布的时候,可以尝试通过这种变换将其变成正态分布。

两个常用的变换

  • 对数变换:已知随机变量 X X X,如果有 ln ⁡ X ∼ N ( μ , σ 2 ) \ln X\sim N(\mu,\sigma^2) lnX∼N(μ,σ2),那么对 X X X 使用对数变换。适合随着自变量的增加,因变量的方差也增大的模型。
  • 平方根变换:已知随机变量 X X X,如果有 X ∼ N ( μ , σ 2 ) \sqrt X\sim N(\mu,\sigma^2) X ∼N(μ,σ2),那么对 X X X 使用平方根变换。适合服从Poission分布的计数资料,或轻度偏态资料。

Box-Cox 变换简介

  Box-Cox变换的基本思想是通过对数据进行一定的变换,使得变换后的数据更加符合正态分布的特征。这种变换是一种幂函数变换,其公式如下:
y ~ = { y λ − 1 λ , λ ≠ 0 ln ⁡ y , λ = 0 \tilde{y}=\left \{{\begin{matrix}\cfrac{{{y}^{\lambda }}-1}{\lambda },&\lambda \ne 0\\\ln{y},&\lambda =0\end{matrix}}\right . y~=⎩ ⎨ ⎧λyλ−1,lny,λ=0λ=0

  将原数据 y y y 变为大致服从正态分布的 y ~ \tilde y y~。Box-Cox 变换可以很好地根据一组随机变量 X X X 的观测值,构造出一个服从正态分布的变量 X ~ \tilde X X~,从而能够根据这个正态分布进行一些数据分析。传统的 Fitter 库给出的最佳拟合可能是一些从来没有见过的分布函数。

  注意上式只适合非负数 ,如果存在负数,需要将 y y y 加上一个偏移量后再进行 Box-Cox 变换。

  对数变换是 λ = 0 \lambda =0 λ=0 的 Box-Cox 变换,平方根变换是 λ = 1 / 2 \lambda=1/2 λ=1/2 的 Box-Cox 变换。

代码实例

python 复制代码
from scipy.stats import boxcox
# 下面这个库也含有 boxcox 变换方法,但是这个库的 boxcox 需要自行提供 λ。而 scipy.stats.boxcox 可以通过极大似然等方法自行计算 λ。
# from scipy.special import boxcox

from scipy.special import inv_boxcox
import numpy as np

np.random.seed(114514)
# F 分布有点偏态正态分布的意思,生成一组 F 分布数据
x = np.random.f(dfnum=3, dfden=10, size=10000)

# box-cox 正变换
y, lambda_ = boxcox(x, lmbda=None, alpha=None)
print(lambda_)
# 0.1678598919247737

import seaborn as sns
import matplotlib.pyplot as plt

plt.rcParams['font.family'] = 'Euclid'
plt.subplot(121)
sns.distplot(x)
plt.title('Origin')
plt.subplot(122)
sns.distplot(y)
plt.title('Transformed')
plt.show()

# 这是反变换,经验证和之前的 x 是一样的
x = inv_boxcox(y, lambda_)

  做出来图片如下。

参考文献

  下面的资料对 Box-Cox 变换有深入的介绍:

相关推荐
三声三视1 分钟前
交互式用够了?用 Agent SDK 把 Claude 塞进 Python Web 服务
人工智能·python·ai·aigc·ai编程
zhanghaha131428 分钟前
Python语言基础:4_数据类型转换
java·前端·python
larance1 小时前
机器学习特征预处理之标准化/归一化
开发语言·python·机器学习
tokenova1 小时前
Python 多模型统一调用封装类,一套代码兼容 GPT/Claude/Grok
python
Patrick在香港1 小时前
Python实战:用数据分析拆解一场AI大会——WAIC 2026参展企业画像、议题演变与城市格局
人工智能·python·数据挖掘·数据分析·ai编程
小猴子爱上树2 小时前
TikTok Shop视频自动翻译工具实战教程
人工智能·python·音视频·机器翻译
humbinal3 小时前
同时支持 gui & cli 的 parquet 文件查看工具,高性能小清新!
hive·python·rust·spark·开源·github·parquet
90后的晨仔3 小时前
Python 开发完全指南:从入门到工程化落地
python
Mikowoo0073 小时前
批量汇总XML格式的发票信息
xml·python
胡耀超3 小时前
从一次批量爬取到生产同步:问题变了,建设边界也要跟着变
爬虫·python·系统架构·数据治理·数据同步·接口设计·爬虫工程