局部加权回归

2. 局部加权回归 (Loess / Lowess)

局部加权回归是一种非参数回归方法,可以自适应地拟合数据的弧度。它对每个点应用加权回归,以根据数据的局部趋势产生一条平滑曲线。这种方法特别适合捕捉数据中较小的曲率变化。

  • 优点:能够很好地拟合微小的非线性变化,不需要指定多项式的次数。
  • 缺点:计算量较大,不适合处理特别大的数据集,且局部加权回归的结果缺乏全局方程,因此解释性可能稍弱。

局部加权回归(Lowess 或 Loess)是一种非参数方法,它能够捕捉数据中的局部非线性趋势,适合于观察数据的平滑变化。我们可以使用 statsmodels 库中的 lowess 函数来实现。以下代码示例展示了如何使用 Lowess 对数据进行回归,并绘制回归曲线及其置信区间。

代码示例

python 复制代码
import numpy as np
import matplotlib.pyplot as plt
from statsmodels.nonparametric.smoothers_lowess import lowess
from sklearn.utils import resample

# 生成一些带有轻微非线性趋势的样本数据
np.random.seed(42)
x = np.linspace(0, 10, 100)
y = np.sin(x) + 0.3 * x + np.random.normal(0, 0.2, size=x.shape)

# 使用 Lowess 进行局部加权回归
frac = 0.3  # 平滑参数,决定窗口大小,数值越小平滑度越低
lowess_result = lowess(y, x, frac=frac)

# 获取拟合的 y 值
y_pred = lowess_result[:, 1]

# 使用 Bootstrap 方法计算置信区间
n_bootstraps = 200
y_pred_bootstrap = []

for _ in range(n_bootstraps):
    # 随机采样并计算 Lowess 拟合
    x_boot, y_boot = resample(x, y)
    lowess_boot = lowess(y_boot, x_boot, frac=frac)
    
    # 将拟合值插值到原始 x 上
    y_pred_interpolated = np.interp(x, lowess_boot[:, 0], lowess_boot[:, 1])
    y_pred_bootstrap.append(y_pred_interpolated)

# 将预测结果转换为数组
y_pred_bootstrap = np.array(y_pred_bootstrap)

# 计算置信区间
lower_bound = np.percentile(y_pred_bootstrap, 2.5, axis=0)
upper_bound = np.percentile(y_pred_bootstrap, 97.5, axis=0)

# 绘制散点图、回归曲线和置信区间
plt.figure(figsize=(10, 6))
plt.scatter(x, y, color='gray', label='Data Points')
plt.plot(x, y_pred, color='blue', label='Lowess Regression')
plt.fill_between(x, lower_bound, upper_bound, color='lightblue', alpha=0.5, label='95% Confidence Interval')
plt.xlabel('x')
plt.ylabel('y')
plt.title('Lowess Regression with 95% Confidence Interval')
plt.legend()
plt.show()

代码说明

  1. 数据生成 :生成带有非线性趋势的样本数据 y = sin ⁡ ( x ) + 0.3 × x + noise y = \sin(x) + 0.3 \times x + \text{noise} y=sin(x)+0.3×x+noise。
  2. Lowess 拟合 :使用 statsmodels.nonparametric.smoothers_lowess.lowess 函数,设置 frac 参数来控制平滑度。较小的 frac 值会产生更局部化的拟合,适合较快变化的非线性数据。
  3. Bootstrap 置信区间 :通过引导法 (Bootstrap) 生成 200 组不同的样本集,对每组样本进行 Lowess 回归拟合。然后使用 np.interp 将每组拟合值插值到原始 x 位置,以便计算置信区间。
  4. 置信区间计算:对所有拟合样本的结果,取 2.5 和 97.5 百分位数,得到 95% 的置信区间。
  5. 绘图:绘制数据点、Lowess 回归曲线和置信区间。

输出图形


执行代码后将生成如下内容:

  • 灰色散点图:展示原始数据点分布。
  • 蓝色的 Lowess 回归曲线:平滑的局部加权回归结果。
  • 淡蓝色置信区间:基于 Bootstrap 生成的 95% 置信区间。
相关推荐
敖老师2 分钟前
DeepSeek Harness Web 版从装到用:dsh web 启动、接入本地 Ollama 全流程
人工智能
阿里云大数据AI技术3 分钟前
DataWorks AI 数据生成:一条配置,量产多行业的仿真级业务数据
人工智能
QA老兵的AI实战手记9 分钟前
别再用人工盯 AI 幻觉了:我手搓了一套带“代码审查拦截”的 AI 效能大屏(附源码)
人工智能
火山引擎开发者社区13 分钟前
APMPlus・看得见的 Agent(三) | Agent 说完成,结果却不对?APMPlus Agent 轨迹帮你查清执行过程
人工智能
羲云网络16 分钟前
Claude Fable 5.2 创意编程分析:程序化生成、多智能体协作与工程验收
人工智能·大语言模型·blender·游戏开发
Linye19 分钟前
HTML 流程图连线交叉看不清?聊聊画布避障折线与跳弧实现
前端·人工智能
weixin_469163691 小时前
金融租赁项目管理:维普时代以混合模型+AI实现管控与效率兼得
人工智能·金融
框架那些事儿1 小时前
深入 Pi 源码:一个优秀的 Agent,是如何管理上下文的?
人工智能·ai编程·全栈
Java内核笔记1 小时前
方法级 trace 看不出第几轮:给 Agent 补一层轮次维度
人工智能·spring boot·后端
AAA修煤气灶刘哥1 小时前
DSH Super-agent 双层架构:如何兼顾后台执行与持续响应
人工智能·后端·设计模式