在数学建模中,预测类问题是最常见的题型之一,涉及经济、环境、交通、生物等多个领域。下面按模型类型进行系统汇总
一、经典统计预测模型
这类模型理论成熟,可解释性强,适合数据量不大、趋势明显、有统计规律的场景。
| 算法 | 核心思想 | 适用场景 | 优缺点 |
|---|---|---|---|
| 线性回归 / 多元回归 | 最小二乘法拟合自变量与因变量的线性关系 | 趋势近似线性、影响因素明确的预测(如销量与价格、气温与用电量) | 简单、解释性强;对非线性关系、异常值敏感 |
| 岭回归 / Lasso回归 | 在线性回归中加入 L2/L1 正则化,防止过拟合 | 自变量多重共线性严重或需要特征选择 | Lasso可压缩系数为0,实现变量筛选 |
| 逻辑回归 | 用 sigmoid 函数将线性输出映射为概率 | 二分类预测(如是否违约、是否患病) | 本质是分类,但常出现在预测类问题中作为对比模型 |
| 时间序列分解 | 将序列分解为趋势、季节、随机成分 | 有明显季节性和趋势的序列初步分析 | 常作为预处理手段,不是最终预测模型 |
二、时间序列预测模型
专为按时间顺序记录的数据设计,是数学建模竞赛中的高频考点。
1. 平滑法与经典模型
- 移动平均 / 加权移动平均:用窗口内均值预测,适合无明显趋势和季节性的平稳序列。
- 指数平滑法
- 简单指数平滑:适合无趋势无季节序列。
- Holt 线性趋势模型:可捕捉线性趋势。
- Holt-Winters 模型:同时处理趋势和季节(加性/乘性)。
- ARIMA 模型族 (差分自回归移动平均)
- ARIMA(p,d,q):对非平稳序列通过 d 阶差分平稳后建模。
- SARIMA:加入季节性差分和季节自回归/移动平均项,处理复杂季节性。
- ARIMAX:带外部变量的 ARIMA,可引入节假日、促销等影响因素。
2. 现代时间序列模型
- Prophet(Facebook):将序列分解为趋势、季节、节假日效应,自动处理缺失值和异常值,鲁棒性强,适合业务预测。
- TBATS:可处理多季节周期、非整数季节周期及 Box-Cox 变换,无需手动调参。
- VAR / VECM(向量自回归):多变量时间序列相互影响时的预测(如GDP与失业率联合预测)。
三、机器学习预测模型
适合复杂非线性关系、特征维度高、数据量大的场景,在数学建模中对提升预测精度作用显著。
| 算法 | 核心思想 | 适用场景 | 特点 |
|---|---|---|---|
| 决策树回归 | 以特征递归划分样本空间,叶节点均值作为预测值 | 可解释性要求高、特征交互复杂的非时序预测 | 易过拟合,通常作为基学习器 |
| 随机森林回归 | 多棵决策树的 Bagging 集成,降低方差 | 高维数据、缺失值较多、非线性问题 | 抗噪声能力强,能输出特征重要性 |
| GBDT 系列 | 逐步拟合残差的 Boosting 集成,梯度提升树 | 结构化数据预测的首选,竞赛常青树 | 精度极高,需注意调参防过拟合 |
| XGBoost / LightGBM / CatBoost | 对 GBDT 的工程优化,支持并行、类别特征处理等 | 表格数据预测的"最优"基准模型 | LightGBM 训练快,CatBoost 对类别特征友好 |
| 支持向量回归 (SVR) | 寻找一个 ε-不敏感管道,最大化边界并最小化误差 | 小样本、非线性、高维回归问题 | 需谨慎选择核函数与参数,对噪声容忍度有限 |
| K近邻回归 (KNN) | 预测值为最近 k 个邻居的均值/加权均值 | 数据局部结构明显、特征空间欧氏距离有意义时 | 对尺度敏感,需归一化,计算量大 |
四、深度学习预测模型
适合海量数据、序列依赖长、特征自动提取的复杂预测,但在小数据集上容易过拟合,需正则化或迁移学习。
- MLP(多层感知机):最简单的神经网络,可用于回归预测,拟合强非线性。
- RNN(循环神经网络):专门处理序列,但存在长期依赖问题。
- LSTM / GRU :通过门控机制解决长序列梯度消失,是时间序列预测的深度学习基线。
- 可多步输出、编码器-解码器结构、添加 Attention 机制。
- TCN(时序卷积网络):用膨胀卷积捕捉长距离依赖,可并行计算,有时优于 LSTM。
- Transformer:基于自注意力机制,可建模任意长度的依赖关系,如 Informer、Autoformer 等变体被专门用于长时间序列预测。
- N-BEATS / DeepAR:专门用于时间序列预测的深度架构,DeepAR 还可输出概率分布。
五、灰色预测模型
适合小样本、信息贫乏、不确定性大的系统,是中国数学建模特色方法之一。
- GM(1,1):对原始序列累加生成指数规律,用微分方程建模后还原预测。需求数据少(4个以上即可),计算简单。
- GM(1,N):多变量灰色模型,引入影响因子序列。
- 改进形式:新陈代谢 GM(1,1)、背景值优化、残差修正等。
典型应用:能源消费量、污染物浓度等具有饱和或近似指数趋势的短序列预测。
六、组合预测模型
将多个模型的预测结果进行融合,通常能提升稳健性和精度。
- 简单平均 / 加权平均:根据各模型过去误差赋权。
- 变权组合:权重随数据动态变化,可用方差倒数法、熵权法等确定。
- 串联组合:先用一个模型预测趋势,再用另一个模型修正残差(如 ARIMA 残差 + GBDT 修正)。
- 模型融合框架:Stacking(用元学习器融合多基模型)、Bagging、Boosting 等。
七、其他特殊预测方法
- 马尔可夫链预测:基于状态转移概率矩阵,预测离散状态变化(如股市涨跌、天气状态)。常与灰色模型结合使用。
- 贝叶斯预测:结合先验信息与样本数据得到后验预测分布,能给出概率预测,适合不确定性量化。
- 模糊时间序列:基于模糊集理论处理语言变量或模糊关系,用于模糊环境预测。
八、如何快速选择预测算法?
在实际建模中,可按以下流程决策:
- 看数据特征
- 时间序列? → 分析平稳性、季节性、趋势,选用 ARIMA、Holt-Winters、Prophet 或 LSTM 等。
- 截面数据/非时间? → 考察线性/非线性,特征数量,样本量。
- 看样本量
- 极少量(<10)→ 灰色预测 GM(1,1) 或简单回归。
- 少量(几十~几百)→ 经典回归、SVR、ARIMA。
- 大量(数千以上)→ XGBoost、LightGBM、深度学习。
- 看对可解释性的要求
- 需要解释 → 回归、决策树、灰色模型、ARIMA。
- 纯追求精度 → 集成学习、深度学习。
- 看建模时间与计算资源
- 快速出结果 → 平滑法、线性回归、Prophet。
- 可以精细调参 → GBDT/LSTM/Transformer。
建议组合策略:在竞赛中,经常采用"基线+改进+对比"的框架,例如先建立 ARIMA 作为基准,再用 LSTM 或 XGBoost 引入外部特征提升精度,最后用组合预测进一步降低误差,并展示误差分析、鲁棒性检验,使论文充实有深度。