回归

电科一班林耿超

机器学习大师课第 3 课：多特征回归与机器学习头号敌人 —— 过拟合课程承诺：1 个核心概念（多特征线性回归）+1 个核心思想（过拟合与泛化）+1 段实战代码。学完你能解决真实世界的多变量预测问题，一眼识别并解决机器学习最常见的 "死穴"。

机器学习之心

IGWO-Transformer模型回归+SHAP分析+新数据预测+多输出！深度学习可解释分析（附MATLAB代码）代码实现了一套基于改进灰狼优化算法（IGWO）自动调参的Transformer回归预测，并配有SHAP可解释性分析模块。以下是各要点简述：

算法的平均复杂度建模与性能回归分析的技术7

案例之波士顿房价预测(线性回归之正规方程/ 梯度下降！！)一、案例：演示正规方程法线性回归对象完成波士顿房价预测二、回顾： 1. 线性回归算法属于有监督学习之有特征，有标签，且标签是连续的； 2. 线性回归分类: 一元线性回归：1个特征列，1个标签列. 多元线性回归：多个特征列，1个标签列. 3. 线性回归解释: 它是用线性公式来描述特征和标签之问关系的，方便做预测，公式如下: 一元线性回归：y=wx+b 多元线性回归：y=w1x1 +w2x2 +w3x3 +…+wnxn +b = w的转置x +b 4. 如何衡量线性回归模型的好坏？思路

【SIoU Loss论文阅读】：引入角度感知的框回归损失，让检测收敛更快更准在目标检测里，框回归损失直接决定收敛快慢与定位精度。从 IoU → GIoU → DIoU → CIoU，大家一直在优化：

向量大模型升级可能改变向量空间（需要回归）把 embedding 想成：模型把一句话变成一串数字（向量），并保证意思越近的两句话，向量越接近。这个“数字世界的坐标系”就是向量空间。

Java AI Harness 落地：拥抱框架还是回归本质？深度解析选型之道最近 LLM 应用的开发非常火热，许多后端团队都开始接到任务，要开发所谓的 AI “Harness” 项目，比如内部 RAG 知识库，或是能调用内部 API 的智能助理。随之而来的第一个问题就是技术选型：是选用 LangChain4j、Spring AI 这类新兴框架，享受开箱即用的便利？还是直接用 OpenAI、Anthropic 的原生 SDK，自己来搭骨架？如果这个问题没想清楚，轻则项目开发过程会很别扭，重则上线后发现，后续的扩展和维护都成了大包袱。这篇文章就来帮你算清楚这笔账。如果你也面临类似

数据牧羊人的成长笔记

逻辑回归与Softmax回归目录逻辑回归概述逻辑回归的作用逻辑回归的假设函数实战——逻辑回归解决二分类问题实战——对逻辑回归调整概率阈值

高斯过程回归：原理与MATLAB实现高斯过程是一种非参数的贝叶斯机器学习方法，通过定义在函数空间上的概率分布来建模数据，相比传统回归方法有以下特性：

1. 一元/多元线性回归之正规方程求解法（一元线性回归先对 k求偏导，再对b求偏导，将得到的两个式子进行计算，得到二元一次方程的解。不需要像前面的案例，对b进行假设(假设b=100)）

【TJU】应用统计学——第七周作业（4.2 多元线性回归分析、4.3 可化为线性回归的曲线回归、4.4 单因子方差分析）1️⃣ 在方差分析中，检验统计量 F F F 是（）在单因素方差分析中，检验统计量采用F = 组间均方组内均方 F=\frac{\text{组间均方}}{\text{组内均方}} F=组内均方组间均方

基于灰狼算法优化支持向量回归（GWO-SVR）的混合算法SVR是支持向量机（SVM）的回归版本，核心思想是通过核函数将数据映射到高维空间，寻找一个最优超平面使得预测值与真实值之间的误差小于ε的样本尽可能多，同时最大化间隔。其核心可调节参数直接影响模型精度：

深度学习(6)softmax回归、损失函数、分类① Softmax回归虽然它的名字是回归，其实它是一个分类问题。分类时，我们不关系实际的值，我们关心的是能不能对正确的类的置信度特别大，比如将正确的类的置信度写成Oy,那么要远远大于其他非正确类的Oy，也就是二者相减大于一个阈值。

机器学习之心

GA-Transformer模型回归+SHAP分析+新数据预测+多输出！深度学习可解释分析（附MATLAB代码）Transformer 模型在自然语言处理等领域表现优异，但其在结构化数据回归预测中的超参数（如自注意力头数）往往靠经验设定，难以保证最优性能。为此，引入遗传算法（GA）自动搜索最优头数，提升模型的预测精度与泛化能力。代码同时对比优化前后的效果，验证 GA 的有效性。

机器学习之心

VMD-KAN-Transformer：时间序列预测的“三体运动”，我们用数学与深度学习找到了最优解当信号分解遇上诺贝尔奖级数学理论，当Transformer挣脱MLP的束缚，预测精度的天花板正在被重新定义。

机器学习之心

BO-NARX贝叶斯优化非线性自回归外生模型股票价格预测，MATLAB代码股票价格预测是金融时间序列分析中的核心问题。由于股价具有非线性、高噪声和非平稳等特征，传统线性模型（如ARIMA）难以充分捕捉其动态规律。非线性自回归外生（NARX）神经网络能够结合历史收盘价的自回归项与外部影响因素（成交量、开高低价），对复杂非线性关系进行建模。为了减少人工调参的主观性和计算成本，引入贝叶斯优化（BO）自动确定最优超参数（滞后阶数、隐藏层大小、正则化系数），从而提升预测精度与模型泛化能力。

第七章回归案例（三）客户流失预警逻辑回归本案例中所使用的数据集包括通信用户的流失与相关特征的数据，我们将使用逻辑回归，根据相关特征构建模型预测某用户的流失概率

第七章回归案例（一）波士顿房价预测在本小节中，我们将基于波士顿房价数据集建立线性回归模型，并对模型进行评估。该数据集可以使用sklearn自带的方法加载，我们将使用sklearn附带的一些工具来实现线性回归模型。sklearn.linear_model模块包含了常见的线性模型，即“预测目标能够表示成输入变量的线性组合形式”的模型。

第七章回归案例（二）美国爱荷华州埃姆斯地区房价预测本小节的案例的背景是对美国爱荷华州埃姆斯地区的房价进行预测。训练集中有共有1460条数据，81个特征，目标特征为该地区的房价。藉由此案例来简单说明正则化方法在实际案例中的运用

蓉蓉的数码视界

宁新新材动态PE回归行业均值，Q1经营性现金流转正，华泰证券上调目标价至15.6元宁新新材2026年一季度财报显示，公司经营性现金流由负转正，标志着财务结构优化取得阶段性成果。尽管2025年受下游锂电、光伏行业需求疲软影响，公司营收同比下滑42.06%至2.15亿元，但近期通过产能调整与成本管控，单位生产成本已呈现边际改善趋势。华泰证券研报指出，当前公司动态市盈率已回归非金属材料行业均值，反映市场对其扭亏预期的认可。