数学建模2:回归分析预测

回归模型是什么

回归分析预测模型是一种统计方法,用于研究变量之间的关系,并通过已知数据来预测一个变量的值。回归分析通常包括自变量和因变量,目标是建立一个回归模型来描述它们之间的关系。

简单来说回归模型就是找出一条直线或曲线来尽可能地拟合 所有的样本点 ,拟合的好坏通常通过误差(例如,残差平方和)来衡量,如果拟合误差较小那么我们认为样本符合此x和y的变量关系。如下图是一个简单的线性回归模型

一、线性回归模型

线性回归指的是两个变量之间的关系是一次函数,也就是图像是直线的。

一元线性回归:

建立模型:

一元线性回归指的是只有一个变量,也就是如下模型公式

误差最小化:

这里可以采用最小二乘法来使误差最小,对与已知数据,它通过最小化每个数据点到线的垂直偏差平方和来计算最佳拟合线。

损失函数:

要使损失函数最小,可知:

  • 斜率k =
  • 截距b =

Python代码

python 复制代码
import numpy as np
from matplotlib import pyplot as plt


class LinearRegression:
    def __init__(self, X, Y):
        self.X = X
        self.Y = Y
        self.K = None
        self.B = None

    def caculateKB(self):
        x_mean = np.mean(self.X)
        y_mean = np.mean(self.Y)
        n = 0.0
        d = 0.0
        for x, y in zip(self.X, self.Y):
            n += (x - x_mean) * (y - y_mean)
            d += (x - x_mean) ** 2
        self.K = n / d
        self.B = y_mean - (self.K * x_mean)
        result = [self.K, self.B]
        return result
    def caculateY(self, n):
        if self.K == None:
            self.caculateKB()
        predict = self.K * n + self.B
        return predict

X=np.array([1,2,3,4,5,6,7,8,9,10]) #定义数据集
Y=2*X+np.random.normal(1,2,10) #Y是X的线性函数加上服从正态分布的随机误差
LinearRegression = LinearRegression(X,Y)
n = 11
result = LinearRegression.caculateY(n)
print(f'预测得y({n})的值为:{result}')
#计算残差和
y_predict = [LinearRegression.K * x + LinearRegression.B for x in X]
ss_residual=sum((y_predict - Y)**2)   #残差平方和
ss_total=sum((Y-np.mean(Y))**2)     #总平方和
print(f'残差和为:{ss_residual}')
#绘图
plt.scatter(X,Y)#绘制点
plt.plot(X,y_predict,color='r')#绘制回归线
plt.show()
相关推荐
wzy06238 小时前
MADlib —— 基于 SQL 的数据挖掘解决方案(4)—— 数据类型之矩阵
数据挖掘·madlib
Tadas-Gao11 小时前
7种分类数据编码技术详解:从原理到实战
人工智能·机器学习·分类·数据挖掘·大模型·llm
可爱美少女13 小时前
Kaggle-Predicting Optimal Fertilizers-(多分类+xgboost+同一特征值多样性)
人工智能·分类·数据挖掘
Qdgr_16 小时前
行列视:企业数据分析新时代的利器(一)——深度解读与应用场景分析
数据挖掘·数据分析
Gyoku Mint18 小时前
机器学习×第五卷:线性回归入门——她不再模仿,而开始试着理解你
人工智能·python·算法·机器学习·pycharm·回归·线性回归
机器学习之心18 小时前
分类预测 | Matlab基于AOA-VMD-BiLSTM故障诊断分类预测
matlab·分类·数据挖掘
geneculture19 小时前
融智学本体论体系全景图
人工智能·数学建模·融智学的重要应用·道函数·三类思维坐标
molunnnn2 天前
day 18进行聚类,进而推断出每个簇的实际含义
机器学习·数据挖掘·聚类
nanzhuhe2 天前
sql中group by使用场景
数据库·sql·数据挖掘
郄堃Deep Traffic2 天前
机器学习+城市规划第十三期:XGBoost的地理加权改进,利用树模型实现更精准的地理加权回归
人工智能·机器学习·回归·城市规划