数学建模2:回归分析预测

回归模型是什么

回归分析预测模型是一种统计方法,用于研究变量之间的关系,并通过已知数据来预测一个变量的值。回归分析通常包括自变量和因变量,目标是建立一个回归模型来描述它们之间的关系。

简单来说回归模型就是找出一条直线或曲线来尽可能地拟合 所有的样本点 ,拟合的好坏通常通过误差(例如,残差平方和)来衡量,如果拟合误差较小那么我们认为样本符合此x和y的变量关系。如下图是一个简单的线性回归模型

一、线性回归模型

线性回归指的是两个变量之间的关系是一次函数,也就是图像是直线的。

一元线性回归:

建立模型:

一元线性回归指的是只有一个变量,也就是如下模型公式

误差最小化:

这里可以采用最小二乘法来使误差最小,对与已知数据,它通过最小化每个数据点到线的垂直偏差平方和来计算最佳拟合线。

损失函数:

要使损失函数最小,可知:

  • 斜率k =
  • 截距b =

Python代码

python 复制代码
import numpy as np
from matplotlib import pyplot as plt


class LinearRegression:
    def __init__(self, X, Y):
        self.X = X
        self.Y = Y
        self.K = None
        self.B = None

    def caculateKB(self):
        x_mean = np.mean(self.X)
        y_mean = np.mean(self.Y)
        n = 0.0
        d = 0.0
        for x, y in zip(self.X, self.Y):
            n += (x - x_mean) * (y - y_mean)
            d += (x - x_mean) ** 2
        self.K = n / d
        self.B = y_mean - (self.K * x_mean)
        result = [self.K, self.B]
        return result
    def caculateY(self, n):
        if self.K == None:
            self.caculateKB()
        predict = self.K * n + self.B
        return predict

X=np.array([1,2,3,4,5,6,7,8,9,10]) #定义数据集
Y=2*X+np.random.normal(1,2,10) #Y是X的线性函数加上服从正态分布的随机误差
LinearRegression = LinearRegression(X,Y)
n = 11
result = LinearRegression.caculateY(n)
print(f'预测得y({n})的值为:{result}')
#计算残差和
y_predict = [LinearRegression.K * x + LinearRegression.B for x in X]
ss_residual=sum((y_predict - Y)**2)   #残差平方和
ss_total=sum((Y-np.mean(Y))**2)     #总平方和
print(f'残差和为:{ss_residual}')
#绘图
plt.scatter(X,Y)#绘制点
plt.plot(X,y_predict,color='r')#绘制回归线
plt.show()
相关推荐
lzhdim6 小时前
AI的分类
人工智能·算法·机器学习·分类·数据挖掘
Data-Miner12 小时前
人工智能怎么做数据分析?从准备到出报告的实操指南
人工智能·数据挖掘·数据分析
北京中科新远科技13 小时前
兼容光模块上线前怎么测:识别、DOM、误码与批次回归清单
人工智能·数据挖掘·回归
ViperL117 小时前
[高光谱]DADnet-基于对抗生成的单源域泛化分类
人工智能·分类·数据挖掘
葫三生17 小时前
关于三生原理系列被技术开发社区批量收录或引发策展边界讨论的一种思考
大数据·人工智能·深度学习·算法·机器学习·数据挖掘·开源
跟我学机器学习19 小时前
拥有短期记忆的RAG Agent:记忆增强检索实战
人工智能·深度学习·语言模型·数据挖掘·rag
DevOps老兵1 天前
AI训练师二级03:数据挖掘代码题怎么拆,从一份数据挖出业务价值
数据挖掘·pandas·人工智能训练师·老计聊技术·ai训练师二级
Raas1001 天前
MemT-1.0 接入设计指南:硬件核算、三方案选型与写入触发点
大数据·网络·人工智能·机器学习·数据挖掘·ai agent
布吉岛的石头1 天前
Java 程序员第 50 阶段2:预训练的目标函数:自回归语言建模本质
java·开发语言·人工智能·深度学习·回归·transformer
衡石科技1 天前
同一句业务问题,怎样持续问对数?衡石 ChatBI 的语义准备与回归验证
人工智能·数据挖掘·回归·chatbi