机器学习:线性回归、损失函数、导数、偏导

本文目录:

一、线性回归

线性回归:利用 回归方程(函数)一个或多个自变量(特征值)和因变量(目标值)之间 关系进行建模的一种分析方式;

一元线性回归:目标值只与一个自变量有关系;

多元线性回归:目标值与多个自变量有关系。

线性回归流程图:

二、损失函数

误差:用预测值y -- 真实值y就是误差;

损失函数:衡量每个样本预测值与真实值效果的函数。

回归的损失函数:

  • 均方误差 *(Mean-Square Error, MSE )

  • 平均绝对误差 (Mean Absolute Error , MAE)

    备注:h(x)为y的预测值。

三、导数与偏导

(一)导数

1.基本概念

导数 :当函数y=f(x)的自变量x在一点 x 0 x_0 x0上产生一个增量Δx时,函数输出值的增量Δy与自变量增量Δx的比值在Δx趋于0时的极限a如果存在,a即为在 x 0 x_0 x0处的导数,记作 f ′ ( x 0 ) f^\prime(x_0) f′(x0)或df( x 0 x_0 x0)/dx。导数是函数的局部性质。一个函数在某一点的导数描述了这个函数在这一点附近的变化率。函数在某一点的导数就是该函数所代表的曲线在这一点上的切线斜率。

2.常用导数

3.求导的常用运算法则

(1)四则运算

(2)复合函数求导(链式法则)


导数求极值:当导数等于0时,往往就是函数的极值点

例:

(二)偏导

当存在多个自变量时,只对其中一个自变量求导,同时将其它自变量视为常量的情况理解为求偏导。

通常表示为:

举例:

相关推荐
一只鹿鹿鹿16 分钟前
【网络安全】信息网络安全建设方案(WORD)
人工智能·安全·spring·web安全·低代码
小拇指~18 分钟前
梯度下降的基本原理
人工智能·算法·计算机视觉
AndrewHZ38 分钟前
【图像处理基石】如何对遥感图像进行实例分割?
图像处理·人工智能·python·大模型·实例分割·detectron2·遥感图像分割
TDengine (老段)1 小时前
TDengine 中 TDgp 中添加机器学习模型
大数据·数据库·算法·机器学习·数据分析·时序数据库·tdengine
CodeShare1 小时前
某中心将举办机器学习峰会
人工智能·机器学习·数据科学
天天找自己1 小时前
精通分类:解析Scikit-learn中的KNN、朴素贝叶斯与决策树(含随机森林)
python·决策树·机器学习·分类·scikit-learn
那就摆吧1 小时前
U-Net vs. 传统CNN:为什么医学图像分割需要跳过连接?
人工智能·神经网络·cnn·u-net·医学图像
深度学习实战训练营2 小时前
中英混合的语音识别XPhoneBERT 监督的音频到音素的编码器结合 f0 特征LID
人工智能·音视频·语音识别
WADesk---瓜子2 小时前
用 AI 自动生成口型同步视频,短视频内容也能一人完成
人工智能·音视频·语音识别·流量运营·用户运营
星环科技TDH社区版2 小时前
AI Agent 的 10 种应用场景:物联网、RAG 与灾难响应
人工智能·物联网