机器学习:线性回归、损失函数、导数、偏导

本文目录:

一、线性回归

线性回归:利用 回归方程(函数)一个或多个自变量(特征值)和因变量(目标值)之间 关系进行建模的一种分析方式;

一元线性回归:目标值只与一个自变量有关系;

多元线性回归:目标值与多个自变量有关系。

线性回归流程图:

二、损失函数

误差:用预测值y -- 真实值y就是误差;

损失函数:衡量每个样本预测值与真实值效果的函数。

回归的损失函数:

  • 均方误差 *(Mean-Square Error, MSE )

  • 平均绝对误差 (Mean Absolute Error , MAE)

    备注:h(x)为y的预测值。

三、导数与偏导

(一)导数

1.基本概念

导数 :当函数y=f(x)的自变量x在一点 x 0 x_0 x0上产生一个增量Δx时,函数输出值的增量Δy与自变量增量Δx的比值在Δx趋于0时的极限a如果存在,a即为在 x 0 x_0 x0处的导数,记作 f ′ ( x 0 ) f^\prime(x_0) f′(x0)或df( x 0 x_0 x0)/dx。导数是函数的局部性质。一个函数在某一点的导数描述了这个函数在这一点附近的变化率。函数在某一点的导数就是该函数所代表的曲线在这一点上的切线斜率。

2.常用导数

3.求导的常用运算法则

(1)四则运算

(2)复合函数求导(链式法则)


导数求极值:当导数等于0时,往往就是函数的极值点

例:

(二)偏导

当存在多个自变量时,只对其中一个自变量求导,同时将其它自变量视为常量的情况理解为求偏导。

通常表示为:

举例:

相关推荐
千禧皓月9 分钟前
【Diffusion Model】发展历程
人工智能·深度学习·diffusion model·1024程序员节
猫头虎25 分钟前
大模型训练中的关键技术与挑战:数据采集、微调与资源优化
人工智能·爬虫·数据挖掘·数据分析·网络爬虫·aigc·1024程序员节
yanxing.D1 小时前
penCV轻松入门_面向python(第七章 图像平滑处理)
图像处理·人工智能·opencv·计算机视觉
骥龙1 小时前
1.1、开篇:AI如何重塑网络安全攻防格局?
人工智能·安全·web安全
微学AI1 小时前
国产数据库替代MongoDB的技术实践过程:金仓多模数据库在电子证照系统中的深度应用
数据库·人工智能·1024程序员节
gddkxc2 小时前
AI驱动的客户管理:悟空AI CRM的核心功能与优势
人工智能
sensen_kiss2 小时前
INT301 Bio-computation 生物计算(神经网络)Pt.2 监督学习模型:感知器(Perceptron)
神经网络·学习·机器学习
狂奔solar3 小时前
Apple 开源FastVLM:AI看图说话更快更准
人工智能
星空的资源小屋3 小时前
Antares SQL,一款跨平台开源 SQL 客户端
数据库·人工智能·pdf·开源·电脑·excel·1024程序员节