机器学习:线性回归、损失函数、导数、偏导

本文目录:

一、线性回归

线性回归:利用 回归方程(函数)一个或多个自变量(特征值)和因变量(目标值)之间 关系进行建模的一种分析方式;

一元线性回归:目标值只与一个自变量有关系;

多元线性回归:目标值与多个自变量有关系。

线性回归流程图:

二、损失函数

误差:用预测值y -- 真实值y就是误差;

损失函数:衡量每个样本预测值与真实值效果的函数。

回归的损失函数:

  • 均方误差 *(Mean-Square Error, MSE )

  • 平均绝对误差 (Mean Absolute Error , MAE)

    备注:h(x)为y的预测值。

三、导数与偏导

(一)导数

1.基本概念

导数 :当函数y=f(x)的自变量x在一点 x 0 x_0 x0上产生一个增量Δx时,函数输出值的增量Δy与自变量增量Δx的比值在Δx趋于0时的极限a如果存在,a即为在 x 0 x_0 x0处的导数,记作 f ′ ( x 0 ) f^\prime(x_0) f′(x0)或df( x 0 x_0 x0)/dx。导数是函数的局部性质。一个函数在某一点的导数描述了这个函数在这一点附近的变化率。函数在某一点的导数就是该函数所代表的曲线在这一点上的切线斜率。

2.常用导数

3.求导的常用运算法则

(1)四则运算

(2)复合函数求导(链式法则)


导数求极值:当导数等于0时,往往就是函数的极值点

例:

(二)偏导

当存在多个自变量时,只对其中一个自变量求导,同时将其它自变量视为常量的情况理解为求偏导。

通常表示为:

举例:

相关推荐
IT_陈寒9 小时前
SpringBoot3踩坑实录:一个@Async注解让我多扛了5000QPS
前端·人工智能·后端
_Meilinger_9 小时前
碎片笔记|生成模型原理解读:AutoEncoder、GAN 与扩散模型图像生成机制
人工智能·生成对抗网络·gan·扩散模型·图像生成·diffusion model
Listennnn9 小时前
BEV query 式图片点云视觉特征融合
人工智能
DS-RAG10 小时前
万方智能体投票火热进行中~
人工智能
semantist@语校10 小时前
语校网500所里程碑:日本语言学校数据库的标准化与可追溯机制
大数据·数据库·人工智能·百度·语言模型·oracle·github
key0610 小时前
《数据出境安全评估办法》企业应对策略
网络·人工智能·安全
key0610 小时前
数据安全能力成熟度模型 (DSMM) 核心要点
大数据·人工智能
山海青风11 小时前
藏语自然语言处理入门 - 3 找关键词
人工智能·自然语言处理
Java与Android技术栈11 小时前
AI Coding 让我两天完成图像编辑器 Monica 的国际化与多主题
人工智能
wwwzhouhui11 小时前
85-dify案例分享-不用等 OpenAI 邀请,Dify+Sora2工作流实测:写实动漫视频随手做,插件+教程全送
人工智能·音视频·sora2