机器学习:线性回归、损失函数、导数、偏导

本文目录:

一、线性回归

线性回归:利用 回归方程(函数) 对 一个或多个自变量(特征值)和因变量(目标值)之间 关系进行建模的一种分析方式;

一元线性回归:目标值只与一个自变量有关系;

多元线性回归:目标值与多个自变量有关系。

线性回归流程图:

二、损失函数

误差:用预测值y -- 真实值y就是误差;

损失函数:衡量每个样本预测值与真实值效果的函数。

回归的损失函数:

  • 均方误差 *(Mean-Square Error, MSE )

  • 平均绝对误差 (Mean Absolute Error , MAE)

    备注:h(x)为y的预测值。

三、导数与偏导

(一)导数

1.基本概念

导数 :当函数y=f(x)的自变量x在一点 x 0 x_0 x0上产生一个增量Δx时,函数输出值的增量Δy与自变量增量Δx的比值在Δx趋于0时的极限a如果存在,a即为在 x 0 x_0 x0处的导数,记作 f ′ ( x 0 ) f^\prime(x_0) f′(x0)或df( x 0 x_0 x0)/dx。导数是函数的局部性质。一个函数在某一点的导数描述了这个函数在这一点附近的变化率。函数在某一点的导数就是该函数所代表的曲线在这一点上的切线斜率。

2.常用导数

3.求导的常用运算法则

(1)四则运算

(2)复合函数求导(链式法则)


导数求极值:当导数等于0时,往往就是函数的极值点。

例:

(二)偏导

当存在多个自变量时,只对其中一个自变量求导,同时将其它自变量视为常量的情况理解为求偏导。

通常表示为:

举例:

相关推荐
对你无可奈何2 小时前
给 ComfyUI 做了一个手机助手
人工智能
feasibility.4 小时前
英伟达把物理AI的3D模型“应用商店”开放了:2575个SimReady仿真资产,总计约472GB,可让agent装配机器人训练场景
人工智能·3d·机器人·仿真·建模·具身智能·英伟达
智联视频超融合平台4 小时前
消防宣传月过半,“AI+消防“给视频平台换了张考卷
人工智能·边缘计算·视频监控·安防·视频联网
冬奇Lab5 小时前
一天一个开源项目(第262篇):AG-UI —— 把 AI Agent 接进前端的开放协议,和 MCP、A2A 并列的第三块拼图
人工智能·开源
罗西的思考6 小时前
【轻量化复现大模型 / KIMI K3】MTP / EAGLE‑3 模块交互式演示
人工智能·深度学习·算法
RobinDevNotes6 小时前
Claude Code 剪视频,不上传、不要 API Key
人工智能·python·音视频·开发工具·ipython
stormzhangV7 小时前
Coding Agent,通往 AGI 的重要一环
人工智能·agent·ai编程
Bowen_J8 小时前
Apple Foundation Models:Apple AI核心框架
人工智能·ai编程·apple
IT_陈寒8 小时前
Redis那个过期删除策略,差点让我线上崩了
前端·人工智能·后端
阿里云大数据AI技术8 小时前
AI 原生大数据服务 ADA 快速入门:完成首次对话式数据分析
大数据·人工智能