机器学习(12)---梯度下降(含手写公式、推导过程和手写例题)

梯度下降

  • 一、概述
    • [1.1 梯度下降的用途](#1.1 梯度下降的用途)
    • [1.2 梯度下降公式](#1.2 梯度下降公式)
  • 二、公式讲解
    • [2.1 推导过程](#2.1 推导过程)
    • [2.2 例题](#2.2 例题)

一、概述

1.1 梯度下降的用途

1. 使用线性回归的平方误差成本函数时,成本函数不会也永远不会有多个局部最小值。因为它是凸函数,只有单一的全局最小值。通俗地说凸函数就是碗形函数。

2. 梯度下降数广泛应用于求解非凸函数的极值点。

1.2 梯度下降公式

二、公式讲解

2.1 推导过程

2.2 例题

1. 题目描述:

2. 解答:

相关推荐
崎岖Qiu24 分钟前
【设计模式笔记17】:单例模式1-模式分析
java·笔记·单例模式·设计模式
档案宝档案管理1 小时前
档案宝:企业合同档案管理的“安全保险箱”与“效率加速器”
大数据·数据库·人工智能·安全·档案·档案管理
lkbhua莱克瓦242 小时前
Java练习-正则表达式 1
java·笔记·正则表达式·github
IT_Beijing_BIT2 小时前
TensorFlow Keras
人工智能·tensorflow·keras
mit6.8242 小时前
[手机AI开发sdk] 安卓上的Linux环境
人工智能·智能手机
Larry_Yanan2 小时前
QML学习笔记(五十)QML与C++交互:QML中单例C++对象
开发语言·c++·笔记·qt·学习·ui·交互
im_AMBER2 小时前
算法笔记 09
c语言·数据结构·c++·笔记·学习·算法·排序算法
张较瘦_2 小时前
[论文阅读] AI + 教育 | AI赋能“三个课堂”的破局之道——具身认知与技术路径深度解读
论文阅读·人工智能
望十五江洋3 小时前
泊松分布的参数可加性
线性代数·机器学习·概率论
小雨青年3 小时前
Cursor 项目实战:AI播客策划助手(二)—— 多轮交互打磨播客文案的技术实现与实践
前端·人工智能·状态模式·交互