人工智能之数学基础:坐标下降法

本文重点

前面的课程中我们学习了最快梯度下降法,本文我们将简单的了解坐标梯度下降法,主要是为了和梯度下降法进行区别。

坐标下降法的简述

坐标下降优化方法是一种非梯度优化算法。为了找到一个函数的局部极小值,在每次迭代中可以在当前点处沿一个坐标方向进行一维搜索。

在整个过程中循环使用不同的坐标方向。一个周期的一维搜索迭代过程相当于一个梯度迭代。如,坐标方向为e 1**,e2,...,en**。每次沿一个坐标方向最小化目标函数,循环地沿每个坐标方向进行计算。如果给定θk,那么θk+1的第i个坐标由如下方式计算:

也就是每次只更新参数的一个维度,也就是一个坐标方向,坐标下降方向的效果图为:

坐标下降法和梯度下降法的区别

梯度下降方法是利用目标函数的导数(梯度)来确定搜索方向的,而该梯度方向可能不与任何坐标轴平行。

而坐标下降方法是利用当前坐标系统进行搜索,不需要求目标函数的导数,只按照某一坐标方向进行搜索最小值.

相关推荐
Bowen_J18 小时前
Apple Foundation Models:Apple AI核心框架
人工智能·ai编程·apple
IT_陈寒19 小时前
Redis那个过期删除策略,差点让我线上崩了
前端·人工智能·后端
阿里云大数据AI技术19 小时前
AI 原生大数据服务 ADA 快速入门:完成首次对话式数据分析
大数据·人工智能
字节跳动开源19 小时前
小红书/抖音图文排版利器——一个杂志风skill
人工智能·开源·设计
Bacon19 小时前
我把 Codex 塞进了 Touch Bar:一个 30pt 高的额度与对话面板
人工智能
衡石科技19 小时前
企业级 BI 的安全治理:衡石如何贯通认证、数据权限与审计
大数据·人工智能·安全·商业智能
网易云信20 小时前
折叠屏适配,iPhone Duo 真机已交付:网易云信 IMUIKit Swift 的实践
人工智能
Be for thing21 小时前
Pytorch【12】transforms进阶|图像数据增强实战,提升模型泛化能力
人工智能·pytorch·机器学习
十有八七21 小时前
手搓 Agent(一):先有大脑——大模型只会做一件事
前端·人工智能·后端
锋行天下21 小时前
「踩坑实录」给 LangGraph Agent 接两个 FastMCP,我被 langchain 偷偷改了工具名
前端·人工智能·后端