目录

机器学习之局部最优和全局最优

(1)局部最优,就是在函数值空间的一个有限区域内寻找最小值;而全局最优,是在函数值空间整个区域寻找最小值问题。

(2)函数局部最小点是它的函数值小于或等于附近点的点,但是有可能大于较远距离的点。

(3)全局最小点是那种它的函数值小于或等于所有的可行点。

面试:你能解释一下梯度下降法及其在寻找全局最优解时的局限性吗?

  • 梯度下降法通过迭代沿着目标函数的负梯度方向更新参数,以寻找最小值。
  • 局限性:它可能会陷入局部最优,特别是在非凸函数中。此外,如果学习率设置不当,可能会导致收敛速度慢或者无法收敛。
本文是转载文章,点击查看原文
如有侵权,请联系 xyy@jishuzhan.net 删除
相关推荐
Mechanotrooper3 分钟前
Day08 【基于jieba分词实现词嵌入的文本多分类】
人工智能·自然语言处理·分类
Pocker_Spades_A11 分钟前
AI 对话高效输入指令攻略(一):了解AI对话指令
人工智能·智能体
扉间79821 分钟前
深度学习与 Flask 应用常见问题解析
人工智能·深度学习·flask
Elastic 中国社区官方博客24 分钟前
Elasticsearch 8.18 中提供了原生连接 (Native Joins)
大数据·数据库·人工智能·elasticsearch·搜索引擎·ai·全文检索
alpha xu25 分钟前
LLM中的N-Gram、TF-IDF和Word embedding
人工智能·python·语言模型·自然语言处理·sklearn·word2vec
Francek Chen34 分钟前
【现代深度学习技术】循环神经网络03:语言模型和数据集
人工智能·pytorch·rnn·深度学习·神经网络·语言模型
是Dream呀2 小时前
深度学习算法:从基础到实践
人工智能·深度学习·算法
Y1nhl2 小时前
搜广推校招面经七十五
人工智能·深度学习·算法·机器学习·支持向量机·推荐算法·搜索算法
棋子入局2 小时前
大语言模型
人工智能
James. 常德 student3 小时前
RNN - 序列模型
人工智能·rnn·深度学习