吴恩达2022机器学习专项课程(一)7.2 逻辑回归的简化成本函数

问题预览/关键词

  1. 本节课内容
  2. 逻辑回归的损失函数简化之后的形式是?
  3. 为什么可以简化?
  4. 成本函数的通用形式是?
  5. 逻辑回归成本函数的最终形式是?
  6. 逻辑回归为什么用对数损失函数计算成本函数?
  7. 为什么不直接给出逻辑回归损失函数的最终形式?

笔记

本节课内容

简化逻辑回归的损失函数。

损失函数的简化形式

由分段函数合并成一个函数,两个公式是同一个意思。

为什么可以合成一个函数

  • 如果y=1,代入公式,后面的计算为0,因此会得到原始分段的y=1的损失函数。
  • 如果y=0,代入公式,前面的计算为0,因此会得到原始分段的y=0的损失函数。
  • 因此,逻辑回归的损失函数可以写成一行,不用分两种情况考虑。

成本函数的通用形式

先计算损失函数的总和,然后除以m得到平均损失。

逻辑回归成本函数的最终形式

将简化的逻辑回归损失函数代入成本函数,获得逻辑回归成本函数的最终形式。

逻辑回归用对数损失函数计算成本函数?

逻辑回归的对数损失函数是统计学中的极大似然估计方法推导出来的,不做详细讨论。

没有直接给出最终形式

分段形式对于概念理解很有帮助,而最终合并的形式在实际的计算和编程实现中更为实用。

总结

分段写的损失函数完全等价于最终形式的损失函数,分段写的目的只是帮助理解模型预测的y,在面对不同真实的y损失的大小。当真实的y=1时,损失函数关注的是模型预测输出与1的接近程度。当真实的y=0时,损失函数关注的是模型预测输出与0的接近程度。

相关推荐
Blossom.1185 小时前
量子计算与经典计算的融合与未来
人工智能·深度学习·机器学习·计算机视觉·量子计算
硅谷秋水5 小时前
MoLe-VLA:通过混合层实现的动态跳层视觉-语言-动作模型实现高效机器人操作
人工智能·深度学习·机器学习·计算机视觉·语言模型·机器人
小李独爱秋7 小时前
机器学习开发全流程详解:从数据到部署的完整指南
人工智能·机器学习
Dovis(誓平步青云)7 小时前
深挖 DeepSeek 隐藏玩法·智能炼金术2.0版本
人工智能·深度学习·机器学习·数据挖掘·服务发现·智慧城市
ZTLJQ7 小时前
基于机器学习的三国时期诸葛亮北伐失败因素量化分析
人工智能·算法·机器学习
赵钰老师7 小时前
【Deepseek、ChatGPT】智能气候前沿:AI Agent结合机器学习与深度学习在全球气候变化驱动因素预测中的应用
人工智能·python·深度学习·机器学习·数据分析
nuise_8 小时前
李宏毅机器学习笔记06 | 鱼和熊掌可以兼得的机器学习 - 内容接宝可梦
人工智能·笔记·机器学习
浊酒南街9 小时前
TensorFlow实现逻辑回归
人工智能·tensorflow·逻辑回归
databook9 小时前
线性模型与多分类问题:简单高效的力量
python·机器学习·scikit-learn
西柚小萌新11 小时前
【深度学习:进阶篇】--2.1.多分类与TensorFlow
分类·数据挖掘·tensorflow