吴恩达2022机器学习专项课程(一)7.2 逻辑回归的简化成本函数

问题预览/关键词

  1. 本节课内容
  2. 逻辑回归的损失函数简化之后的形式是?
  3. 为什么可以简化?
  4. 成本函数的通用形式是?
  5. 逻辑回归成本函数的最终形式是?
  6. 逻辑回归为什么用对数损失函数计算成本函数?
  7. 为什么不直接给出逻辑回归损失函数的最终形式?

笔记

本节课内容

简化逻辑回归的损失函数。

损失函数的简化形式

由分段函数合并成一个函数,两个公式是同一个意思。

为什么可以合成一个函数

  • 如果y=1,代入公式,后面的计算为0,因此会得到原始分段的y=1的损失函数。
  • 如果y=0,代入公式,前面的计算为0,因此会得到原始分段的y=0的损失函数。
  • 因此,逻辑回归的损失函数可以写成一行,不用分两种情况考虑。

成本函数的通用形式

先计算损失函数的总和,然后除以m得到平均损失。

逻辑回归成本函数的最终形式

将简化的逻辑回归损失函数代入成本函数,获得逻辑回归成本函数的最终形式。

逻辑回归用对数损失函数计算成本函数?

逻辑回归的对数损失函数是统计学中的极大似然估计方法推导出来的,不做详细讨论。

没有直接给出最终形式

分段形式对于概念理解很有帮助,而最终合并的形式在实际的计算和编程实现中更为实用。

总结

分段写的损失函数完全等价于最终形式的损失函数,分段写的目的只是帮助理解模型预测的y,在面对不同真实的y损失的大小。当真实的y=1时,损失函数关注的是模型预测输出与1的接近程度。当真实的y=0时,损失函数关注的是模型预测输出与0的接近程度。

相关推荐
蓝婷儿4 小时前
Python 机器学习核心入门与实战进阶 Day 3 - 决策树 & 随机森林模型实战
人工智能·python·机器学习
大千AI助手4 小时前
PageRank:互联网的马尔可夫链平衡态
人工智能·机器学习·贝叶斯·mc·pagerank·条件概率·马尔科夫链
我就是全世界4 小时前
TensorRT-LLM:大模型推理加速的核心技术与实践优势
人工智能·机器学习·性能优化·大模型·tensorrt-llm
.30-06Springfield4 小时前
决策树(Decision tree)算法详解(ID3、C4.5、CART)
人工智能·python·算法·决策树·机器学习
acstdm11 小时前
DAY 48 CBAM注意力
人工智能·深度学习·机器学习
摸爬滚打李上进12 小时前
重生学AI第十六集:线性层nn.Linear
人工智能·pytorch·python·神经网络·机器学习
asyxchenchong88812 小时前
ChatGPT、DeepSeek等大语言模型助力高效办公、论文与项目撰写、数据分析、机器学习与深度学习建模
机器学习·语言模型·chatgpt
BFT白芙堂15 小时前
睿尔曼系列机器人——以创新驱动未来,重塑智能协作新生态(上)
人工智能·机器学习·机器人·协作机器人·复合机器人·睿尔曼机器人
羊小猪~~15 小时前
【NLP入门系列五】中文文本分类案例
人工智能·深度学习·考研·机器学习·自然语言处理·分类·数据挖掘
李师兄说大模型15 小时前
KDD 2025 | 地理定位中的群体智能:一个多智能体大型视觉语言模型协同框架
人工智能·深度学习·机器学习·语言模型·自然语言处理·大模型·deepseek