吴恩达机器学习下:二分类问题、逻辑回归、过拟合问题

26.动机_哔哩哔哩_bilibili

吴恩达机器学习笔记 - Sanzo Blog

一、二分类

1、 定义

什么是分类问题?------输出变量 y 只能取少数几个离散值,而不是无限范围内的任意数值。

问题只有两个可能的输出,这被称为二分类。

  • 0 = 负类 / 否 / 假(例如:非垃圾邮件、良性肿瘤)。
  • 1 = 正类 / 是 / 真(例如:垃圾邮件、恶性肿瘤)。
  • "正类"与"负类"并不代表好坏,仅代表某种属性的存在或缺失。

2、为什么线性回归不适合分类?

如下图,你可能会想:"既然 y 是 0 或 1,我能不能直接用线性回归画一条直线,然后设定一个阈值(比如 0.5)来分类呢?"

  • 方法:如果预测值 <0.5 ,则预测为 0;如果 ≥0.5 ,则预测为 1。
  • 问题 :线性回归对异常值非常敏感,会导致分类边界发生不合理的偏移。
    • 假设在数据集的最右侧增加了一个非常大的训练样本(一个巨大的良性肿瘤)
    • 后果:线性回归为了拟合这个新点,会将直线"拉"向右边,导致斜率变平缓。
    • 决策边界移动:原本合理的决策边界(垂直线)被迫向右移动。
    • 错误:这导致原本应该被分类为"恶性"的肿瘤,现在被错误地分类为"良性"。

结论 :仅仅因为数据集中增加了一个远离主群体的样本,就改变了我们对其他数据的分类标准,这是不合理的。因此,线性回归不是解决分类问题的好算法。

二、分类算法:逻辑回归【此次项目用不上】

虽然名字里有"回归",但它实际上是一种分类算法。这个名字是历史遗留原因,不要被误导。

核心优势:

  • 逻辑回归的输出值永远在 0 到 1 之间。
  • 它不会出现线性回归那样因为个别异常值而导致决策边界剧烈移动的问题。
  • 它是目前最流行、应用最广泛的分类算法之一。

具体的见下述链接"6、逻辑回归"

吴恩达机器学习笔记 - Sanzo Blog

三、过拟合问题

四、正则化解决过拟合问题

32.过拟合问题_哔哩哔哩_bilibili

相关推荐
宿州派大星4 小时前
Python实战:PyQt5 + OpenCV + Dlib 打造AI桌面应用
人工智能·python·qt
风娜5 小时前
IT 疑难杂症诊疗室:从现象到根因的系统排查方法论
人工智能·github
碧海银沙音频科技研究院5 小时前
炬芯ATS3089X手表的HFP通话不自动路由到设备BT的问题解决
网络·人工智能·嵌入式硬件·算法
承渊政道5 小时前
【从零开始大模型开发与微调:基于PyTorch与ChatGLM】(开源大模型ChatGLM高级定制化应用实战)
人工智能·pytorch·python·llm·模型微调·glm
howdoyoudo2026065 小时前
AI审计手记 #28:从“暂停训练”到“切断联网”——AI安全控制手段的极限升级
大数据·人工智能·安全·ai·语言模型
colman wang5 小时前
人工智能课程(配套AIMA(Artificial Intelligence: A Modern Approach))
人工智能
LinXunFeng9 小时前
Draw Things 换装 LoRA 实战:用 Silo 秒装,同一提示词对比出图
人工智能·开源·aigc
xiaohaiAIgeo9 小时前
【2026年】通风柜自动门安全吗?联锁逻辑与防夹设计
人工智能·安全·科普知识
像风一样自由20209 小时前
52.Docker部署大模型应用从本地开发到服务化运行
运维·人工智能·docker·容器·大模型·智能体