吴恩达机器学习下:二分类问题、逻辑回归、过拟合问题

26.动机_哔哩哔哩_bilibili

吴恩达机器学习笔记 - Sanzo Blog

一、二分类

1、 定义

什么是分类问题?------输出变量 y 只能取少数几个离散值,而不是无限范围内的任意数值。

问题只有两个可能的输出,这被称为二分类。

  • 0 = 负类 / 否 / 假(例如:非垃圾邮件、良性肿瘤)。
  • 1 = 正类 / 是 / 真(例如:垃圾邮件、恶性肿瘤)。
  • "正类"与"负类"并不代表好坏,仅代表某种属性的存在或缺失。

2、为什么线性回归不适合分类?

如下图,你可能会想:"既然 y 是 0 或 1,我能不能直接用线性回归画一条直线,然后设定一个阈值(比如 0.5)来分类呢?"

  • 方法:如果预测值 <0.5 ,则预测为 0;如果 ≥0.5 ,则预测为 1。
  • 问题 :线性回归对异常值非常敏感,会导致分类边界发生不合理的偏移。
    • 假设在数据集的最右侧增加了一个非常大的训练样本(一个巨大的良性肿瘤)
    • 后果:线性回归为了拟合这个新点,会将直线"拉"向右边,导致斜率变平缓。
    • 决策边界移动:原本合理的决策边界(垂直线)被迫向右移动。
    • 错误:这导致原本应该被分类为"恶性"的肿瘤,现在被错误地分类为"良性"。

结论 :仅仅因为数据集中增加了一个远离主群体的样本,就改变了我们对其他数据的分类标准,这是不合理的。因此,线性回归不是解决分类问题的好算法。

二、分类算法:逻辑回归【此次项目用不上】

虽然名字里有"回归",但它实际上是一种分类算法。这个名字是历史遗留原因,不要被误导。

核心优势:

  • 逻辑回归的输出值永远在 0 到 1 之间。
  • 它不会出现线性回归那样因为个别异常值而导致决策边界剧烈移动的问题。
  • 它是目前最流行、应用最广泛的分类算法之一。

具体的见下述链接"6、逻辑回归"

吴恩达机器学习笔记 - Sanzo Blog

三、过拟合问题

四、正则化解决过拟合问题

32.过拟合问题_哔哩哔哩_bilibili

相关推荐
LabVIEW开发1 小时前
LabVIEW 机载 DIAL:每秒万次甲烷测量
人工智能·labview·labview知识·labview功能·labview程序
飞猫的边缘AI2 小时前
英特尔量子生意
人工智能·量子计算·边缘ai
深蓝AI2 小时前
桌面 Agent 缺的不是视觉:Vercel 开源 agent-desktop,用无障碍树 ref 替代截图坐标
人工智能·程序员
镜子AI2 小时前
镜子AI 技术复盘:三条自动化链路上的“停止条件“设计
运维·人工智能·自动化
向哆哆2 小时前
羊行为目标检测数据集:4类别、2,000张图像 | 目标检测
人工智能·yolo·目标检测·目标跟踪
如若1233 小时前
【论文复现】CoFailMed:从零复现医学图像分割的共享失败审计,含完整代码流程与科研绘图
人工智能·python
赛博守夜人3 小时前
AI安全攻防与治理之十六:对抗样本、恶意文件与多模态攻击,AI 内容安全检测的真实盲区
人工智能·安全
罗西的思考3 小时前
【轻量化复刻大模型 / KIMI K3】KDA(Kimi Delta Attention):并行
人工智能·算法·机器学习
yh弓长4 小时前
Agent 的 ReAct、Plan、Execute、Reflection 模式
人工智能
GlobalInfo4 小时前
2026年全球机器人用超平执行器市场研究报告:市场规模达7.51亿美元,人形机器人商业化与轻量化运动控制需求推动行业增长
大数据·人工智能·数码相机·microsoft·机器人