吴恩达机器学习笔记 十七 通过偏差与方差诊断性能 正则化 偏差 方差

高偏差(欠拟合):在训练集上表现得也不好

高方差(过拟合):J_cv要远大于J_train

刚刚好:J_cv和J_train都小

J_cv和J_train 拟合多项式阶数的关系

从一阶到四阶,训练集的误差越来越小,而验证集的误差先变小后变大

也有可能同时出现高方差和高偏差

正则化

当 λ 非常大时, w 会非常小, 每个 w 都接近0,模型会是常数 b ,即一条水平线。这种情况下会出现高偏差(欠拟合),并且J_train会很大。

当 λ 为0时,没有正则化,只是拟合一个多项式,会出现过拟合/高方差。此时 J_train 很小但 J_cv 会非常大

J_train 和 J_cv 与 λ 的关系

相关推荐
宝贝儿好3 小时前
【LLM】第三章:项目实操案例:智能输入法项目
人工智能·python·深度学习·算法·机器人
ishangy4 小时前
皮带撕裂早期特征提取:AI摄像机+深度学习在港口的应用
人工智能·深度学习·智慧港口·港口皮带ai识别·皮带检测识别
kcuwu.4 小时前
深度学习技术完全指南
人工智能·深度学习
雷帝木木4 小时前
Python 类型提示与静态类型检查的高级应用
人工智能·python·深度学习·机器学习
雷帝木木4 小时前
Python 中的正则表达式:从基础到高级应用
人工智能·python·深度学习·机器学习
AI先驱体验官4 小时前
臻灵短剧平台 · 用户操作手册
大数据·人工智能·深度学习·重构·aigc
weixin_509138344 小时前
探秘智能体认知动力学(ACD):从概率生成到几何导航的AGI破局之路
人工智能·机器学习·智能体·智能体认知
山科智能信息处理实验室5 小时前
告别“补点”时代:PaCo 用参数化补全重写多边形重建规则
深度学习·3d
断眉的派大星5 小时前
深度学习——迁移学习实战指南
人工智能·深度学习·迁移学习
MediaTea6 小时前
人工智能通识课:机器学习之监督学习
人工智能·学习·机器学习