吴恩达机器学习笔记 二十四 决策树模型 学习过程 什么时候停止分裂 如何选择结点特征

案例:识别小猫,上面这个分类的特征 x 采用分类值(几个离散的值)

决策树最顶端的结点称根结点(root node),除了根结点和叶子结点之外的叫决策结点(decision node),最底层的叫叶子结点(leaf node),叶子结点做出预测

决策树的学习过程

确定根结点使用什么特征,分类后再选一个特征进行分类,直到分出的一组中都是同一类了结束。

问题1:怎么选择决策结点使用的特征

要选能使纯度(一个子集更接近完全是狗,或者更接近完全是猫)最大的那个

问题2:什么时候停止分裂

当一个结点完全只有一类东西时;当再分出来结点会导致树超过最大深度时(树的深度从0开始);当纯度分数的提升在一个阈值下时(再分裂也提升不了多少);当一个结点的样本数低于一个阈值时。

保持树不太深有两个原因:一是为了快,另一个是这样不太容易过拟合

相关推荐
云烟成雨TD4 小时前
Spring AI Alibaba 1.x 系列【49】状态图运行时引擎:CompiledGraph 源码解析
java·人工智能·spring
i嘻嘻8324 小时前
餐厅送餐机器人行业研究报告
人工智能
城事漫游Molly5 小时前
研究设计核心 Toolkit:从“知道方法”到“真正会设计”
大数据·人工智能·算法·ai写作·论文笔记
dr_yingli5 小时前
慢性肾脏病评估与管理临床实践指南 KDIGO 2024 CKD 诊断指标速查手册
笔记
love在水一方5 小时前
【导读】基于层次化多模态场景图的快慢推理视觉语言导航
人工智能
一只幸运猫.5 小时前
核心概念层——深入理解 Agent 是什么
大数据·数据库·人工智能
大囚长5 小时前
意识与物质的一体两面
人工智能
●VON5 小时前
小米突然发短信:送你100万亿Token!有人已收到,有人还没?手把手教你白嫖
数据库·人工智能·skills
星辰徐哥5 小时前
AI时代最容易上手的5个副业,月入5000+
人工智能·ai·chatgpt·工具·副业·ai副业
bang冰冰5 小时前
Trae工具安装和使用教程(新手零基础入门,全程无坑)
java·人工智能·python