回归树-决策树推广到回归树

决策树作为分类算法在这个视频中我们讲决策树推广位回归算法。以便我们可以预测一个数值。

我们用之前的例子,用其他离散的特征来预测动物的体重

我们看看决策树是什么样子的

我们已经构建了这样的一个树

他的根节点是耳朵,然后根据脸型去分,最后达到了叶子节点,叶子节点是分好类的动物体重的平均值,如果一个新的样本走到这里那么也是平均值。

如果要从新开始构建这个决策树,体重等这些关键决策是如何选择要分割的特征呢?

我们根据三个特征进行分割,最后得到三个树,我们应该如何判断那一个最佳的呢?

在这里我们不再视图减少熵,这是在分类的时候使用的杂质度量,而是试图减少数据子集中Y体重的方差,方差统计的是一组数字的变化范围,

与之前的决策树相比

回归树判断节点的信息增益是加权的方差

决策树是纯度,

选择信息增益最大的特征作为节点。

相关推荐
汤姆宝库17 分钟前
世界模型深拆:视频生成、潜在模拟与物理直觉
人工智能
dialect_4 小时前
KMP算法
开发语言·c++·算法
weixin_468466854 小时前
从“看懂”到“做到”:视觉-语言-动作模型如何让机器人真正执行指令
人工智能·ai·机器人·大语言模型·前沿科技
朋友圈自动点赞工具4 小时前
科学AI插件化:从蛋白质结构到古籍修复
人工智能
reikocao4 小时前
卡尔曼滤波的动态机制:P如何改变融合权重
算法
龙粤GEO4 小时前
实体Entity在GEO中代表什么含义
人工智能
漂流瓶jz4 小时前
UVA-1612 猜名次 题解答案代码 算法竞赛入门经典第二版
数据结构·算法·题解·排序·aoapc·算法竞赛入门经典
吞下星星的少年·-·5 小时前
Div.2 CF 1130B题(构造,贪心)
算法·贪心·构造
剑雨巍巍5 小时前
AI Agent面试之基础概念
人工智能
微帧Visionular6 小时前
AI视频单帧清晰,播放时却闪烁,原因是什么?
人工智能·深度学习·音视频