决策树作为分类算法在这个视频中我们讲决策树推广位回归算法。以便我们可以预测一个数值。

我们用之前的例子,用其他离散的特征来预测动物的体重
我们看看决策树是什么样子的
我们已经构建了这样的一个树

他的根节点是耳朵,然后根据脸型去分,最后达到了叶子节点,叶子节点是分好类的动物体重的平均值,如果一个新的样本走到这里那么也是平均值。
如果要从新开始构建这个决策树,体重等这些关键决策是如何选择要分割的特征呢?
我们根据三个特征进行分割,最后得到三个树,我们应该如何判断那一个最佳的呢?
在这里我们不再视图减少熵,这是在分类的时候使用的杂质度量,而是试图减少数据子集中Y体重的方差,方差统计的是一组数字的变化范围,
与之前的决策树相比
回归树判断节点的信息增益是加权的方差
决策树是纯度,
选择信息增益最大的特征作为节点。
