决策树知识概览

例子





构建的二叉树尽量均衡
解决怎么构建均衡一定的二叉树方法-----引入信息熵

就像一个班60个人的实力都差不多,现在要选一个人去拯救世界,就确定不了,但是一个班有一个人能力特别特出,选这个人去拯救世界的概率就比较大,就比前面的情况更有确定性


最大的那个值就算均匀分布时候的那个值
信息熵的例子


利用信息熵---信息增益



例子


解决树太分散问题----信息增益比

决策树的构建----两类算法


总结

下节

构建的二叉树尽量均衡
就像一个班60个人的实力都差不多,现在要选一个人去拯救世界,就确定不了,但是一个班有一个人能力特别特出,选这个人去拯救世界的概率就比较大,就比前面的情况更有确定性
最大的那个值就算均匀分布时候的那个值