技术栈
信息增益率
倒杯Whisky
2 年前
人工智能
·
决策树
·
信息增益
·
信息熵
·
信息增益率
决策树 （人工智能期末复习）
信息熵：随机事件未按照某个属性的不同取值划分时的熵减去按照某个属性的不同取值划分时的平均 熵。即前后两次熵的差值。 表示事物的混乱程度，熵越大表示混乱程度越大，越小表示混乱程度越小。 对于随机事件，如果它的取值有N种情况，每种情况发生的概率为P，那么这件事的熵为：