机器学习课程复习——决策树

Q：这三个算法哪一个可以用来做回归？

CART

Q:这学期学过的分类算法有哪些？

支持向量机、决策树、k近邻、逻辑回归、朴素贝叶斯、ANN

（注意区分分类算法与聚类算法）

Q：计算题

根据以上条件，生成相应的决策树

1. ID3算法

2. C4.5算法

3. CART算法

Q：剪枝的逻辑？

（由于决策树容易出现过拟合的情况，所以我们需要对他剪枝）

1. 信息增益
2. 精度
3. 泛化性

Q：CART算法与前两个算法的不同？

1. 基尼指数
2. 二分类

改进

1. 随机森林：通过集成多个决策树来提高模型的稳定性和准确性。
2. 梯度提升树：通过boosting方法提升决策树的性能。