吴恩达机器学习笔记 二十六 决策树学习过程 独热编码one-hot

决策树的学习过程

  1. 所有样本都在根结点

2.计算所有可能的特征的信息增益,选择信息增益最大的那个

3.根据选择的特征分离数据集,创造左右两支子树

4.继续进行分裂直到达到停止标准。停止标准有:一个节点只有一类样本;分裂一个节点会导致树的深度超过最大值;从新的分裂得到的信息增益低于一个阈值;一个节点中的样本数低于一个阈值。

决策树可以看做一个**递归(recursive)**的过程

独热编码one-hot

例如猫狗分类,原本耳朵形状这个特征有三个可能的取值,采用独热编码的方式创建三个新的特征,每个特征只有两种情况(0或1) ,每个特征恰好有一个是1,所以叫独热。也可以推广到其他特征,用0或1来表示特征,可以将数字作为神经网络的输入。

相关推荐
羊村积极分子懒羊羊2 分钟前
2024.11.9上午CSRA笔记
笔记
computersciencer2 分钟前
用最小二乘法求解多元一次方程模型的参数
人工智能·机器学习·最小二乘法
武子康3 分钟前
大数据-214 K-Means 聚类实战:自写算法验证 + sklearn KMeans 参数/labels_/fit_predict 速通
大数据·后端·机器学习
LDG_AGI6 分钟前
【机器学习】深度学习推荐系统(二十六):X 推荐算法多模型融合机制详解
人工智能·分布式·深度学习·算法·机器学习·推荐算法
fanged15 分钟前
STM32(3)--时钟/定时中断/ADC(TODO)
笔记
菱玖16 分钟前
Linux终端命令提示行变单行
经验分享·笔记
工业甲酰苯胺18 分钟前
推荐算法闲谈:如何在不同业务场景下理解和拆解核心指标
算法·机器学习·推荐算法
haing201922 分钟前
卡尔曼滤波(Kalman Filter)原理
线性代数·算法·机器学习
Pith_26 分钟前
模式识别与机器学习复习笔记(中)
人工智能·笔记·机器学习
黄美美分享27 分钟前
全新升级,小米手机互联服务电脑通用版 V1.1.0.60 新版分享!支持相册/笔记云服务/剪贴板共享!一键同步
笔记·智能手机·电脑