吴恩达机器学习笔记 二十六 决策树学习过程 独热编码one-hot

决策树的学习过程

  1. 所有样本都在根结点

2.计算所有可能的特征的信息增益,选择信息增益最大的那个

3.根据选择的特征分离数据集,创造左右两支子树

4.继续进行分裂直到达到停止标准。停止标准有:一个节点只有一类样本;分裂一个节点会导致树的深度超过最大值;从新的分裂得到的信息增益低于一个阈值;一个节点中的样本数低于一个阈值。

决策树可以看做一个**递归(recursive)**的过程

独热编码one-hot

例如猫狗分类,原本耳朵形状这个特征有三个可能的取值,采用独热编码的方式创建三个新的特征,每个特征只有两种情况(0或1) ,每个特征恰好有一个是1,所以叫独热。也可以推广到其他特征,用0或1来表示特征,可以将数字作为神经网络的输入。

相关推荐
FFF团团员9092 小时前
树莓派学习笔记3:LED和Button
笔记·学习
碧海潮生_CC3 小时前
【CUDA笔记】04 CUDA 归约, 原子操作,Warp 交换
笔记·cuda
yLDeveloper3 小时前
一只菜鸟学机器学习的日记:入门分布偏移
机器学习·dive into deep learning
摇滚侠4 小时前
2025最新 SpringCloud 教程,从单体到集群架构,笔记02
笔记·spring cloud·架构
风123456789~4 小时前
【OceanBase专栏】OB背景知识
数据库·笔记·oceanbase
智者知已应修善业6 小时前
【51单片机普通延时奇偶灯切换】2023-4-4
c语言·经验分享·笔记·嵌入式硬件·51单片机
wdfk_prog6 小时前
[Linux]学习笔记系列 -- [block]bio
linux·笔记·学习
xier_ran9 小时前
深度学习:生成对抗网络(GAN)详解
人工智能·深度学习·机器学习·gan
卡提西亚9 小时前
C++笔记-34-map/multimap容器
开发语言·c++·笔记
海边夕阳20069 小时前
【每天一个AI小知识】:什么是循环神经网络?
人工智能·经验分享·rnn·深度学习·神经网络·机器学习