吴恩达机器学习笔记 二十六 决策树学习过程 独热编码one-hot

决策树的学习过程

  1. 所有样本都在根结点

2.计算所有可能的特征的信息增益,选择信息增益最大的那个

3.根据选择的特征分离数据集,创造左右两支子树

4.继续进行分裂直到达到停止标准。停止标准有:一个节点只有一类样本;分裂一个节点会导致树的深度超过最大值;从新的分裂得到的信息增益低于一个阈值;一个节点中的样本数低于一个阈值。

决策树可以看做一个**递归(recursive)**的过程

独热编码one-hot

例如猫狗分类,原本耳朵形状这个特征有三个可能的取值,采用独热编码的方式创建三个新的特征,每个特征只有两种情况(0或1) ,每个特征恰好有一个是1,所以叫独热。也可以推广到其他特征,用0或1来表示特征,可以将数字作为神经网络的输入。

相关推荐
胡乱编胡乱赢14 小时前
Decaf攻击:联邦学习中的数据分布分解攻击
人工智能·深度学习·机器学习·联邦学习·decaf攻击
TL滕14 小时前
从0开始学算法——第四天(题目参考答案)
数据结构·笔记·python·学习·算法
齐生114 小时前
iOS 知识点 - Category / Extension / Protocol 小合集
笔记·面试
青云交14 小时前
Java 大视界 -- Java 大数据机器学习模型在自然语言处理中的跨语言信息检索与知识融合
机器学习·自然语言处理·java 大数据·知识融合·跨语言信息检索·多语言知识图谱·低资源语言处理
_Twink1e15 小时前
【HCIA-AIV4.0】2025题库+解析(二)
人工智能·深度学习·机器学习
铅笔侠_小龙虾15 小时前
深度学习理论推导--多元线性回归
人工智能·深度学习·机器学习
TL滕15 小时前
从0开始学算法——第四天(练点题吧)
数据结构·笔记·学习·算法
从零开始学习人工智能16 小时前
PDF解析双雄对决:Unstructured vs PyMuPDF 深度对比与选型指南
数据库·人工智能·机器学习
胡乱编胡乱赢16 小时前
关于联邦学习中的Decaf攻击基础知识
人工智能·深度学习·机器学习
moringlightyn16 小时前
进程控制(程序替换+自定义Shell)
linux·服务器·c++·笔记·c·shell·进程