吴恩达机器学习笔记 二十六 决策树学习过程 独热编码one-hot

决策树的学习过程

  1. 所有样本都在根结点

2.计算所有可能的特征的信息增益,选择信息增益最大的那个

3.根据选择的特征分离数据集,创造左右两支子树

4.继续进行分裂直到达到停止标准。停止标准有:一个节点只有一类样本;分裂一个节点会导致树的深度超过最大值;从新的分裂得到的信息增益低于一个阈值;一个节点中的样本数低于一个阈值。

决策树可以看做一个**递归(recursive)**的过程

独热编码one-hot

例如猫狗分类,原本耳朵形状这个特征有三个可能的取值,采用独热编码的方式创建三个新的特征,每个特征只有两种情况(0或1) ,每个特征恰好有一个是1,所以叫独热。也可以推广到其他特征,用0或1来表示特征,可以将数字作为神经网络的输入。

相关推荐
d111111111d1 小时前
STM32外设学习-WDG看门狗-(学习笔记)
笔记·stm32·单片机·嵌入式硬件·学习
会挠头但不秃1 小时前
2.逻辑回归模型
算法·机器学习·逻辑回归
大千AI助手2 小时前
模糊集合理论:从Zadeh奠基到现代智能系统融合
人工智能·机器学习·集合·模糊理论·大千ai助手·模糊集合·fuzzysets
数据门徒2 小时前
《人工智能现代方法(第4版)》 第7章 逻辑智能体 学习笔记
人工智能·笔记·学习
不蒸馒头曾口气2 小时前
申论素材学习笔记-以产业振兴激活乡村全面振兴
笔记·学习
工业机器视觉设计和实现3 小时前
我的第三个cudnn程序(cifar10改cifar100)
人工智能·深度学习·机器学习
做一道光3 小时前
电机控制——电流采样(双电阻)
笔记·单片机·嵌入式硬件·电机控制
祝余Eleanor3 小时前
Day 31 类的定义和方法
开发语言·人工智能·python·机器学习
背心2块钱包邮3 小时前
第6节——微积分基本定理(Fundamental Theorem of Calculus,FTC)
人工智能·python·机器学习·matplotlib
wallace20183 小时前
笔记:SpringCloud服务间调用的方式
笔记