机器学习——使用分类特征的一种独热编码,

在我们目前看到的例子中,每个特性只能具有两个可能的值中的一个,耳朵形状不是尖的就是软的,脸型不是圆就是不圆,胡须不是存在就是不存在,但是如果特性可以具有两个以上的离散值呢?

如何使用一个热编码来解决这样的特性?

下图是我们宠物收养中心申请的新培训集,所有的数据都是一样的,除了耳形特征有尖软之外还有椭圆形,所以这个特征仍然是一个分类值特征,但它可以有三个可能的值,而不仅仅是两个可能的值,这意味着当你在这个功能上分裂时,最终创建了数据的三个子集,最后为这棵树建造了三个分支。

使用一个热编码,它可以具有两个以上的值,可以呈现三种可能的值中的任何一种,相反,我们将创建三个新功能,一个特点是这种动物有尖耳朵吗,第二是它的耳朵是不是松软的,第三个是它有椭圆形的耳朵吗,所以对于第一个例子,而以前的耳朵形状是尖的,相反,这种动物有一个尖耳特征的价值,尖耳为1,软耳和椭圆形为0,第二个没有尖耳朵,所以为0,也没有松耳朵,所以也为0,但它确实有椭圆形的耳朵,为1,以此类推,对于数据集中的其余示例,不是一个特性具有三个可能的值,我们现在构建了三个特征,它们中的每一个只能具有两个可能的值中的一个,更详细的说,要么是1,要么是0.

如果一个分类特征可以具有k个可能的值,在我们的例子中,k=3,然后我们将通过创建k个二进制特性来替换它,它只能接受0或1的值,在这三个特征中,看其中的任意一行,恰好其中一个值等于1,这就是特征构造方法命名为一个热编码的原因。因为其中一个特性总是具有价值,那是最热门的功能,因此有了热编码的名字,有了这些功能的选择,其中每个特征只具有两个可能的值中的一个,所以我们之前看到的决策树学习算法将应用于这些数据,没有进一步的修改,只是作为一个旁白,使用一个热编码来编码分类特征的想法也适用于训练神经网络,尤其是把脸型用1和0代替圆和不圆,圆代表1,不圆代表0,以此类推,同时有胡须代表1,0代表没胡子,我们已经把所有的分类特征,我们有三个耳朵形状的可能性,两个脸型,一个胡须,并将其编码为这五个特征的列表,三个来自耳形的一个热编码,一个是脸型,一个是胡须,现在这五个特征的列表也可以被输入神经网络或者用逻辑回归来训练猫分类器,因此,一种热门编码技术不仅适用于决策树学习,但也允许使用1和0编码分类特性,所以它也可以作为神经网络的输入,希望数字作为输入,所以这就是热编码,可以让决策树具有两个以上离散值的特性,也可以把它应用到神经网络上或线性回归或逻辑回归训练,但是特征是可以具有任何价值的数字。

相关推荐
风象南4 小时前
普通人用AI加持赚到的第一个100块
人工智能·后端
牛奶4 小时前
2026年大模型怎么选?前端人实用对比
前端·人工智能·ai编程
牛奶4 小时前
前端人为什么要学AI?
前端·人工智能·ai编程
哥布林学者6 小时前
高光谱成像(一)高光谱图像
机器学习·高光谱成像
罗西的思考7 小时前
AI Agent框架探秘:拆解 OpenHands(10)--- Runtime
人工智能·算法·机器学习
冬奇Lab8 小时前
OpenClaw 源码精读(2):Channel & Routing——一条消息如何找到它的 Agent?
人工智能·开源·源码阅读
冬奇Lab8 小时前
一天一个开源项目(第38篇):Claude Code Telegram - 用 Telegram 远程用 Claude Code,随时随地聊项目
人工智能·开源·资讯
格砸9 小时前
从入门到辞职|从ChatGPT到OpenClaw,跟上智能时代的进化
前端·人工智能·后端
可观测性用观测云9 小时前
可观测性 4.0:教系统如何思考
人工智能
sunny8659 小时前
Claude Code 跨会话上下文恢复:从 8 次纠正到 0 次的工程实践
人工智能·开源·github