数据分析 | 热度编码和标签编码

热度编码 (One-Hot Encoding)和标签编码 (Label Encoding)是两种常用的将分类变量转换为数值型变量的方法。下面是对这两种编码

方式的详细解释及Python代码示例。

1. 热度编码(One-Hot Encoding)

定义

热度编码将每个类别转换为一个新的二进制变量(0或1)。每个类别都有一个独立的列,表示该样本是否属于该类别。

优点

  • 不会引入顺序关系,适合无序类别(如颜色、性别等)。
  • 保持了每个类别的独立性。

缺点

  • 对于类别数量较多的变量,可能会导致维度爆炸(即生成大量的虚拟变量)。

Python示例

python 复制代码
import pandas as pd

# 创建示例数据集
data = pd.DataFrame({
    'color': ['red', 'blue', 'green', 'blue', 'red']
})

# 使用独热编码
one_hot_encoded_data = pd.get_dummies(data, columns=['color'], drop_first=True)

print(one_hot_encoded_data)

输出

复制代码
   color_blue  color_green
0           0            0
1           1            0
2           0            1
3           1            0
4           0            0

解释

  • pd.get_dummies(...)函数将color列中的每种颜色转换为新的二进制列(color_bluecolor_green)。
  • drop_first=True参数删除了第一个类别(red),从而避免了多重共线性。

2. 标签编码(Label Encoding)

定义

标签编码将每个类别转换为一个唯一的整数值。这种方法对每个类别分配一个数字,通常从0开始。

优点

  • 简单且节省内存。
  • 在某些模型(如树模型)中,能够处理有序类别。

缺点

  • 对于无序类别,可能会引入不必要的顺序关系,使得模型误解类别之间的关系。

Python示例

python 复制代码
from sklearn.preprocessing import LabelEncoder

# 创建示例数据集
data = pd.DataFrame({
    'color': ['red', 'blue', 'green', 'blue', 'red']
})

# 创建LabelEncoder实例
label_encoder = LabelEncoder()

# 使用标签编码
data['color_encoded'] = label_encoder.fit_transform(data['color'])

print(data)

输出

复制代码
   color  color_encoded
0    red              2
1   blue              0
2  green              1
3   blue              0
4    red              2

解释

  • LabelEncodercolor列中的每种颜色转换为唯一的整数值。 red被编码为2,blue为0,green为1。
  • 这种方法在处理有序类别时可能有意义,但在处理无序类别时需要谨慎。

总结

  • 热度编码(One-Hot Encoding)

    • 将每个类别转换为独立的二进制列,适合无序类别。
    • 可能导致维度爆炸。
  • 标签编码(Label Encoding)

    • 将每个类别转换为唯一的整数,适合有序类别。
    • 可能引入不必要的顺序关系,适合某些模型(如树模型)使用。

选择合适的编码方式取决于数据的特性和后续模型的需求。在无序类别的情况下,热度编码通常是更好的选择,而标签编码适用于有序

类别。

相关推荐
Raas1004 小时前
MAI Gateway(魔芋企业级AI网关)对比分析:AI网关和API网关区别?企业级能力差距一览
大数据·人工智能·数据挖掘·mai gateway·企业级产品
SelectDB8 小时前
Apache Doris 5.0 年度版本前瞻(一):构建统一的多模湖仓实时分析平台
大数据·数据库·数据分析
橙时数据 FineInsight9 小时前
AI 能回答数据问题,但能解释业务原因吗?
大数据·人工智能·数据分析·指标平台·fineinsight
SelectDB技术团队9 小时前
实时主键更新选型:Doris MOW vs StarRocks 主键模型原理解析
数据分析·实时数仓·数据更新·主键模型·实时更新·写入更新·olap 引擎
知识分享小能手9 小时前
深度学习学习教程,从入门到精通,概率与信息论 — 知识点详解(3)
人工智能·深度学习·学习·数据挖掘·概率论
leoZ23111 小时前
第 2 篇:搭建地基——Vue3 + Vite + Tailwind v4 + shadcn-vue
前端·javascript·vue.js·人工智能·目标检测·数据挖掘·语音识别
数脉11 小时前
从 0 设计一个列级数据血缘模型:我们踩过的坑与最终方案
数据分析
Mr数据杨13 小时前
电子游戏日本市场销量预测实战 从 Kaggle 回归赛题到区域销售判断
人工智能·数据分析·kaggle竞赛
BioRunYiXue13 小时前
科研干货 | IC50全面解读:概念解析、实验设计与数据分析要点
java·开发语言·javascript·人工智能·算法·数据挖掘·数据分析
Mr数据杨13 小时前
小样本图像分类实战 Cleaned vs Dirty V2 盘子清洁识别案例解析
人工智能·数据分析·kaggle竞赛