数据分析 | 热度编码和标签编码

热度编码 (One-Hot Encoding)和标签编码 (Label Encoding)是两种常用的将分类变量转换为数值型变量的方法。下面是对这两种编码

方式的详细解释及Python代码示例。

1. 热度编码(One-Hot Encoding)

定义

热度编码将每个类别转换为一个新的二进制变量(0或1)。每个类别都有一个独立的列,表示该样本是否属于该类别。

优点

  • 不会引入顺序关系,适合无序类别(如颜色、性别等)。
  • 保持了每个类别的独立性。

缺点

  • 对于类别数量较多的变量,可能会导致维度爆炸(即生成大量的虚拟变量)。

Python示例

python 复制代码
import pandas as pd

# 创建示例数据集
data = pd.DataFrame({
    'color': ['red', 'blue', 'green', 'blue', 'red']
})

# 使用独热编码
one_hot_encoded_data = pd.get_dummies(data, columns=['color'], drop_first=True)

print(one_hot_encoded_data)

输出

复制代码
   color_blue  color_green
0           0            0
1           1            0
2           0            1
3           1            0
4           0            0

解释

  • pd.get_dummies(...)函数将color列中的每种颜色转换为新的二进制列(color_bluecolor_green)。
  • drop_first=True参数删除了第一个类别(red),从而避免了多重共线性。

2. 标签编码(Label Encoding)

定义

标签编码将每个类别转换为一个唯一的整数值。这种方法对每个类别分配一个数字,通常从0开始。

优点

  • 简单且节省内存。
  • 在某些模型(如树模型)中,能够处理有序类别。

缺点

  • 对于无序类别,可能会引入不必要的顺序关系,使得模型误解类别之间的关系。

Python示例

python 复制代码
from sklearn.preprocessing import LabelEncoder

# 创建示例数据集
data = pd.DataFrame({
    'color': ['red', 'blue', 'green', 'blue', 'red']
})

# 创建LabelEncoder实例
label_encoder = LabelEncoder()

# 使用标签编码
data['color_encoded'] = label_encoder.fit_transform(data['color'])

print(data)

输出

复制代码
   color  color_encoded
0    red              2
1   blue              0
2  green              1
3   blue              0
4    red              2

解释

  • LabelEncodercolor列中的每种颜色转换为唯一的整数值。 red被编码为2,blue为0,green为1。
  • 这种方法在处理有序类别时可能有意义,但在处理无序类别时需要谨慎。

总结

  • 热度编码(One-Hot Encoding)

    • 将每个类别转换为独立的二进制列,适合无序类别。
    • 可能导致维度爆炸。
  • 标签编码(Label Encoding)

    • 将每个类别转换为唯一的整数,适合有序类别。
    • 可能引入不必要的顺序关系,适合某些模型(如树模型)使用。

选择合适的编码方式取决于数据的特性和后续模型的需求。在无序类别的情况下,热度编码通常是更好的选择,而标签编码适用于有序

类别。

相关推荐
修一呀5 小时前
【企业级对话处理】自动估计说话人数 + 声纹聚类 + ASR 转写(FunASR + ModelScope + ClearVoice)
机器学习·数据挖掘·聚类
葡萄城技术团队7 小时前
AI 重构数据分析:技术突破与价值释放
人工智能·重构·数据分析
Christo310 小时前
ICML-2019《Optimal Transport for structured data with application on graphs》
人工智能·算法·机器学习·数据挖掘
不剪发的Tony老师11 小时前
SOFA:一款免费开源的统计分析和报表工具
数据分析·统计
wyiyiyi11 小时前
【数据结构+算法】非递归遍历二叉树的理解
大数据·数据结构·笔记·算法·leetcode·数据分析
Brduino脑机接口技术答疑11 小时前
脑机接口数据处理连载(二) 数据源头解析:脑电信号的采集原理与数据特性
人工智能·python·算法·数据分析·脑机接口
咚咚王者13 小时前
人工智能之数据分析 Matplotlib:第一章 简介和安装
人工智能·数据分析·matplotlib
IT·小灰灰14 小时前
深度解析重排序AI模型:基于硅基流动API调用多语言重排序AI实战指南
java·大数据·javascript·人工智能·python·数据挖掘·php
咚咚王者15 小时前
人工智能之数据分析 Matplotlib:第五章 常见函数
人工智能·数据分析·matplotlib
语落心生17 小时前
流式数据湖Paimon探秘之旅 (一) Paimon整体架构概览
数据分析