one-hot编码

我来详细介绍一下 one-hot 编码(独热编码)。

什么是 One-Hot 编码?

One-Hot 编码是一种将分类变量 转换为二进制向量的技术,其中每个类别都表示为一个二进制向量,只有一个元素为1("热"),其余都为0。

工作原理

假设有一个颜色类别变量:["红", "绿", "蓝"]

原始数据:

text

复制代码
红
绿
蓝
红

One-Hot 编码后:

text

复制代码
红 → [1, 0, 0]
绿 → [0, 1, 0]
蓝 → [0, 0, 1]
红 → [1, 0, 0]

为什么要使用 One-Hot 编码?

  1. 消除类别间的序数关系:避免机器学习模型误以为类别之间有大小顺序关系

  2. 兼容算法:许多机器学习算法(如线性回归、神经网络)需要数值输入

  3. 保持类别独立性:每个类别都成为独立的特征维度

在 Python 中的实现

方法1:使用 pandas

python

复制代码
import pandas as pd

# 创建示例数据
df = pd.DataFrame({'颜色': ['红', '绿', '蓝', '红', '绿']})

# 进行 one-hot 编码
one_hot = pd.get_dummies(df['颜色'], prefix='颜色')
print(one_hot)

方法2:使用 scikit-learn

python

复制代码
from sklearn.preprocessing import OneHotEncoder
import numpy as np

# 创建示例数据
data = np.array(['红', '绿', '蓝', '红', '绿']).reshape(-1, 1)

# 创建编码器
encoder = OneHotEncoder(sparse_output=False)

# 拟合和转换
one_hot_encoded = encoder.fit_transform(data)
print(one_hot_encoded)

One-Hot 编码的优缺点

优点:

  • ✅ 简单直观,易于实现

  • ✅ 消除了类别间的虚假序数关系

  • ✅ 与大多数机器学习算法兼容

缺点:

  • 维度灾难:如果类别很多,会创建大量稀疏特征

  • 稀疏矩阵:存储效率低

  • ❌ 丢失了类别之间的关系信息(如果有的话)

替代方案

  1. 标签编码(Label Encoding):将类别转换为数字(0, 1, 2...)

  2. 目标编码(Target Encoding):用目标变量的统计量编码

  3. 二进制编码(Binary Encoding):将类别先转换为数字,再转换为二进制

实用建议

  • 当类别数量较少(如<15)时,使用 One-Hot 编码

  • 当类别数量很多时,考虑其他编码方式或特征选择

  • 在神经网络中,One-Hot 编码通常用于输入层

  • 对于有序类别,可以考虑使用有序编码而不是 One-Hot

示例:完整代码

python

复制代码
import pandas as pd
from sklearn.model_selection import train_test_split
from sklearn.linear_model import LogisticRegression

# 示例数据
data = pd.DataFrame({
    '颜色': ['红', '绿', '蓝', '红', '绿', '蓝'],
    '尺寸': ['大', '中', '小', '中', '大', '小'],
    '价格': [100, 200, 150, 120, 180, 160]
})

# One-Hot 编码分类变量
data_encoded = pd.get_dummies(data, columns=['颜色', '尺寸'])

print("原始数据:")
print(data)
print("\nOne-Hot 编码后:")
print(data_encoded)

One-Hot 编码是数据预处理中的基础且重要的技术,特别适用于处理名义型分类变量。

相关推荐
AI医影跨模态组学19 小时前
Cell Rep Med 复旦大学附属肿瘤医院邵志敏教授、肖毅等团队:基于机器学习的多模态整合促进HR+/HER2−乳腺癌的风险分层
人工智能·机器学习·论文·医学·医学影像
锵锵锵锵~蒋19 小时前
AI全托管处理EXCEL(并接入AI平台)
人工智能·excel·mcp·ai全托管·ai提效’
Flandern111119 小时前
Go程序员学习AI大模型项目实战02:给 AI 装上“大脑”:从配置解包到流式生成的深度拆解
人工智能·后端·python·学习·golang
weixin_5134499619 小时前
walk_these_ways项目学习记录第十篇(通过行为多样性 (MoB) 实现地形泛化)--从仿真到部署
人工智能·学习·算法
2501_9481142419 小时前
Claude Sonnet 4.6 深度评测:性能逼近 Opus、成本打骨折,附接入方案与选型指南
大数据·网络·人工智能·安全·架构
angleboy820 小时前
【原创】如何WIN 10/11系统下解决YOLOv13训练异常的安装指南
人工智能·深度学习·yolo
kobesdu20 小时前
ROS导航调参指南:机器人模型、TEB/DWA与Costmap全解析
人工智能·机器人·ros
沫儿笙20 小时前
库卡焊接机器人混合气节气装置
人工智能·机器人
ZhuNian的学习乐园20 小时前
LLM智能体调度:从ReAct到多智能体调度
人工智能·python·深度学习
沫儿笙20 小时前
弧焊机器人节气装置
人工智能·机器人