机器学习-离散型变量处理

离散型变量处理思路

离散型变量输入通常为字符串形式,除了少数决策树模型能够直接处理类别型变量之外,对于逻辑回归、支持向量机等模型而言,必须将类别型变量转换为数值型变量才能正确的工作。

1.Ordinary Encoding(Label Encoding)

自然编码,按照类别出现的自然顺序进行编码,通常用于处理类别之间存在大小关系的数据。

编码顺序会按照大小关系对类别型特征赋予自己的数值ID,但是同时保留了大小关系。

2.One-hot Encoding

独热编码,将N个特征编码为N维的稀疏向量,有效解决了自然编码存在大小关系保留的问题,不好处理数据属性的问题,在一定程度上扩充了维度。

但是当类别过多时,会造成维度灾难。

3. Binary Encoding

将原本的独热编码编码为二进制单位,一定程度上增加了信息的稠密度

4.直接采用LGB、catboost等能直接读取类别型变量的树模型

5.Embedding

将模型类别型变量进行嵌入的操作,可以有效压缩one-hot编码造成的数据稀疏的问题

相关推荐
bing.shao1 分钟前
Golang 开发者视角:解读《“人工智能 + 制造” 专项行动》的技术落地机遇
人工智能·golang·制造
LOnghas12111 分钟前
玉米目标检测实战:基于YOLO13-C3k2-RFAConv的优化方案_1
人工智能·目标检测·计算机视觉
量子-Alex11 分钟前
【大模型课程笔记】斯坦福大学CS336 课程环境配置与讲座生成完整指南
人工智能·笔记
冬奇Lab15 分钟前
一天一个开源项目(第9篇):NexaSDK - 跨平台设备端 AI 运行时,让前沿模型在本地运行
人工智能·开源
量子-Alex26 分钟前
【大模型技术报告】Qwen2-VL大模型训练过程理解
人工智能
java1234_小锋32 分钟前
【AI大模型舆情分析】微博舆情分析可视化系统(pytorch2+基于BERT大模型训练微调+flask+pandas+echarts) 实战(上)
人工智能·flask·大模型·bert
新缸中之脑33 分钟前
Imagerouter.io: 免费图像生成API
人工智能
MM_MS37 分钟前
Halcon图像点运算、获取直方图、直方图均衡化
图像处理·人工智能·算法·目标检测·计算机视觉·c#·视觉检测
阿杰学AI38 分钟前
AI核心知识77——大语言模型之Joint Training(简洁且通俗易懂版)
人工智能·深度学习·ai·语言模型·rag·联合训练·joint training
DFT计算杂谈38 分钟前
VASP+PHONOPY+pypolymlpj计算不同温度下声子谱,附批处理脚本
java·前端·数据库·人工智能·python