机器学习-离散型变量处理

离散型变量处理思路

离散型变量输入通常为字符串形式,除了少数决策树模型能够直接处理类别型变量之外,对于逻辑回归、支持向量机等模型而言,必须将类别型变量转换为数值型变量才能正确的工作。

1.Ordinary Encoding(Label Encoding)

自然编码,按照类别出现的自然顺序进行编码,通常用于处理类别之间存在大小关系的数据。

编码顺序会按照大小关系对类别型特征赋予自己的数值ID,但是同时保留了大小关系。

2.One-hot Encoding

独热编码,将N个特征编码为N维的稀疏向量,有效解决了自然编码存在大小关系保留的问题,不好处理数据属性的问题,在一定程度上扩充了维度。

但是当类别过多时,会造成维度灾难。

3. Binary Encoding

将原本的独热编码编码为二进制单位,一定程度上增加了信息的稠密度

4.直接采用LGB、catboost等能直接读取类别型变量的树模型

5.Embedding

将模型类别型变量进行嵌入的操作,可以有效压缩one-hot编码造成的数据稀疏的问题

相关推荐
java资料站1 小时前
十一、Spring AI Alibaba · 高级 · 多智能体(Multi-agent)
人工智能·spring·microsoft
2601_955662461 小时前
情感解说视频如何提升感染力?配音细节很关键
人工智能·音视频·语音识别·视频
苏醒的人生1 小时前
电商品牌物料AI生图工具推荐:让品牌调性一套到底
人工智能
lank_M1 小时前
截图OCR预处理在普通屏上翻车,Retina截图却没事
图像处理·人工智能·计算机视觉·ocr
Aloudata1 小时前
LookML 语义模型 vs 企业级独立语义层:BI 建模语言能否承担企业语义底座?
数据库·人工智能·数据分析·数据资产·dataagent
龙亘川1 小时前
AI 协同赋能城市治理:支撑政协数字化履职的技术路径探析
大数据·人工智能·智慧城市·开源软件·数据可视化
通信大模型1 小时前
IEEE TCCN | 面向低空经济网络的Agentic AI驱动多无人机轨迹优化
网络·人工智能·无人机
爱编程的小白L2 小时前
2027 计算机毕业设计选题汇总|深度学习专项(2027最新)
人工智能·深度学习·课程设计
逸模2 小时前
BIM在连锁餐饮装修中的应用:不只是画三维图
大数据·数据库·人工智能·物联网·建模