《零基础入门Spark》学习笔记 Day 14

特征工程-上

特征工程是机器学习流程中至关重要的环节,旨在通过数据转换、组合或创建新特征,提升模型性能。其核心目标包括提高数据质量、增强特征与目标变量的相关性,以及降低计算复杂度。

对于原始数据中的字段,我们会把它们分为数值型和非数值型。

Spark MLlib特征处理函数可以分为如下几类:

预处理(StringIndexer)

作用是以数据列为单位,把字段中的字符串转换为数值索引。

StringIndexed的用法比较简单,可以分为三个步骤:

第一步,实例化StringIndexer对象;

第二步,通过setInputCol和setOutputCol来指定输入列和输出列;

第三步,调用fit和transform函数,完成数据转换

特征选择(ChiSqSelector)

就是依据一定的标准,对特征字段进行遴选。实际上,面对数量众多的候选特征,业务经验往往是特征选择的重要出发点之一。与此同时,我们还会使用一些统计方法,去计算候选特征与预测标的之间的关联性,从而以量化的方式,衡量不同特征对于预测标的重要性。要使用ChiSqSelector来选择数值型字段,需要完成两步:

第一步,使用VectorAssembler创建特征向量

第二步,基于特征向量,使用ChiSqSelector完成特征选择。

归一化(MinMaxScaler)

用于是把一组数值,统一映射到同一个值域,而这个值域通常是[0,1]。当原始数据之间的量纲差异较大时,抖动较大,模型不容易收敛,从而导致训练效率较差。相反,当所有特征数据都被约束到同一个值域时,模型训练的效率会得到大幅提升。

MinMaxScaler的用法,也分为两步:

第一步,使用VectorAssembler创建特征向量;

第二步,基于特征向量,使用使用MinMaxScaler完成归一化

归一化的目标,在于去掉不同特征之间量纲的影响,避免量纲不一致而导致的梯度下降震荡,模型收敛效率低下等问题。

离散化

Embedding

向量计算

相关推荐
小郑加油13 小时前
python学习Day10天:列表进阶 + 内置函数 + 代码简化
开发语言·python·学习
GIS数据转换器13 小时前
“一张图”背景下的地质灾害监测预警与防治能力建设
大数据·人工智能·数据分析·无人机·智慧城市
z194089206613 小时前
Word题库转结构化:告别换行、选项与答案乱象
经验分享·笔记·语音识别
Elastic 中国社区官方博客13 小时前
在 Elastic 中使用 MCP 自动化用户旅程以进行合成监控
大数据·运维·人工智能·elasticsearch·搜索引擎·自动化·可用性测试
跨境数据猎手14 小时前
1688 商品铺货到独立站实操(附工具 + 代码)
大数据·爬虫·软件构建
song1502653729814 小时前
【无标题】
大数据
2501_9272835814 小时前
荣联汇智立体仓库:为智慧工厂搭建高效“骨骼”与“中枢”
大数据·运维·人工智能·重构·自动化·制造
NOCSAH14 小时前
统好AI数智平台SRM模块:智能采购管理实操
大数据·人工智能
Ai1731639157914 小时前
10大算力芯片某某XXU全解析:CPU/GPU/TPU/NPU/LPU/FPGA/RPU/BPU/DPU/GPGPU
大数据·图像处理·人工智能·深度学习·计算机视觉·自动驾驶·知识图谱
Bechamz14 小时前
大数据开发学习Day23
大数据·学习·ajax