《零基础入门Spark》学习笔记 Day 14

特征工程-上

特征工程是机器学习流程中至关重要的环节,旨在通过数据转换、组合或创建新特征,提升模型性能。其核心目标包括提高数据质量、增强特征与目标变量的相关性,以及降低计算复杂度。

对于原始数据中的字段,我们会把它们分为数值型和非数值型。

Spark MLlib特征处理函数可以分为如下几类:

预处理(StringIndexer)

作用是以数据列为单位,把字段中的字符串转换为数值索引。

StringIndexed的用法比较简单,可以分为三个步骤:

第一步,实例化StringIndexer对象;

第二步,通过setInputCol和setOutputCol来指定输入列和输出列;

第三步,调用fit和transform函数,完成数据转换

特征选择(ChiSqSelector)

就是依据一定的标准,对特征字段进行遴选。实际上,面对数量众多的候选特征,业务经验往往是特征选择的重要出发点之一。与此同时,我们还会使用一些统计方法,去计算候选特征与预测标的之间的关联性,从而以量化的方式,衡量不同特征对于预测标的重要性。要使用ChiSqSelector来选择数值型字段,需要完成两步:

第一步,使用VectorAssembler创建特征向量

第二步,基于特征向量,使用ChiSqSelector完成特征选择。

归一化(MinMaxScaler)

用于是把一组数值,统一映射到同一个值域,而这个值域通常是0,1。当原始数据之间的量纲差异较大时,抖动较大,模型不容易收敛,从而导致训练效率较差。相反,当所有特征数据都被约束到同一个值域时,模型训练的效率会得到大幅提升。

MinMaxScaler的用法,也分为两步:

第一步,使用VectorAssembler创建特征向量;

第二步,基于特征向量,使用使用MinMaxScaler完成归一化

归一化的目标,在于去掉不同特征之间量纲的影响,避免量纲不一致而导致的梯度下降震荡,模型收敛效率低下等问题。

离散化

Embedding

向量计算

相关推荐
freejackman25 分钟前
【工程化】从“单兵作战”到“多引擎架构”:基于门面模式的重构实战
大数据·数据库·hive·sql·测试工具·设计模式·架构
Century_Dragon37 分钟前
让新能源故障诊断实训“触手可及“——仿真教学软件(VR)介绍
学习
江屿风1 小时前
【Git-组件】【Git入门:从文档灾难到版本掌控】流食般投喂
运维·笔记·git·组件·版本控制
楚山之石1 小时前
【Radiology】影像组学的标准化与可重复性:IBSI 卷积滤波器共识及其未能覆盖的环节
人工智能·学习·机器学习·mri
字节跳动数据平台2 小时前
火山引擎知识引擎VeKnow进化之路(上):从“人有数可用”到“AI有智可循”
大数据
小李不想当小白2 小时前
HAL库之UART(STM32 HAL库学习笔记)
笔记·stm32·单片机·嵌入式硬件·学习·嵌入式
旖旎夜光3 小时前
【C++ 基础入门】C++ 多态(中):虚函数表、多态原理与动静绑定
开发语言·c++·笔记·学习
Flynn Liang4 小时前
Apache Superset 重要特性详解(三):语义层 / 权限 / 缓存 / 嵌入的实战最佳实践(2026 版)
大数据·clickhouse·数据可视化·架构设计·superset·数据分析平台
旖旎夜光4 小时前
【C++ 基础入门】C++多态(下):单/多继承虚表、多态补充与 21 道高频题
开发语言·c++·笔记·学习
叼烟扛炮10 小时前
[LangChain] 学习笔记(07):大模型长出手脚——工具(Tools)定义与调用闭环
笔记·学习·langchain