Python数据分析与可视化笔记 六 特征构建 特征提取 主成分分析 独立成分分析 线性判别分析

特征构建

特征构建是指从原始特征中人工构建新的特征。假设原始数据是表格数据,可以使用混合属性或者组合数学来创建新的特征。

特征提取

特征提取是在原始特征的基础上,自动构建新的特征,将原始数据转换为一组更具物理意义、统计意义或者核的特征。特征提取的主要方法包括主成分分析、独立成分分析和线性判别分析。

1.主成分分析 (Principal Component Analysis, PCA)

PCA的思想是通过坐标轴转换 ,寻找数据分布的最优子空间,从而达到降维去除数据间相关性的目的。在数学上,是先用原始数据协方差矩阵的前 N 个最大特征值对应的特征向量构成映射矩阵,然后原始矩阵左乘映射矩阵,从而对原始数据降维。

2.独立成分分析(Independent Component Analysis, ICA)

PCA特征转换降维,提取的是不相关的部分, ICA 获得的是相互独立的属性 。ICA 算法本质是寻找一个线性变换 Z = W_x,使得 Z 的各特征分量之间的独立性最大。ICA 比 PCA更能刻画变量的随机统计特性 ,且能抑制噪声。ICA 认为观测到的数据矩阵 X 是可以由未知的独立元矩阵 S 与未知的矩阵 A 相乘得到的。

3.线性判别分析( Linear Discriminant Analysis,LDA)

LDA 的原理是将带上标签的数据(点)通过投影的方法,投影到维度更低的空间,使得投影后的点会形成按类别区分,相同类别的点将会在投影后更接近。

相关推荐
DashVector33 分钟前
向量检索服务 DashVector产品计费
数据库·数据仓库·人工智能·算法·向量检索
AI纪元故事会34 分钟前
【计算机视觉目标检测算法对比:R-CNN、YOLO与SSD全面解析】
人工智能·算法·目标检测·计算机视觉
音视频牛哥38 分钟前
从协议规范和使用场景探讨为什么SmartMediaKit没有支持DASH
人工智能·音视频·大牛直播sdk·dash·dash还是rtmp·dash还是rtsp·dash还是hls
卡提西亚42 分钟前
C++笔记-10-循环语句
c++·笔记·算法
赞奇科技Xsuperzone1 小时前
DGX Spark 实战解析:模型选择与效率优化全指南
大数据·人工智能·gpt·spark·nvidia
音视频牛哥1 小时前
SmartMediaKit:如何让智能系统早人一步“跟上现实”的时间架构--从实时流媒体到系统智能的演进
人工智能·计算机视觉·音视频·音视频开发·具身智能·十五五规划具身智能·smartmediakit
喜欢吃豆1 小时前
OpenAI Agent 工具全面开发者指南——从 RAG 到 Computer Use —— 深入解析全新 Responses API
人工智能·microsoft·自然语言处理·大模型
Cathy Bryant1 小时前
概率论直觉(一):大数定律
笔记·考研·数学建模
Khunkin1 小时前
牛顿迭代法:用几何直觉理解方程求根
机器学习
摇滚侠2 小时前
Spring Boot3零基础教程,Reactive-Stream 四大核心组件,笔记106
java·spring boot·笔记