Python数据分析与可视化笔记 六 特征构建 特征提取 主成分分析 独立成分分析 线性判别分析

特征构建

特征构建是指从原始特征中人工构建新的特征。假设原始数据是表格数据,可以使用混合属性或者组合数学来创建新的特征。

特征提取

特征提取是在原始特征的基础上,自动构建新的特征,将原始数据转换为一组更具物理意义、统计意义或者核的特征。特征提取的主要方法包括主成分分析、独立成分分析和线性判别分析。

1.主成分分析 (Principal Component Analysis, PCA)

PCA的思想是通过坐标轴转换 ,寻找数据分布的最优子空间,从而达到降维去除数据间相关性的目的。在数学上,是先用原始数据协方差矩阵的前 N 个最大特征值对应的特征向量构成映射矩阵,然后原始矩阵左乘映射矩阵,从而对原始数据降维。

2.独立成分分析(Independent Component Analysis, ICA)

PCA特征转换降维,提取的是不相关的部分, ICA 获得的是相互独立的属性 。ICA 算法本质是寻找一个线性变换 Z = W_x,使得 Z 的各特征分量之间的独立性最大。ICA 比 PCA更能刻画变量的随机统计特性 ,且能抑制噪声。ICA 认为观测到的数据矩阵 X 是可以由未知的独立元矩阵 S 与未知的矩阵 A 相乘得到的。

3.线性判别分析( Linear Discriminant Analysis,LDA)

LDA 的原理是将带上标签的数据(点)通过投影的方法,投影到维度更低的空间,使得投影后的点会形成按类别区分,相同类别的点将会在投影后更接近。

相关推荐
IT_陈寒7 分钟前
SpringBoot自动配置坑了我一晚上,原来问题出在这
前端·人工智能·后端
吴佳浩1 小时前
Hermes Agent 连环 400 真凶找到了:一个 call_id 让人炸毛
人工智能·llm·agent
程序员cxuan2 小时前
幽默,一个 Github 名字叫“马尾辫”,但是他给你省了 80% 的 token
人工智能·后端·程序员
宋哥转AI2 小时前
Agent记忆模块系列:03存储与检索链路实测验证
人工智能·agent
老金带你玩AI2 小时前
老金开源GoalPro,别让AI把目标越写越烂
人工智能
Bigfish_coding2 小时前
前端转agent-【python】-08 用 LangGraph 把 Agent 做成状态机:像写 Vue 3 状态管理一样编排 AI 流程
人工智能
刺猬的温驯3 小时前
语音克隆模型的难点之一:音素对齐及交叉注意力早期失效问题 (兼论旋转位置编码)——F5-TTS、SupertonicTTS、VoxFlash-TTS 对比
人工智能·语音合成·tts
道友可好4 小时前
AI 是最好的混乱放大器:代码熵管理实战
前端·人工智能·后端
不加辣椒5 小时前
第7章 边界与约束技术:确保输出的准确性与安全性
人工智能
AI悦创Python辅导5 小时前
Claude Code 越用越乱?Sub-Agents 才是上下文污染的解法
人工智能