【机器学习】—PCA(主成分分析)

主成分分析(PCA)详解

引言

主成分分析(PCA)是一种统计方法,它可以通过正交变换将一组可能相关的变量转换为一组线性不相关的变量,这些变量称为主成分。PCA经常用于降维,数据压缩,以及在数据挖掘中发现数据结构。

PCA的数学原理

协方差矩阵

假设我们有一个数据集 ( X ),其中包含 ( n ) 个样本,每个样本有 ( p ) 个特征。我们可以将 ( X ) 表示为一个 ( n \times p ) 的矩阵。PCA的第一步是计算协方差矩阵 ( \Sigma ),它是数据集 ( X ) 的特征值和特征向量的载体。

协方差矩阵 ( \Sigma ) 定义为:

\\Sigma = \\frac{1}{n-1} X\^T X

特征值分解

接下来,我们需要对协方差矩阵 ( \Sigma ) 进行特征值分解。特征值分解的目的是找到矩阵的特征值 ( \lambda ) 和对应的特征向量 ( v ),使得:

\\Sigma v = \\lambda v

主成分

特征向量 ( v ) 表示新的特征空间的方向,而特征值 ( \lambda ) 表示每个特征向量的重要性。我们通常按照特征值从大到小的顺序选择前 ( k ) 个特征向量,这些特征向量对应的主成分能够解释数据中最大的方差。

转换数据

最后,我们将原始数据 ( X ) 通过这些特征向量转换到新的特征空间,得到降维后的数据:

X_{reduced} = X V_k

其中 ( V_k ) 是包含前 ( k ) 个特征向量的矩阵。

Python代码实现

以下是使用Python中的sklearn库来实现PCA的一个简单例子。

python 复制代码
import numpy as np
from sklearn.decomposition import PCA
from sklearn.preprocessing import StandardScaler

# 假设X是包含数据的numpy数组
X = np.array([[1, 2], [3, 4], [5, 6]])

# 标准化数据
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)

# 创建PCA对象,设置主成分的数量
pca = PCA(n_components=2)

# 对数据进行拟合和转换
X_pca = pca.fit_transform(X_scaled)

print("原始数据:\n", X)
print("降维后的数据:\n", X_pca)
相关推荐
oil欧哟8 小时前
AI Agent Skill 入门指南:文件夹本质、渐进式加载与挑选方法
人工智能·ai编程
百度Geek说8 小时前
从代码生成到需求交付:DarkFactory 的工程实践
人工智能
Baihai_IDP8 小时前
使用场景不同,模型“推理速度慢”的原因也不同
人工智能·面试·llm
挖掘狂人8 小时前
AI 三分钟写完的代码,你凭什么敢直接上线?
人工智能·程序员·ai编程
墨林陌9 小时前
AI 热点日报(2026-11-20):苹果自研 AI 智能体曝光,Anthropic 上市首日大涨,智能体支付落地
人工智能
AAA修煤气灶刘哥9 小时前
32 GB 内存跑起 1800 亿参数模型,代价是什么?
人工智能·后端·架构
玩美数据9 小时前
海外市场数据分析驱动下的产业趋势演变与竞争格局深度解读
大数据·人工智能
oil欧哟9 小时前
Oil Studio 的产品思路与日常使用方式:在 Mac 上录口播演示,并接入 AI Agent 精剪与自动录屏
人工智能·macos
意念回复10 小时前
从 RNN 到 GQA:自注意力与多头注意力机制全解析
人工智能·rnn·深度学习