【机器学习】—PCA(主成分分析)

主成分分析(PCA)详解

引言

主成分分析(PCA)是一种统计方法,它可以通过正交变换将一组可能相关的变量转换为一组线性不相关的变量,这些变量称为主成分。PCA经常用于降维,数据压缩,以及在数据挖掘中发现数据结构。

PCA的数学原理

协方差矩阵

假设我们有一个数据集 ( X ),其中包含 ( n ) 个样本,每个样本有 ( p ) 个特征。我们可以将 ( X ) 表示为一个 ( n \times p ) 的矩阵。PCA的第一步是计算协方差矩阵 ( \Sigma ),它是数据集 ( X ) 的特征值和特征向量的载体。

协方差矩阵 ( \Sigma ) 定义为:

\\Sigma = \\frac{1}{n-1} X\^T X

特征值分解

接下来,我们需要对协方差矩阵 ( \Sigma ) 进行特征值分解。特征值分解的目的是找到矩阵的特征值 ( \lambda ) 和对应的特征向量 ( v ),使得:

\\Sigma v = \\lambda v

主成分

特征向量 ( v ) 表示新的特征空间的方向,而特征值 ( \lambda ) 表示每个特征向量的重要性。我们通常按照特征值从大到小的顺序选择前 ( k ) 个特征向量,这些特征向量对应的主成分能够解释数据中最大的方差。

转换数据

最后,我们将原始数据 ( X ) 通过这些特征向量转换到新的特征空间,得到降维后的数据:

X_{reduced} = X V_k

其中 ( V_k ) 是包含前 ( k ) 个特征向量的矩阵。

Python代码实现

以下是使用Python中的sklearn库来实现PCA的一个简单例子。

python 复制代码
import numpy as np
from sklearn.decomposition import PCA
from sklearn.preprocessing import StandardScaler

# 假设X是包含数据的numpy数组
X = np.array([[1, 2], [3, 4], [5, 6]])

# 标准化数据
scaler = StandardScaler()
X_scaled = scaler.fit_transform(X)

# 创建PCA对象,设置主成分的数量
pca = PCA(n_components=2)

# 对数据进行拟合和转换
X_pca = pca.fit_transform(X_scaled)

print("原始数据:\n", X)
print("降维后的数据:\n", X_pca)
相关推荐
新智元3 分钟前
毛骨悚然!o3 精准破译照片位置,只靠几行 Python 代码?人类在 AI 面前已裸奔
人工智能·openai
Tech Synapse30 分钟前
电商商品推荐系统实战:基于TensorFlow Recommenders构建智能推荐引擎
人工智能·python·tensorflow
帅帅的Python31 分钟前
2015-2023 各省 GDP 数据,用QuickBI 进行数据可视化——堆叠图!
大数据·人工智能
weixin_4307509340 分钟前
智能小助手部署 Win10 + ollama的Deepseek + CentOS+ maxKB
linux·人工智能·机器学习·语言模型·自然语言处理·centos
Panesle44 分钟前
大模型微调与蒸馏的差异性与相似性分析
人工智能·微调·蒸馏
多巴胺与内啡肽.44 分钟前
深度学习--循环神经网络RNN
人工智能·rnn·深度学习
子燕若水1 小时前
解释PyTorch中的广播机制
人工智能·pytorch·python
计算机真好丸1 小时前
第R4周:LSTM-火灾温度预测
人工智能·rnn·lstm
数据与人工智能律师1 小时前
正确应对监管部门的数据安全审查
大数据·网络·数据库·人工智能·区块链
偶尔微微一笑1 小时前
sgpt在kali应用
linux·人工智能·python·自然语言处理