主成分分析(PCA)例题——给定协方差矩阵

向量 x x x的相关矩阵为

R x = 0.3 0.1 0.1 0.1 0.3 − 0.1 0.1 − 0.1 0.3 {\bm R}_x = \begin{bmatrix} 0.3 & 0.1 & 0.1 \\ 0.1 & 0.3 & -0.1 \\ 0.1 & -0.1 & 0.3 \end{bmatrix} Rx= 0.30.10.10.10.3−0.10.1−0.10.3

计算输入向量的 KL 变换。


解答

R x {\bm R}_x Rx的特征值为 λ 0 = 0.1 \lambda_0 = 0.1 λ0=0.1, λ 1 = λ 2 = 0.4 \lambda_1 = \lambda_2 = 0.4 λ1=λ2=0.4。

既然 R x {\bm R}_x Rx是对称的,可以构建正交特征向量。

在这个例子中,有

u 0 = 1 3 1 − 1 − 1 , u 1 = 1 6 2 1 1 , u 2 = 1 2 0 1 − 1 {\bm u}_0 = \frac{1}{\sqrt{3}} \begin{bmatrix} 1 \\ -1 \\ -1 \end{bmatrix}, \quad {\bm u}_1 = \frac{1}{\sqrt{6}} \begin{bmatrix} 2 \\ 1 \\ 1 \end{bmatrix}, \quad {\bm u}_2 = \frac{1}{\sqrt{2}} \begin{bmatrix} 0 \\ 1 \\ -1 \end{bmatrix} u0=3 1 1−1−1 ,u1=6 1 211 ,u2=2 1 01−1

则 KL 变换为

y ( 0 ) y ( 1 ) y ( 2 ) = 2 / 6 1 / 6 1 / 6 0 1 / 2 − 1 / 2 1 / 3 − 1 / 3 − 1 / 3 x ( 0 ) x ( 1 ) x ( 2 ) \begin{bmatrix} y(0) \\ y(1) \\ y(2) \end{bmatrix} = \begin{bmatrix} 2/\sqrt{6} & 1/\sqrt{6} & 1/\sqrt{6} \\ 0 & 1/\sqrt{2} & -1/\sqrt{2} \\ 1/\sqrt{3} & -1/\sqrt{3} & -1/\sqrt{3} \end{bmatrix} \begin{bmatrix} x(0) \\ x(1) \\ x(2) \end{bmatrix} y(0)y(1)y(2) = 2/6 01/3 1/6 1/2 −1/3 1/6 −1/2 −1/3 x(0)x(1)x(2)

其中 y ( 0 ) , y ( 1 ) y(0), y(1) y(0),y(1)对应于两个最大的特征值。

相关推荐
Kobebryant-Manba20 小时前
IEKT向量矩阵流程&评估
人工智能·算法·矩阵
学习论之费曼学习法3 天前
无人值守AI内容矩阵实战(10):Windows 上让 Python 进程 7×24 活着
人工智能·windows·python·矩阵·powershell·进程守护
zhongben_keji3 天前
家政小程序开发全解:经营模式、品类矩阵、派单约束与信用核验
线性代数·矩阵·apache
silvamux_3 天前
微头条爆款体平台适配实测:把交付要求变成可计算的指标
java·线性代数·算法·决策树·矩阵
zyseo83 天前
谷歌SEO 关键词研究完整方法论:从种子词到优先级矩阵
数据库·人工智能·矩阵
lvwangshu3 天前
P15569 [COCI 2025/2026 #5] 结构 / Struktura 题解
矩阵·题解·dp·推导题·矩阵加速
镜子AI4 天前
镜子AI工程实践:用 Python 自动生成 GEO 问答语料与意图覆盖矩阵(零依赖)
人工智能·python·矩阵
学习论之费曼学习法5 天前
无人值守AI内容矩阵实战(8):标题 A/B 实验的 6 个工程实现细节,隔日对比与自动判胜
人工智能·python·算法·矩阵·自动化·a/b测试·内容矩阵
晒太羊的猫5 天前
hot100矩阵问题
线性代数·矩阵
轻口味5 天前
启元无真机二开实战1:54 个接口能做什么、不能做什么——启元 Q1/T1 SDK 能力全景与版本矩阵
线性代数·矩阵·ros2·具身智能·启元机器人