主成分分析(PCA)例题——给定协方差矩阵

向量 x x x的相关矩阵为

R x = 0.3 0.1 0.1 0.1 0.3 − 0.1 0.1 − 0.1 0.3 {\bm R}_x = \begin{bmatrix} 0.3 & 0.1 & 0.1 \\ 0.1 & 0.3 & -0.1 \\ 0.1 & -0.1 & 0.3 \end{bmatrix} Rx= 0.30.10.10.10.3−0.10.1−0.10.3

计算输入向量的 KL 变换。


解答

R x {\bm R}_x Rx的特征值为 λ 0 = 0.1 \lambda_0 = 0.1 λ0=0.1, λ 1 = λ 2 = 0.4 \lambda_1 = \lambda_2 = 0.4 λ1=λ2=0.4。

既然 R x {\bm R}_x Rx是对称的,可以构建正交特征向量。

在这个例子中,有

u 0 = 1 3 1 − 1 − 1 , u 1 = 1 6 2 1 1 , u 2 = 1 2 0 1 − 1 {\bm u}_0 = \frac{1}{\sqrt{3}} \begin{bmatrix} 1 \\ -1 \\ -1 \end{bmatrix}, \quad {\bm u}_1 = \frac{1}{\sqrt{6}} \begin{bmatrix} 2 \\ 1 \\ 1 \end{bmatrix}, \quad {\bm u}_2 = \frac{1}{\sqrt{2}} \begin{bmatrix} 0 \\ 1 \\ -1 \end{bmatrix} u0=3 1 1−1−1 ,u1=6 1 211 ,u2=2 1 01−1

则 KL 变换为

y ( 0 ) y ( 1 ) y ( 2 ) = 2 / 6 1 / 6 1 / 6 0 1 / 2 − 1 / 2 1 / 3 − 1 / 3 − 1 / 3 x ( 0 ) x ( 1 ) x ( 2 ) \begin{bmatrix} y(0) \\ y(1) \\ y(2) \end{bmatrix} = \begin{bmatrix} 2/\sqrt{6} & 1/\sqrt{6} & 1/\sqrt{6} \\ 0 & 1/\sqrt{2} & -1/\sqrt{2} \\ 1/\sqrt{3} & -1/\sqrt{3} & -1/\sqrt{3} \end{bmatrix} \begin{bmatrix} x(0) \\ x(1) \\ x(2) \end{bmatrix} y(0)y(1)y(2) = 2/6 01/3 1/6 1/2 −1/3 1/6 −1/2 −1/3 x(0)x(1)x(2)

其中 y ( 0 ) , y ( 1 ) y(0), y(1) y(0),y(1)对应于两个最大的特征值。

相关推荐
老鱼说AI16 小时前
从点积到希尔伯特空间:向量内积的几何本质与大模型相似度度量
人工智能·深度学习·线性代数·算法·机器学习·数学建模
俗人六哥AI企业获客盈利系统1 天前
知识库才是AI落地的分水岭
人工智能·线性代数·矩阵·自动化
船厂电气自动化ai大模型2 天前
AI大模型与数学|第81天 课程:正交向量、正交基、格拉姆‑施密特(Gram‑Schmidt)正交化
开发语言·数据结构·人工智能·线性代数·机器学习
微三云 - 廖会灵 (私域系统开发)3 天前
私域电商多端商城系统架构实践:小程序 / APP / H5 一套后端如何落地
矩阵·重构·零售
微三云 - 廖会灵 (私域系统开发)3 天前
多端商城统一账号体系设计实践:小程序 / APP / H5 登录打通与账号合并
矩阵·重构·自动化·零售
智购无人售货机厂家6 天前
2026自动售货机品类拓展逻辑:从饮料零食到鲜食药品文创的工程实践~YH
服务器·人工智能·单片机·线性代数·矩阵
IT小白杨6 天前
社媒多账号运营的环境隔离:一张图谱模型,解释清“为什么换IP还是被连坐“
经验分享·笔记·矩阵·指纹浏览器
镜像视界(浙江)科技有限公司7 天前
《视频孪生之上:二维展示终结,三维空间计算重构城市逻辑》——跨摄像连续表达 × 三角测量厘米级定位 × 动态轨迹建模,构建新一代城市空间
大数据·人工智能·算法·矩阵·音视频·空间计算
wzdark8 天前
稀疏矩阵存储结构及其运算复杂度研究4
线性代数·矩阵
零依赖极客8 天前
Day 9·1 KV 也量化——q8 KV 把缓存与 decode 带宽压到一半
c语言·开发语言·arm开发·人工智能·缓存·矩阵