一、PCA
**PCA做什么?**找坐标系。
**目标?**二维降到一维,信息保留最多。
**怎么样最好?**数据分布最分散的方向(方差最大),作为主成分(坐标轴)。

二、怎么找主成分?

PC1的确定: 每个点的 之和最小,即
之和最大。
**PC2的确定:**过原点,且与PC1垂直。
**PCA降维的核心思想是:**用少数几个最重要的方向(主成分PC1)来表示数据,而不是用所有方向。
为什么可以降噪?
-
舍弃次要方向: 噪声(偏离的点)通常分布在次要方向(如PC2)上,降维时舍弃这些方向,相当于过滤了一部分噪声。
-
压缩噪声的影响: 即使噪声点在PC1上仍有偏离,它们的偏离程度比在原始数据中要小。

三、特征值与特征向量
(一)特征向量

简单来说,特征向量定义了新的坐标轴的方向。
(二)特征值

特征值表示了每个主成分在数据集中的方差贡献率。
(三)碎石图
