机器学习课程复习——主成分分析

Q:主成分分析的步骤?

1.数据预处理:对给定数据进行规范化(中心化处理),使得每一变量的平均值为0,方差为1

2.对数据进行正交变换:

原来由线性相关变量表示的数据通过正交变换变成由若干个线性无关的新变量表示的数据,新变量是可能的正交变换中变量的方差的和最大的,方差表示在新变量上信息的大小

(1)计算协方差矩阵:协方差矩阵描述了不同特征之间的相互关系

(2)求解特征值和特征向量:特征值表示对应特征向量方向上的方差大小,特征向量则定义了新的坐标轴方向

(3)选择主成分:根据特征值的大小选择前k个最大的特征值对应的特征向量作为主成分

(4)数据降维:将原始数据投影到选定的主成分构成的新坐标系中,得到降维后的数据

3.找到数据分布最分散的方向(方差最大) 作为主成分(坐标轴)

Q:主成分分析需要调的参数?

  1. n_components: 该参数决定PCA算法保留的主成分个数,即降维后的数据维度。可以直接设置为一个整数,表示希望保留的维度数;也可以设置为0到1之间的小数,表示保留的主成分方差百分比;还可以设置为'mle',此时PCA会自动选择足够多的主成分以保持指定的方差百分比。
  2. copy: 该参数决定是否在运行PCA算法之前复制输入数据。如果设为True,则会复制数据,这样原始数据不会被修改;如果设为False,则直接在原始数据上进行计算,这可能会改变原始数据的内容。
  3. whiten: 该参数决定是否对降维后的数据进行白化处理。白化处理会使所有特征均值为0方差为1。
  4. svd_solver: 该参数用于指定奇异值分解(SVD)的方法。不同的求解器适用于不同大小和结构的数据集,例如'randomized'适用于大规模数据集,而'full'则适用于较小规模的数据集。
相关推荐
MM_MS3 分钟前
Halcon图像点运算、获取直方图、直方图均衡化
图像处理·人工智能·算法·目标检测·计算机视觉·c#·视觉检测
阿杰学AI4 分钟前
AI核心知识77——大语言模型之Joint Training(简洁且通俗易懂版)
人工智能·深度学习·ai·语言模型·rag·联合训练·joint training
DFT计算杂谈4 分钟前
VASP+PHONOPY+pypolymlpj计算不同温度下声子谱,附批处理脚本
java·前端·数据库·人工智能·python
星爷AG I9 分钟前
9-23 动作意图理解(AGI基础理论)
人工智能·agi
九尾狐ai13 分钟前
从九尾狐AI实战案例解析AI短视频获客的系统架构与实现方案
人工智能
格林威21 分钟前
Baumer相机金属弹簧圈数自动计数:用于来料快速检验的 6 个核心算法,附 OpenCV+Halcon 实战代码!
人工智能·数码相机·opencv·算法·计算机视觉·视觉检测·堡盟相机
万行30 分钟前
SQL进阶&索引篇
开发语言·数据库·人工智能·sql
名字不好奇31 分钟前
一文拆解MCP协议
人工智能·mcp
乾元35 分钟前
拒绝服务的进化:AI 调度下的分布式协同攻击策略
人工智能·分布式
困死,根本不会37 分钟前
OpenCV摄像头实时处理:从单特征到联合识别(形状识别 + 颜色识别 + 形状颜色联合识别)
人工智能·opencv·计算机视觉