机器学习课程复习——主成分分析

Q:主成分分析的步骤?

1.数据预处理:对给定数据进行规范化(中心化处理),使得每一变量的平均值为0,方差为1

2.对数据进行正交变换:

原来由线性相关变量表示的数据通过正交变换变成由若干个线性无关的新变量表示的数据,新变量是可能的正交变换中变量的方差的和最大的,方差表示在新变量上信息的大小

(1)计算协方差矩阵:协方差矩阵描述了不同特征之间的相互关系

(2)求解特征值和特征向量:特征值表示对应特征向量方向上的方差大小,特征向量则定义了新的坐标轴方向

(3)选择主成分:根据特征值的大小选择前k个最大的特征值对应的特征向量作为主成分

(4)数据降维:将原始数据投影到选定的主成分构成的新坐标系中,得到降维后的数据

3.找到数据分布最分散的方向(方差最大) 作为主成分(坐标轴)

Q:主成分分析需要调的参数?

  1. n_components: 该参数决定PCA算法保留的主成分个数,即降维后的数据维度。可以直接设置为一个整数,表示希望保留的维度数;也可以设置为0到1之间的小数,表示保留的主成分方差百分比;还可以设置为'mle',此时PCA会自动选择足够多的主成分以保持指定的方差百分比。
  2. copy: 该参数决定是否在运行PCA算法之前复制输入数据。如果设为True,则会复制数据,这样原始数据不会被修改;如果设为False,则直接在原始数据上进行计算,这可能会改变原始数据的内容。
  3. whiten: 该参数决定是否对降维后的数据进行白化处理。白化处理会使所有特征均值为0方差为1。
  4. svd_solver: 该参数用于指定奇异值分解(SVD)的方法。不同的求解器适用于不同大小和结构的数据集,例如'randomized'适用于大规模数据集,而'full'则适用于较小规模的数据集。
相关推荐
狠活科技几秒前
GPT Image 2.5 发布:AI 生图又进化了
人工智能·gpt·ai作画·aigc·image2.5
程xu袁4 分钟前
AI写歌词和AI作曲有什么区别?想做完整歌曲,AI音乐工具怎么选?
人工智能
ACME20447 分钟前
破产财产处置新规落地,管理人如何选聘拍卖机构?
人工智能
AI让世界更懂你10 分钟前
计算机专业研究生核心能力培养(6)——论文写作的表达与打磨
人工智能
风之清扬13 分钟前
Agent学习之四-初识Agent CLI
人工智能·科技·学习
零依赖极客20 分钟前
Day 9·1 KV 也量化——q8 KV 把缓存与 decode 带宽压到一半
c语言·开发语言·arm开发·人工智能·缓存·矩阵
陈童学哦20 分钟前
AI术语大全
人工智能
tuanxiang21 分钟前
用去AI味工具调整大模型生成的技术文档,我踩了检测阈值的坑
人工智能
天辛大师24 分钟前
天辛大师谈AI时代的沉思录,All in AI 持续做事与放大效应
大数据·人工智能·随机森林·重构·启发式算法
不要生病了26 分钟前
Brain-JEPA:用功能梯度定位与时空遮蔽预训练 fMRI 基础模型
人工智能·深度学习