Pytorch-统计学方法、分布函数、随机抽样、线性代数运算、矩阵分解

Tensor中统计学相关的函数

python 复制代码
torch.mean() #返回平均值
torch.sum() #返回总和
torch.prod() #计算所有元素的积
torch.max() # 返回最大值
torch.min() # 返回最小值
torch.argmax() #返回最大值排序的索引值
torch.argmin() #返回最小值排序的索引值
torch.std() #返回标准差
torch.var() #返回方差
torch.median() #返回中间值
torch.mode() #返回众数值
torch.histc() #计算input的直方图
torch.bincount() #返回每个值得频数

分布函数

Tensor的torch.distributions

distributions 包含可参数化的概率分布和采样函数

  • 得分函数
    • 强化学习中策略梯度方法的基础
  • pathwise derivative估计器
    • 变分自动编码器中的重新参数化技巧
  • ExponentialFamily、Bernoulli、Categorical、 Beta、 Binomial.Cauchy、Chi2、Dirichlet、Exponential、 FisherSnedecor.Gamma、Geometric、Gumbel、HalfCauchy、HalfNormal.Independent、 Laplace、 LogNormal、LowRankMultivariateNormal、Multinomial、 MultivariateNormalNegativeBinomial、Normal、OneHotCategorical、 Pareto、Poisson、RelaxedBernoulli、RelaxedOneHotCategorical.StudentT、TransformedDistribution、Uniform、 Weibul

Tensor中的随机抽样

  • 定义随机种子
    • torch.manual_seed(seed)
  • 定义随机数满足的分布
    • torch.normal()

Pytorch与线性代数运算

Tensor中的范数运算

范数

  • 在泛函分析中,它定义在赋范线性空间中,并满足一定的条件,即 非负性、齐次性、三角不等式
  • 常被用来度量某个向量空间(或矩阵)中的每个向量的长度或大小

0范数/1范数/2范数/p范数/核范数

  • torch.dist(input, other p=2)计算p范数
  • torch.norm()计算2范数

Tensor中的矩阵分解

常见的矩阵分解

  • LU分解:将矩阵A分解成L(下三角)矩阵和U(上三角)矩阵的乘积
  • QR分解:将原矩阵分解成一个正交矩阵Q和一个上三角矩阵R的乘积
  • EVD分解:特征值分解
  • SVD分解:奇异值分解

特征值分解

  • 将矩阵分解为由其特征值和特征向量表示的矩阵之积的方法
  • 特征值 VS 特征向量


PCA与特征值分解

  • PCA:将n维特征映射到k维上,这k维是全新的正交特征也被称为主成分,是在原有n维特征的基础上重新构造出来的k维特征
  • PCA算法的优化目标就是
    • 降维后同一纬度的方差最大
    • 不同维度之间的相关性为0
    • 协方差矩阵

奇异值分解

LDA与奇异值分解


EVD分解 VS SVD分解

  • 矩阵方阵且满秩(可对角化)
  • 矩阵分解不等于特征降维度
  • 协方差矩阵描述方差和相关性

Pytorch中的奇异值分解

  • torch.svd()
相关推荐
qzhqbb1 小时前
基于统计方法的语言模型
人工智能·语言模型·easyui
冷眼看人间恩怨2 小时前
【话题讨论】AI大模型重塑软件开发:定义、应用、优势与挑战
人工智能·ai编程·软件开发
2401_883041082 小时前
新锐品牌电商代运营公司都有哪些?
大数据·人工智能
AI极客菌3 小时前
Controlnet作者新作IC-light V2:基于FLUX训练,支持处理风格化图像,细节远高于SD1.5。
人工智能·计算机视觉·ai作画·stable diffusion·aigc·flux·人工智能作画
阿_旭3 小时前
一文读懂| 自注意力与交叉注意力机制在计算机视觉中作用与基本原理
人工智能·深度学习·计算机视觉·cross-attention·self-attention
王哈哈^_^3 小时前
【数据集】【YOLO】【目标检测】交通事故识别数据集 8939 张,YOLO道路事故目标检测实战训练教程!
前端·人工智能·深度学习·yolo·目标检测·计算机视觉·pyqt
Power20246664 小时前
NLP论文速读|LongReward:基于AI反馈来提升长上下文大语言模型
人工智能·深度学习·机器学习·自然语言处理·nlp
数据猎手小k4 小时前
AIDOVECL数据集:包含超过15000张AI生成的车辆图像数据集,目的解决旨在解决眼水平分类和定位问题。
人工智能·分类·数据挖掘
好奇龙猫4 小时前
【学习AI-相关路程-mnist手写数字分类-win-硬件:windows-自我学习AI-实验步骤-全连接神经网络(BPnetwork)-操作流程(3) 】
人工智能·算法
沉下心来学鲁班4 小时前
复现LLM:带你从零认识语言模型
人工智能·语言模型