数学-奇异值

有点名词党

奇异值的计算通常涉及矩阵的奇异值分解 Singular Value Decomposition, SVD 。奇异值分解是将一个矩形矩阵 ( A ) 分解为三个矩阵的乘积:

A = U* Σ*V* *T

其中:

- ( U ) 是一个 ( m ×m ) 的正交矩阵,它的列向量是 ( A A T ) 的特征向量。

- ( V ) 是一个 ( n ×n ) 的正交矩阵,它的列向量是 ( A T A ) 的特征向量。

- ( Σ*)* 是一个 ( m ×n ) 的对角矩阵,对角线上的非负数称为奇异值,其余位置上的元素都是零。

计算奇异值的步骤如下:

1. ** 计算 ( A T A ) ( A A T ) ** 对给定的矩阵 ( A ) 计算 ( A T A ) ( A A T )。

2. ** 计算特征值: ** 分别计算 ( A T A ) ( A A T ) 的特征值。

3. ** 计算奇异值: ** 奇异值是 ( A T A ) ( A A T ) 的特征值的平方根。具体来说, ( A T A ) 的特征值 ( λ) ( A ) 的奇异值 ( σ) 之间的关系是 ( σ= λ )。

4. ** 排序奇异值: ** 将计算得到的奇异值按照从大到小的顺序排列,这些值就是 ( Σ*)对角线上的元素。*

特征值和奇异值是两个不同的概念,它们之间的关系取决于矩阵的结构和大小。

对于一个方阵(即行数和列数相等的矩阵),其特征值和奇异值是有直接关系的。在这种情况下,方阵的特征值的平方确实等于奇异值的平方。这是因为方阵的奇异值分解与其特征值分解是等价的,奇异值就是特征值的绝对值。

但是,对于一个长方形矩阵(即行数和列数不相等的矩阵),情况就不同了。长方形矩阵没有特征值(因为它不是方阵,不能被对角化),但可以有奇异值。在这种情况下,奇异值是由矩阵的谱范数(即最大奇异值)和列空间、行空间的几何关系决定的,并不直接对应于特征值的平方。

总结来说:

  • 对于方阵,特征值的绝对值等于奇异值。

  • 对于长方形矩阵,没有特征值,但有奇异值,且奇异值的计算与特征值无关。

因此,不能简单地说特征值是奇异值的平方,这种关系只适用于方阵,并且是在特征值的绝对值和奇异值之间。对于非方阵,我们必须使用奇异值分解来计算奇异值。

在实际应用中,通常使用数值计算软件(如MATLAB、NumPy)提供的函数来计算奇异值,因为这些软件已经对奇异值分解算法进行了优化,能够高效且准确地计算奇异值。例如,在Python中,可以使用NumPy库的 `numpy.linalg.svd` 函数来计算矩阵的奇异值分解。

相关推荐
江畔柳前堤6 小时前
大语言模型分布式训练:从并行策略到万卡工程的系统梳理
人工智能·分布式·深度学习·算法·目标检测·机器学习·语言模型
Forever Nore7 小时前
LeetCode 4 寻找两个正序数组的中位数 - 二分
算法·leetcode
罗西的思考9 小时前
【OpenClaw具身硬件】MiniClaw 阅读笔记---(1)基础
人工智能·算法·机器学习
蛋先生DX9 小时前
大模型参数存储格式揭秘:BF不是男朋友
深度学习·算法·llm
爱跳舞的烤冷面10 小时前
自学嵌入式第22天(数据结构——哈希)
数据结构·算法·哈希算法
猎嘤一号10 小时前
博弈论(Game Theory)的理论、算法与工程
人工智能·算法·安全·博弈论
月光船幽幽10 小时前
影子模式下保护 logits 不被修改
人工智能·python·算法
马拉AI11 小时前
腾讯开源 Agent 记忆系统,AI“换对话就忘”的问题有了新解法(附安装使用教程)
人工智能·算法·开源·科研
地平线开发者12 小时前
征程6工具链模型X86推理方式说明
算法
地平线开发者12 小时前
【征程6】校准量化中HistogramObserver解析
算法