数值线性代数:奇异值分解SVD

本文记录计算矩阵奇异值分解SVD的原理与流程。

注1:限于研究水平,分析难免不当,欢迎批评指正。

零、预修

0.1 矩阵的奇异值

设列满秩矩阵,若的特征值为,则称为矩阵的奇异值。

0.2 SVD(分解)定理

设,则存在正交矩阵与,使得

其中,,,即为矩阵的奇异值。

考虑下述两种情形:

  • 情形1:

其中,

由此可以看出,若,通过计算矩阵的奇异值,便可矩阵的特征值,而矩阵即为矩阵的特征向量。

  • 情形2:

若,则,也就是说,是的特征值,也是的特征向量。同时考虑到实对称矩阵的秩为n,所以的特征值/特征向量也是的特征值/特征向量。

0.3 Householder变换

设,且,定义为Householder变换。

对于非零向量,可构造,使得

其中,,,。

设,,,对于,

根据上述结论可知,可以构造,使得

具体来说,可按照下述流程进行操作:

由此,通过Householder变换,可以将某一列向量的部分连续元素约化为0。

0.4 Givens变换

设是n维Euclid空间中的一组标准正交基,,则在平面中存在旋转变换矩阵,满足

其中,

由此可以看出,可以将向量的某个元素约化为0。

一、隐式QR计算矩阵奇异值分解

参考资料

Gene H. Golub. Matrix Computations

徐树方. 数值线性代数(第二版). 北京大学出版社, 2010.

Golub G. and Kahan W.. Calculating the Singular Values and Pseudo-Inverse of a Matrix. Journal of the Society for Industrial and Applied Mathematics: Series B, Numerical Analysis, 1965, 2(2) : 205-224.

Demmel J., Kahan W..Accurate Singular Values of Bidiagonal Matrices. SIAM Journal on Scientific and StatisticalComputing, 1990, 11(5):873-912.

P. A. Businger,G. H. Golub. Singular value decomposition of a complex matrix. communications of the acm, 1969.

相关推荐
H H.12 小时前
Java企业级开发:从框架到工程化实战
java·开发语言·经验分享·其他·课程设计
老吴的商业笔记2 天前
GEO源码贴牌系统架构:多平台内容分发API对接的Python实现
其他
橙子家3 天前
gRPC 的本质,是 HTTP/2 上的一份「调用语义公约」
其他
老吴的商业笔记5 天前
GEO: 杭州主要GEO优化系统公司大全(11月)
其他
老吴的商业笔记7 天前
豆包推广: 杭州专业GEO源码部署公司汇总(11月)
其他
研邦新材料7 天前
高熵合金 PREP 粉末氧含量超标复盘 储存筛分环节污染排查
其他
LK_078 天前
【运筹学】什么是优化问题:从现实决策到数学模型
其他
有范先生8 天前
即食米饭和传统自热米饭比强在哪里
其他
老吴的商业笔记9 天前
GEO系统贴牌前如何评估源码架构、私有化部署与技术选型落地路径
其他
迪康coolmu9 天前
出差终端数据安全落地实战:基于迪康端点安全一体化管理系统的四道防线实践
运维·服务器·经验分享·笔记·其他·安全·php