数值线性代数:奇异值分解SVD

本文记录计算矩阵奇异值分解SVD的原理与流程。

注1:限于研究水平,分析难免不当,欢迎批评指正。

零、预修

0.1 矩阵的奇异值

列满秩矩阵,若的特征值为,则称为矩阵的奇异值。

0.2 SVD(分解)定理

,则存在正交矩阵,使得

其中,即为矩阵的奇异值。

考虑下述两种情形:

  • 情形1:

其中,

由此可以看出,,通过计算矩阵的奇异值,便可矩阵的特征值,而矩阵即为矩阵的特征向量

  • 情形2:

,则,也就是说,的特征值,也是的特征向量。同时考虑到实对称矩阵的秩为n,所以的特征值/特征向量也是的特征值/特征向量。

0.3 Householder变换

,且,定义为Householder变换。

对于非零向量,可构造,使得

其中,

,对于

根据上述结论可知,可以构造,使得

具体来说,可按照下述流程进行操作:

由此,通过Householder变换,可以将某一列向量的部分连续元素约化为0。

0.4 Givens变换

是n维Euclid空间中的一组标准正交基,,则在平面中存在旋转变换矩阵,满足

其中,

由此可以看出,可以将向量的某个元素约化为0。

一、隐式QR计算矩阵奇异值分解

参考资料

Gene H. Golub. Matrix Computations

徐树方. 数值线性代数(第二版). 北京大学出版社, 2010.

Golub G. and Kahan W.. Calculating the Singular Values and Pseudo-Inverse of a Matrix. Journal of the Society for Industrial and Applied Mathematics: Series B, Numerical Analysis, 1965, 2(2) : 205-224.

Demmel J., Kahan W..Accurate Singular Values of Bidiagonal Matrices. SIAM Journal on Scientific and StatisticalComputing, 1990, 11(5):873-912.

P. A. Businger,G. H. Golub. Singular value decomposition of a complex matrix. communications of the acm, 1969.

相关推荐
老陈头聊SEO1 天前
SEO长尾词优化实战布局
其他
ye150127774552 天前
220V转直流非隔离传感器供电电源芯片WT5105
stm32·单片机·嵌入式硬件·其他·硬件工程
时空无限3 天前
虚无隧穿产生宇宙(true nothing tunneling) 是谁提出的
其他
张高兴5 天前
为什么要对程序进行调试
其他
这是我585 天前
awk命令——功能强大的文本处理工具
linux·其他·shell·awk·强大··
cwtlw8 天前
PhotoShop学习10
笔记·学习·其他·photoshop
stockmasterx8 天前
什么是ETF跟踪误差?场内基金佣金最低是多少?
经验分享·笔记·其他
技术与健康9 天前
学点概率论,打破认识误区
经验分享·其他
安德胜SMT贴片9 天前
SMT贴片:现代电子制造的核心工艺
其他
职坐标在线9 天前
职坐标解码互联网行业转型发展新动能
其他