数值线性代数:奇异值分解SVD

本文记录计算矩阵奇异值分解SVD的原理与流程。

注1:限于研究水平,分析难免不当,欢迎批评指正。

零、预修

0.1 矩阵的奇异值

列满秩矩阵,若的特征值为,则称为矩阵的奇异值。

0.2 SVD(分解)定理

,则存在正交矩阵,使得

其中,即为矩阵的奇异值。

考虑下述两种情形:

  • 情形1:

其中,

由此可以看出,,通过计算矩阵的奇异值,便可矩阵的特征值,而矩阵即为矩阵的特征向量

  • 情形2:

,则,也就是说,的特征值,也是的特征向量。同时考虑到实对称矩阵的秩为n,所以的特征值/特征向量也是的特征值/特征向量。

0.3 Householder变换

,且,定义为Householder变换。

对于非零向量,可构造,使得

其中,

,对于

根据上述结论可知,可以构造,使得

具体来说,可按照下述流程进行操作:

由此,通过Householder变换,可以将某一列向量的部分连续元素约化为0。

0.4 Givens变换

是n维Euclid空间中的一组标准正交基,,则在平面中存在旋转变换矩阵,满足

其中,

由此可以看出,可以将向量的某个元素约化为0。

一、隐式QR计算矩阵奇异值分解

参考资料

Gene H. Golub. Matrix Computations

徐树方. 数值线性代数(第二版). 北京大学出版社, 2010.

Golub G. and Kahan W.. Calculating the Singular Values and Pseudo-Inverse of a Matrix. Journal of the Society for Industrial and Applied Mathematics: Series B, Numerical Analysis, 1965, 2(2) : 205-224.

Demmel J., Kahan W..Accurate Singular Values of Bidiagonal Matrices. SIAM Journal on Scientific and StatisticalComputing, 1990, 11(5):873-912.

P. A. Businger,G. H. Golub. Singular value decomposition of a complex matrix. communications of the acm, 1969.

相关推荐
草莓熊Lotso16 小时前
【LeetCode刷题指南】--数组串联,合并两个有序数组,删除有序数组中的重复项
c语言·数据结构·其他·刷题
weifengma-wish2 天前
肠道宏基因组数据分析流程
其他
Vae_Mars2 天前
Eplan API Project Settings
其他·开源·制造
zenithdev15 天前
Sublime Text下载教程Sublime Text 4 保姆级安装步骤(附安装包)
其他·编辑器·sublime text
草莓熊Lotso6 天前
【数据结构初阶】--顺序表(二)
c语言·数据结构·经验分享·其他
WoShop商城源码6 天前
短视频矩阵系统的崛起:批量发布功能与多平台矩阵的未来
人工智能·线性代数·其他·矩阵
骁的小小站7 天前
HDLBits刷题笔记和一些拓展知识(十一)
开发语言·经验分享·笔记·其他·fpga开发
橘子洲头8 天前
Sigma-Aldrich细胞培养基础知识:细胞培养的安全注意事项
其他·安全
草莓熊Lotso9 天前
【洛谷题单】--顺序结构(一)
c语言·c++·其他·刷题
职坐标在线10 天前
职坐标IT培训AIoT区块链跨领域创新应用
其他