20241230 基础数学-线性代数-(1)求解特征值(numpy, scipy)

所有代码实现,基于教程中的理论通过python实现出来的。效率不高,但有代码可以看。

由于scipy/sckitlearn/sparkx 底层的实现都被封装了(小白兔水平有限,fortran代码实在没看懂)这里的实现至少可以和理论公式对应的上。

1. 求特征值和特征向量

这是后面解线性方程的基础。解方程及拆分过程依赖eigVal,eigVec,很重要。

基本的解析法很好理解,所有的教程都有介绍。但是工程实现numpy等都是用的其他数值求解方法,这里实验了QR方法(水平有限,是最基础的QR),证明QR方法不难实现,并且有更多方法优化可以提高QR的数值稳定性和收敛效率(水平有限,placeholder,given旋转等,未研究)。

|--------|---------------------------------------------------------|-------------------------------------------------------------------------|----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| | 解析 | 解析 | 数值 |
| eig | polynomial | *symmetric matrix lanrange multiples | *symmetric matrix QR Iteration |
| 算法 | det(A-lambda*E)=0 解lambda的n次方程, 对应每个eigval[*]解齐次方程。 | 基于对称矩阵转标准二次型原理,A= (PN...P1) D (P1.T ... PN.T) eigVec=(PN...P1) eigVal=D | 1. 将A=QR,Q为规范正交矩阵,R为A在这个矩阵上的投影系数。 2. AK=RQ, 迭代k次, Q.T A= R, A1= Q.T A Q; ... Q1.T A1= R1; A2= Q1.T A1 Q1 = Q1.T Q.T A Q Q1 ... AK = (QK.T ... Q.T) A (Q ... QK ) //AK 就是特征值对角矩阵, Q...QK 就是特征向量 //AK为什么会收敛为对角矩阵,待研究//TODO eigVec=(PN...P1) eigVal=D |
| PYTHON | E00_eigVal_by_polynomial.py | P00_lagrange_mul_resolver00.py | E01_eigVal_by_qr_mm.py //*没有完全解决数值稳定性问题,devide0 等等;[URL]有大神写了QR算法文章,有更优的算法。 |

参考代码

​​​​​​参考代码: AITutorial02: AI初学,AI幼儿园练习

写在最后

* 线性代数理论及证明过程请参考教材。公式推理可以参考AI。感谢数学大师们。感谢《学兔兔》网。

相关推荐
18538162800余--6 小时前
矩阵系统源码搭建热门音乐功能板块开发,支持OEM
线性代数·矩阵
巷北夜未央11 小时前
空间矩阵的思考
线性代数·矩阵
痛&快乐着21 小时前
衡量矩阵数值稳定性的关键指标:矩阵的条件数
线性代数·矩阵
悲喜自渡7211 天前
线性代数(一些别的应该关注的点)
python·线性代数·机器学习
guest_8812 天前
用 Python 打造打篮球字符动画!控制台彩色炫酷输出,抖音搞怪视频灵感还原
开发语言·python·numpy·pillow
CH3_CH2_CHO2 天前
不吃【Numpy】版
开发语言·python·numpy
优美的赫蒂4 天前
理解欧拉公式
线性代数·算法·数学建模
weixin_428498494 天前
使用HYPRE库并行装配IJ稀疏矩阵
线性代数·矩阵
黎明沐白4 天前
PyTorch源码编译报错“fatal error: numpy/arrayobject.h: No such file or directory”
人工智能·pytorch·numpy
THe CHallEnge of THe BrAve5 天前
工业相机中CCM使能参数-色彩校正矩阵
数码相机·线性代数·矩阵