20241230 基础数学-线性代数-(1)求解特征值(numpy, scipy)

所有代码实现,基于教程中的理论通过python实现出来的。效率不高,但有代码可以看。

由于scipy/sckitlearn/sparkx 底层的实现都被封装了(小白兔水平有限,fortran代码实在没看懂)这里的实现至少可以和理论公式对应的上。

1. 求特征值和特征向量

这是后面解线性方程的基础。解方程及拆分过程依赖eigVal,eigVec,很重要。

基本的解析法很好理解,所有的教程都有介绍。但是工程实现numpy等都是用的其他数值求解方法,这里实验了QR方法(水平有限,是最基础的QR),证明QR方法不难实现,并且有更多方法优化可以提高QR的数值稳定性和收敛效率(水平有限,placeholder,given旋转等,未研究)。

|--------|---------------------------------------------------------|-------------------------------------------------------------------------|----------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------------|
| | 解析 | 解析 | 数值 |
| eig | polynomial | *symmetric matrix lanrange multiples | *symmetric matrix QR Iteration |
| 算法 | det(A-lambda*E)=0 解lambda的n次方程, 对应每个eigval\*解齐次方程。 | 基于对称矩阵转标准二次型原理,A= (PN...P1) D (P1.T ... PN.T) eigVec=(PN...P1) eigVal=D | 1. 将A=QR,Q为规范正交矩阵,R为A在这个矩阵上的投影系数。 2. AK=RQ, 迭代k次, Q.T A= R, A1= Q.T A Q; ... Q1.T A1= R1; A2= Q1.T A1 Q1 = Q1.T Q.T A Q Q1 ... AK = (QK.T ... Q.T) A (Q ... QK ) //AK 就是特征值对角矩阵, Q...QK 就是特征向量 //AK为什么会收敛为对角矩阵,待研究//TODO eigVec=(PN...P1) eigVal=D |
| PYTHON | E00_eigVal_by_polynomial.py | P00_lagrange_mul_resolver00.py | E01_eigVal_by_qr_mm.py //*没有完全解决数值稳定性问题,devide0 等等;URL有大神写了QR算法文章,有更优的算法。 |

参考代码

​​​​​​参考代码: AITutorial02: AI初学,AI幼儿园练习

写在最后

* 线性代数理论及证明过程请参考教材。公式推理可以参考AI。感谢数学大师们。感谢《学兔兔》网。

相关推荐
lisw0511 小时前
Dayhoff的PAM替换矩阵理论评介!
线性代数·算法·矩阵
2601_967980111 天前
Python中flatten( )函数及函数用法详解
python·numpy·数组操作·flatten函数·列表处理
郝学胜-神的一滴3 天前
AI 编程智能体 27:吃透MCP通信机制
人工智能·python·langchain·wpf·numpy·scikit-learn
aifannihao4 天前
AI 学习第 5 课:手推逻辑回归与交叉熵,L2 把可分数据的权重按住
人工智能·机器学习·逻辑回归·numpy·学习路线
2601_967987375 天前
图灵星环:Python NumPy数组的维度压缩squeeze删除单维度
机器学习·numpy·数据预处理·数组处理·维度压缩
莱茶荼菜6 天前
【slam公式】
人工智能·线性代数·机器学习
伯奥克客服7 天前
2026年视频矩阵厂家技术评估:从EDID到控制协议开放度的六维筛选法
线性代数·矩阵·音视频
释厄6238 天前
三角基底律——矩阵3x6 是所有三角形的基底·3D中高就是边
线性代数·3d·矩阵
桑年9 天前
四、Pandas数据处理
人工智能·python·线性代数·pandas·数据可视化·数据处理
ljt272496066111 天前
Python笔记(十一)--Numpy(一)
笔记·python·numpy