神经网络之特征值与特征向量

1. 定义

给定一个方阵 (A∈Rn×n)(A \in \mathbb{R}^{n \times n})(A∈Rn×n),如果存在一个非零向量 (v≠0)(v \neq 0)(v=0) 和一个标量 (λ)(\lambda)(λ),满足
Av=λv A v = \lambda v Av=λv

那么:

  • (v)(v)(v) 称为矩阵 (A)(A)(A) 的特征向量
  • (λ)(\lambda)(λ) 称为矩阵 (A)(A)(A) 的特征值

直观理解

特征向量是经过矩阵变换 (A)(A)(A) 后,只被拉伸或缩放,而不改变方向 的向量。

特征值就是这个拉伸/缩放的倍数。


2. 几何意义

  • 对称矩阵 (A)(A)(A) 可以看作一个线性变换:把空间中的向量映射到另一个向量。

  • 特征向量对应的是变换中保持方向不变的方向。

  • 特征值告诉我们沿这个方向的伸缩程度:

    • (∣λ∣>1)(|\lambda| > 1)(∣λ∣>1):向量被拉长
    • (0<∣λ∣<1)(0 < |\lambda| < 1)(0<∣λ∣<1):向量被缩短
    • (λ<0)(\lambda < 0)(λ<0):方向反向并缩放

例如:
A=[20 03],v1=[1 0], v2=[0 1] A = \begin{bmatrix} 2 & 0 \ 0 & 3 \end{bmatrix}, \quad v_1 = \begin{bmatrix} 1 \ 0 \end{bmatrix}, \ v_2 = \begin{bmatrix} 0 \ 1 \end{bmatrix} A=[20 03],v1=[1 0], v2=[0 1]

这里:
Av1=2v1,Av2=3v2 A v_1 = 2 v_1, \quad A v_2 = 3 v_2 Av1=2v1,Av2=3v2

所以 (v1,v2)(v_1, v_2)(v1,v2) 是特征向量,2 和 3 是特征值。几何上就是 x 方向被拉伸 2 倍,y 方向被拉伸 3 倍。


3. 计算方法

  1. 写出特征方程:
    det⁡(A−λI)=0 \det(A - \lambda I) = 0 det(A−λI)=0

    这里 (I)(I)(I) 是单位矩阵。

  2. 解这个多项式方程得到 (λ1,λ2,...,λn)(\lambda_1, \lambda_2, \dots, \lambda_n)(λ1,λ2,...,λn)(特征值)。

  3. 对每个特征值 (λ)(\lambda)(λ),解线性方程组:
    (A−λI)v=0 (A - \lambda I)v = 0 (A−λI)v=0

    得到对应的特征向量 (v)(v)(v)。


4. 特点

  • (n×n)(n \times n)(n×n) 矩阵最多有 (n)(n)(n) 个特征值(可能有重根)。

  • 对称矩阵:

    • 特征值都是实数
    • 不同特征值对应的特征向量是正交的
相关推荐
艾莉丝努力练剑2 小时前
【C++:红黑树】深入理解红黑树的平衡之道:从原理、变色、旋转到完整实现代码
大数据·开发语言·c++·人工智能·红黑树
九章云极AladdinEdu2 小时前
论文分享 | BARD-GS:基于高斯泼溅的模糊感知动态场景重建
人工智能·新视角合成·动态场景重建·运动模糊处理·3d高斯泼溅·模糊感知建模·真实世界数据集
希露菲叶特格雷拉特2 小时前
PyTorch深度学习笔记(二十)(模型验证测试)
人工智能·pytorch·笔记
NewsMash2 小时前
PyTorch之父发离职长文,告别Meta
人工智能·pytorch·python
IT_陈寒2 小时前
Python 3.12新特性实测:10个让你的代码提速30%的隐藏技巧 🚀
前端·人工智能·后端
Ztop2 小时前
GPT-5.1 已确认!OpenAI下一步推理升级?对决 Gemini 3 在即
人工智能·gpt·chatgpt
qq_436962182 小时前
奥威BI:打破数据分析的桎梏,让决策更自由
人工智能·数据挖掘·数据分析
金融Tech趋势派2 小时前
金融机构如何用企业微信实现客户服务优化?
大数据·人工智能·金融·企业微信·企业微信scrm
大模型真好玩3 小时前
LangChain1.0速通指南(三)——LangChain1.0 create_agent api 高阶功能
人工智能·langchain·mcp