【线性代数与矩阵论】矩阵的谱半径与条件数

矩阵的谱半径与条件数

2023年11月18日


文章目录

  • 矩阵的谱半径与条件数
    • [1. 矩阵的谱半径](#1. 矩阵的谱半径)
    • [2. 谱半径与范数的关系](#2. 谱半径与范数的关系)
    • [3. 矩阵的条件数](#3. 矩阵的条件数)
    • 下链

1. 矩阵的谱半径

定义 设 A ∈ C n × n {A\in \mathbb C^{n \times n} } A∈Cn×n , λ 1 , λ 2 , ⋯   , λ n { \lambda_1,\lambda_2,\cdots,\lambda_n} λ1,λ2,⋯,λn 是A的特征值,则称
ρ ( A ) = max ⁡ 1 ≤ i ≤ n ∣ λ i ∣ \rho(A)=\max_{1\le i\le n}| \lambda_i| ρ(A)=1≤i≤nmax∣λi∣

为矩阵 A {A} A 的谱半径。矩阵的谱指的是一个矩阵的特征值的集合。

定理 设 A ∈ C n × n {A\in \mathbb C^{n \times n} } A∈Cn×n ,则

  1. ρ ( A H ) = ρ ( A T ) = ρ ( A ) {\rho(A^ \mathrm H)=\rho(A^ \mathrm T)=\rho(A)} ρ(AH)=ρ(AT)=ρ(A)
  2. ρ ( A k ) = [ ρ ( A ) ] k {\rho(A^k)=[\rho(A)]^k} ρ(Ak)=[ρ(A)]k
  3. 当 A {A} A 是正规矩阵 时, ρ ( A ) = ∣ ∣ A ∣ ∣ 2 {\rho(A)= || A ||_{2 }} ρ(A)=∣∣A∣∣2

2. 谱半径与范数的关系

设 A ∈ C n × n {A\in \mathbb C^{n \times n}} A∈Cn×n , λ {\lambda} λ 是 A {A} A 的一个特征值, x {x} x 是 A {A} A 属于 λ { \lambda} λ 的特征向量,则
A x = λ x Ax= \lambda x Ax=λx

对 C n × n { \mathbb C^{n \times n} } Cn×n 中任一矩阵范数 ∣ ∣ ⋅ ∣ ∣ m { || \cdot ||{m }} ∣∣⋅∣∣m 以及与它相容的向量范数 ∣ ∣ ⋅ ∣ ∣ v { || \cdot ||{v }} ∣∣⋅∣∣v ,有
∣ λ ∣ ⋅ ∣ ∣ x ∣ ∣ v = ∣ ∣ λ x ∣ ∣ v = ∣ ∣ A x ∣ ∣ v ≤ ∣ ∣ A ∣ ∣ ⋅ ∣ ∣ x ∣ ∣ v | \lambda| \cdot || x ||{v }= || \lambda x ||{ v}= || Ax ||{ v} \le || A ||{ } \cdot || x ||_{v } ∣λ∣⋅∣∣x∣∣v=∣∣λx∣∣v=∣∣Ax∣∣v≤∣∣A∣∣⋅∣∣x∣∣v

从而
∣ λ ∣ ≤ ∣ ∣ A ∣ ∣ | \lambda| \le || A ||_{ } ∣λ∣≤∣∣A∣∣

于是有如下定理。

定理 ρ ( A ) ≤ ∣ ∣ A ∣ ∣ { \rho(A)\le || A ||{ }} ρ(A)≤∣∣A∣∣ ,其中 ∣ ∣ A ∣ ∣ { || A ||{ }} ∣∣A∣∣ 是 A {A} A 的任一矩阵范数。
定理 设 A ∈ C n × n {A\in \mathbb C^{n \times n} } A∈Cn×n ,则任意 ϵ > 0 { \epsilon>0} ϵ>0 ,必存在 C n × n { \mathbb C^{n \times n} } Cn×n 上矩阵范数 ∣ ∣ ⋅ ∣ ∣ m { || \cdot ||{m }} ∣∣⋅∣∣m ,使得
∣ ∣ A ∣ ∣ m ≤ ρ ( A ) + ϵ || A ||
{ m} \le \rho(A)+ \epsilon ∣∣A∣∣m≤ρ(A)+ϵ

也就是虽然矩阵范数可能大于谱近谱半径的矩阵半径,却又总是存在无限接范数。数值分析中,谱半径可以认为是算子范数。


3. 矩阵的条件数

引理 设 P ∈ C n × n {P\in \mathbb C^{n \times n} } P∈Cn×n ,若对 C n × n { \mathbb C^{n \times n} } Cn×n 上的某一矩阵范数 ∣ ∣ ⋅ ∣ ∣ { || \cdot ||{ }} ∣∣⋅∣∣ 有 ∣ ∣ P ∣ ∣ < 1 { || P ||{ }<1} ∣∣P∣∣<1 ,则 I − P {I-P} I−P 可逆。
定理 设 A ∈ C n n × n {A\in \mathbb C_n^{n \times n} } A∈Cnn×n 可逆, δ A ∈ C n × n { \delta A\in \mathbb C^{n \times n} } δA∈Cn×n 。若对 C n × n { \mathbb C^{n \times n} } Cn×n 上的某一矩阵范数 ∣ ∣ ⋅ ∣ ∣ { || \cdot ||{ }} ∣∣⋅∣∣ 有 ∣ ∣ A − 1 δ A ∣ ∣ < 1 { || A^{-1} \delta A ||{ }<1} ∣∣A−1δA∣∣<1 ,则

  1. A + δ A {A+ \delta A} A+δA 可逆
  2. ∣ ∣ ( A + δ A ) − 1 ∣ ∣ ≤ ∣ ∣ A − 1 ∣ ∣ 1 − ∣ ∣ A − 1 δ A ∣ ∣ {|| (A+ \delta A)^{-1} ||{ }\le \frac{|| A^{-1} ||{ }}{1- || A^{-1} \delta A ||_{ }}} ∣∣(A+δA)−1∣∣≤1−∣∣A−1δA∣∣∣∣A−1∣∣
  3. ∣ ∣ A − 1 − ( A + δ A ) − 1 ∣ ∣ ∣ ∣ A − 1 ∣ ∣ ≤ ∣ ∣ A − 1 δ A ∣ ∣ 1 − ∣ ∣ A − 1 δ A ∣ ∣ {\frac{||A^{-1}- (A+ \delta A)^{-1} ||{ }}{|| A^{-1} ||{ }} \le \frac{|| A^{-1} \delta A ||{ }}{1- || A^{-1} \delta A ||{ }}} ∣∣A−1∣∣∣∣A−1−(A+δA)−1∣∣≤1−∣∣A−1δA∣∣∣∣A−1δA∣∣ 矩阵扰动后逆矩阵的相对误差小于右端式子

定义 设 A ∈ C n n × n {A\in \mathbb C_n^{n \times n} } A∈Cnn×n 可逆, ∣ ∣ ⋅ ∣ ∣ { || \cdot ||{ }} ∣∣⋅∣∣ 是 C n × n { \mathbb C^{n \times n} } Cn×n 上的某一矩阵范数,称
cond ( A ) = ∣ ∣ A ∣ ∣ ⋅ ∣ ∣ A − 1 ∣ ∣ \text{cond}(A)= || A ||
{ } \cdot || A^{-1} ||_{ } cond(A)=∣∣A∣∣⋅∣∣A−1∣∣

为矩阵 A {A} A 的条件数

推论 设 A ∈ C n n × n {A\in \mathbb C_n^{n \times n} } A∈Cnn×n 可逆, δ A ∈ C n × n { \delta A\in \mathbb C^{n \times n} } δA∈Cn×n 。若对 C n × n { \mathbb C^{n \times n} } Cn×n 上的某一矩阵范数 ∣ ∣ ⋅ ∣ ∣ { || \cdot ||{ }} ∣∣⋅∣∣ 有 ∣ ∣ A − 1 ∣ ∣ ⋅ ∣ ∣ δ A ∣ ∣ < 1 { || A^{-1}|| \cdot || \delta A ||{ }<1} ∣∣A−1∣∣⋅∣∣δA∣∣<1 ,则
∣ ∣ A − 1 − ( A + δ A ) − 1 ∣ ∣ ∣ ∣ A − 1 ∣ ∣ ≤ ∣ ∣ A ∣ ∣ ∣ ∣ A − 1 ∣ ∣ ∣ ∣ δ A ∣ ∣ ∣ ∣ A ∣ ∣ 1 − ∣ ∣ A ∣ ∣ ∣ ∣ A − 1 ∣ ∣ ∣ ∣ δ A ∣ ∣ ∣ ∣ A ∣ ∣ = cond ( A ) ∣ ∣ δ A ∣ ∣ ∣ ∣ A ∣ ∣ 1 − cond ( A ) ∣ ∣ δ A ∣ ∣ ∣ ∣ A ∣ ∣ \frac{||A^{-1}- (A+ \delta A)^{-1} ||{ }}{|| A^{-1} ||{ }} \le \frac{|| A ||{ }|| A^{-1} ||{ }\frac{|| \delta A ||{ }}{|| A ||{ }}}{1-|| A ||{ }|| A^{-1} ||{ }\frac{|| \delta A ||{ }}{|| A ||{ }}}= \frac{\text{cond}(A) \frac{|| \delta A ||{ }}{|| A ||{ }}}{1-\text{cond}(A) \frac{|| \delta A ||{ }}{|| A ||{ }}} ∣∣A−1∣∣∣∣A−1−(A+δA)−1∣∣≤1−∣∣A∣∣∣∣A−1∣∣∣∣A∣∣∣∣δA∣∣∣∣A∣∣∣∣A−1∣∣∣∣A∣∣∣∣δA∣∣=1−cond(A)∣∣A∣∣∣∣δA∣∣cond(A)∣∣A∣∣∣∣δA∣∣

定理 设 A ∈ C n n × n {A\in \mathbb C_n^{n \times n} } A∈Cnn×n 可逆, δ A ∈ C n × n { \delta A\in \mathbb C^{n \times n} } δA∈Cn×n, b {b} b , δ b ∈ C n { \delta b\in \mathbb C^n} δb∈Cn 。若对 C n × n { \mathbb C^{n \times n} } Cn×n 上的某一矩阵范数 ∣ ∣ ⋅ ∣ ∣ { || \cdot ||{ }} ∣∣⋅∣∣ 有 ∣ ∣ A − 1 ∣ ∣ ⋅ ∣ ∣ δ A ∣ ∣ < 1 { || A^{-1}|| \cdot || \delta A ||{ }<1} ∣∣A−1∣∣⋅∣∣δA∣∣<1 ,则非齐次线性方程组
A x = b     与     ( A + δ A ) ( x + δ x ) = b + δ b Ax=b \,\,\, 与 \,\,\, (A+ \delta A)(x+ \delta x)=b+ \delta b Ax=b与(A+δA)(x+δx)=b+δb

的解满足
∣ ∣ δ x ∣ ∣ v ∣ ∣ x ∣ ∣ v ≤ cond ( A ) 1 − cond ( A ) ∣ ∣ δ A ∣ ∣ ∣ ∣ A ∣ ∣ ( ∣ ∣ δ A ∣ ∣ ∣ ∣ A ∣ ∣ + ∣ ∣ δ b ∣ ∣ v ∣ ∣ b ∣ ∣ v ) \frac{|| \delta x ||{ v}}{|| x ||{v }}\le \frac{\text{cond}(A) }{1-\text{cond}(A) \frac{|| \delta A ||{ }}{|| A ||{ }}} \bigg( \frac{|| \delta A ||{ }}{|| A ||{ }}+\frac{|| \delta b ||{ v}}{||b ||{ v}} \bigg) ∣∣x∣∣v∣∣δx∣∣v≤1−cond(A)∣∣A∣∣∣∣δA∣∣cond(A)(∣∣A∣∣∣∣δA∣∣+∣∣b∣∣v∣∣δb∣∣v)

其中 ∣ ∣ ⋅ ∣ ∣ v { || \cdot ||{v }} ∣∣⋅∣∣v 是 C n { \mathbb C^n} Cn 上与矩阵范数 ∣ ∣ ⋅ ∣ ∣ { || \cdot ||{ }} ∣∣⋅∣∣ 相容的向量范数。

根据函数
f ( x ) = x 1 − x f(x)= \frac{x}{1-x} f(x)=1−xx

的图像,当 cond ( A ) { \text{cond}(A)} cond(A) 很大,则说求逆或求解线性方程组是病态的。


下链


相关推荐
我要学习别拦我~5 小时前
挑战概率直觉:蒙提霍尔问题的解密与应用
经验分享·概率论
爱学习的小鱼gogo5 小时前
python 单词搜索(回溯-矩阵-字符串-中等)含源码(二十)
开发语言·数据结构·python·矩阵·字符串·回溯·递归栈
一条星星鱼5 小时前
从0到1:如何用统计学“看透”不同睡眠PSG数据集的差异(域偏差分析实战)
人工智能·深度学习·算法·概率论·归一化·睡眠psg
熬了夜的程序员8 小时前
【LeetCode】82. 删除排序链表中的重复元素 II
数据结构·算法·leetcode·链表·职场和发展·矩阵·深度优先
无风听海9 小时前
神经网络之从自由度角度理解方差的无偏估计
神经网络·机器学习·概率论
前端小L10 小时前
动态规划的“降维”艺术:二维矩阵中的建筑奇迹——最大矩形
线性代数·矩阵
小龙11 小时前
【理论知识】Q/K/V权重矩阵学习笔记
矩阵·大模型·transformer·多头注意力机制·理论基础
无限进步_11 小时前
【C语言】在矩阵中高效查找数字的算法解析
c语言·开发语言·数据结构·c++·其他·算法·矩阵
CLubiy1 天前
【研究生随笔】PyTorch中的概率论
人工智能·pytorch·深度学习·概率论
龙俊杰的读书笔记1 天前
《小白学随机过程》第一章:随机过程——定义和形式 (附录1 探究随机变量)
人工智能·机器学习·概率论·随机过程和rl