核和值域的关系:什么是矩阵的秩?
这篇博客将介绍一个任意矩阵的核和值域的关系,并由此说明矩阵秩的意义、子空间维数、子空间正交。
1、矩阵的核:N(A)
A ∈ C m × n A\in C^{m\times n} A∈Cm×n,矩阵的核,记作N(A),N是nullity的首字母。
N ( A ) = { x ∣ A x = 0 , x ∈ C n } N(A)=\{x|Ax=0,x\in C^n \} N(A)={x∣Ax=0,x∈Cn}
A的核,其实就是齐次方程组Ax=0的所有解(解空间)。下面介绍解的情况。
- rank(A)=n,则有唯一解,且唯一解为0,N(A)={0}。
- rank(A)=r<n,则有无穷多解,且基本未知数个数为r,自由未知数个数为n-r,dim(N(A))=n-r。
可用行阶梯形来理解上述定理。注意,行初等变换不改变矩阵的解空间。
A x = 0 ⇒ A ~ x = 0 A ~ = [ a 1 , 1 a 1 , 2 a 1 , 3 ... a 1 , n a 2 , 2 a 2 , 3 ... a 2 , n ⋮ ⋱ ⋱ ⋮ ( 0 ) ⋱ a n − 1 , n 0 ⋯ a n , n ] Ax=0 \Rightarrow \tilde Ax=0\\ {\mathbf {\tilde A}}={\begin{bmatrix}a_{{1,1}}&a_{{1,2}}&a_{{1,3}}&\ldots &a_{{1,n}}\\ &a_{{2,2}}&a_{{2,3}}&\ldots &a_{{2,n}}\\ \vdots &&\ddots &\ddots &\vdots \\ &(0)&&\ddots &a_{{n-1,n}}\\ 0&&\cdots &&a_{{n,n}}\end{bmatrix}} Ax=0⇒A~x=0A~= a1,1⋮0a1,2a2,2(0)a1,3a2,3⋱⋯......⋱⋱a1,na2,n⋮an−1,nan,n
当rank(A)=n时,a_nn ≠ 0,因此x_n=0;关注第n-1行: a n − 1 , n − 1 x n − 1 + a n − 1 , n x n = 0 a_{n-1,n-1}x_{n-1}+a_{n-1,n}x_{n}=0 an−1,n−1xn−1+an−1,nxn=0,连锁反应将使得x_i=0, i=1~n;
当rank(A)=r是,a_rr ≠ 0,因此x_r=0,所以x=[0,0,0,*,*,*],r个0,n-r个任意值。
2、矩阵的值域:R(A)
A ∈ C m × n A\in C^{m\times n} A∈Cm×n,矩阵的值域,记作R(A),R是range的首字母。
R ( A ) = { y ∈ C m ∣ y = A x , x ∈ C n } R(A)=\{y\in C^m|y=Ax,x\in C^n \} R(A)={y∈Cm∣y=Ax,x∈Cn}
值域就是A的列向量组所能张成的最大空间。
- dim(R(A)) = rank(A) = rank(A^H^) = dim(R(A^H^))
- 秩-零化度定理:rank(A)+nullity(A)=n,nullity(A)=dim(N(A))
可以从线性表出的角度去理解。注意,矩阵的分块乘法。
y = A x = ( α 1 , α 2 , ⋯ , α n ) ( x 1 , x 2 , ⋯ , x n ) T = x 1 α 1 + x 2 α 2 + ⋯ + x n α n \begin{aligned} y &=Ax \\ &= (\alpha_1,\alpha_2,\cdots,\alpha_n)(x_1,x_2,\cdots,x_n)^T\\ &= x_1\alpha_1+x_2\alpha_2+\cdots+x_n\alpha_n \end{aligned} y=Ax=(α1,α2,⋯,αn)(x1,x2,⋯,xn)T=x1α1+x2α2+⋯+xnαn
3、子空间正交
所谓子空间正交,就是子空间W1的所有向量和W2所有向量正交。
< y , x > = < A x , x > = ( A x ) H x = x H A H x <y,x>=<Ax,x>=(Ax)^Hx=x^HA^Hx <y,x>=<Ax,x>=(Ax)Hx=xHAHx
因此R(A)和N(A^H^)正交。
- $R(A) \cap N(A^H)={0} $
- R ( A ) ⊕ N ( A H ) = C m R(A) \oplus N(A^H) = C^m R(A)⊕N(AH)=Cm
⊕ \oplus ⊕是直和,只有两个正交的空间才能进行直和运算。
直和:对于V1+V2中任何一个向量a=a1+a2,其中a1属于V1,a2属于V2,这种表示是唯一的,则称V1+V2为直和。
4、子空间维数定理
V 1 + V 2 = { x 1 + x 2 ∣ x 1 ∈ V 1 , x 2 ∈ V 2 } V 1 ∩ V 2 = { x ∣ x ∈ V 1 , x ∈ V 2 } V_1+V_2=\{x_1+x_2|x_1\in V_1,x_2\in V_2 \}\\ V_1\cap V_2=\{x|x\in V_1,x\in V_2 \} V1+V2={x1+x2∣x1∈V1,x2∈V2}V1∩V2={x∣x∈V1,x∈V2}
子空间维数定理:
d i m ( V 1 ) + d i m ( V 2 ) = d i m ( V 1 + V 2 ) + d i m ( V 1 ∩ V 2 ) dim(V_1)+dim(V_2)=dim(V_1+V_2)+dim(V1\cap V_2)\\ dim(V1)+dim(V2)=dim(V1+V2)+dim(V1∩V2)
可从三维空间理解。V1和V2是两个不相同的平面,各自维数为2,相加为4。和空间为整个三维空间,交空间为一条直线,即一维空间。
5、非齐次线性方程组的解
在第一节介绍了其次线性方程组Ax=0的解,下面介绍非齐次线性方程组Ax=b的解,其中 A ∈ C m × n A\in C^{m\times n} A∈Cm×n, A ˉ = [ A , b ] \bar A=[A,b] Aˉ=[A,b]是增广矩阵。
- 如果rank(A)=rank( A ˉ \bar A Aˉ)=n,则方程组有唯一解。
- 如果rank(A)=rank( A ˉ \bar A Aˉ)=r<n,则方程组有无穷多解。解空间维数为r,即基本未知数有r个,自由未知数有n-r个。
- 如果rank(A)<rank( A ˉ \bar A Aˉ),则方程组无解,解空间为空。
- 不存在rank(A)>rank( A ˉ \bar A Aˉ)
注意,齐次方程组必定有解,而非齐次方程组可能无解。