核和值域的关系：什么是矩阵的秩？

这篇博客将介绍一个任意矩阵的核和值域的关系，并由此说明矩阵秩的意义、子空间维数、子空间正交。

1、矩阵的核：N(A)

A ∈ C m × n A\in C^{m\times n} A∈Cm×n，矩阵的核，记作N(A)，N是nullity的首字母。
N ( A ) = { x ∣ A x = 0 , x ∈ C n } N(A)=\{x|Ax=0,x\in C^n \} N(A)={x∣Ax=0,x∈Cn}

A的核，其实就是齐次方程组Ax=0的所有解（解空间）。下面介绍解的情况。

rank(A)=n，则有唯一解，且唯一解为0，N(A)={0}。
rank(A)=r<n，则有无穷多解，且基本未知数个数为r，自由未知数个数为n-r，dim(N(A))=n-r。

可用行阶梯形来理解上述定理。注意，行初等变换不改变矩阵的解空间。
A x = 0 ⇒ A ~ x = 0 A ~ = [ a 1 , 1 a 1 , 2 a 1 , 3 ... a 1 , n a 2 , 2 a 2 , 3 ... a 2 , n ⋮ ⋱ ⋱ ⋮ ( 0 ) ⋱ a n − 1 , n 0 ⋯ a n , n ] Ax=0 \Rightarrow \tilde Ax=0\\ {\mathbf {\tilde A}}={\begin{bmatrix}a_{{1,1}}&a_{{1,2}}&a_{{1,3}}&\ldots &a_{{1,n}}\\ &a_{{2,2}}&a_{{2,3}}&\ldots &a_{{2,n}}\\ \vdots &&\ddots &\ddots &\vdots \\ &(0)&&\ddots &a_{{n-1,n}}\\ 0&&\cdots &&a_{{n,n}}\end{bmatrix}} Ax=0⇒A~x=0A~= a1,1⋮0a1,2a2,2(0)a1,3a2,3⋱⋯......⋱⋱a1,na2,n⋮an−1,nan,n

当rank(A)=n时，a_nn ≠ 0，因此x_n=0；关注第n-1行： a n − 1 , n − 1 x n − 1 + a n − 1 , n x n = 0 a_{n-1,n-1}x_{n-1}+a_{n-1,n}x_{n}=0 an−1,n−1xn−1+an−1,nxn=0，连锁反应将使得x_i=0， i=1～n；

当rank(A)=r是，a_rr ≠ 0，因此x_r=0，所以x=[0,0,0,*,*,*]，r个0，n-r个任意值。

2、矩阵的值域：R(A)

A ∈ C m × n A\in C^{m\times n} A∈Cm×n，矩阵的值域，记作R(A)，R是range的首字母。
R ( A ) = { y ∈ C m ∣ y = A x , x ∈ C n } R(A)=\{y\in C^m|y=Ax,x\in C^n \} R(A)={y∈Cm∣y=Ax,x∈Cn}

值域就是A的列向量组所能张成的最大空间。

dim(R(A)) = rank(A) = rank(A^H) = dim(R(A^H))
秩-零化度定理：rank(A)+nullity(A)=n，nullity(A)=dim(N(A))

可以从线性表出的角度去理解。注意，矩阵的分块乘法。
y = A x = ( α 1 , α 2 , ⋯ , α n ) ( x 1 , x 2 , ⋯ , x n ) T = x 1 α 1 + x 2 α 2 + ⋯ + x n α n \begin{aligned} y &=Ax \\ &= (\alpha_1,\alpha_2,\cdots,\alpha_n)(x_1,x_2,\cdots,x_n)^T\\ &= x_1\alpha_1+x_2\alpha_2+\cdots+x_n\alpha_n \end{aligned} y=Ax=(α1,α2,⋯,αn)(x1,x2,⋯,xn)T=x1α1+x2α2+⋯+xnαn

3、子空间正交

所谓子空间正交，就是子空间W1的所有向量和W2所有向量正交。
< y , x > = < A x , x > = ( A x ) H x = x H A H x <y,x>=<Ax,x>=(Ax)^Hx=x^HA^Hx <y,x>=<Ax,x>=(Ax)Hx=xHAHx

因此R(A)和N(A^H)正交。

$R(A) \\cap N(A\^H)={0}$
R ( A ) ⊕ N ( A H ) = C m R(A) \oplus N(A^H) = C^m R(A)⊕N(AH)=Cm

⊕ \oplus ⊕是直和，只有两个正交的空间才能进行直和运算。

直和：对于V1+V2中任何一个向量a=a1+a2，其中a1属于V1，a2属于V2，这种表示是唯一的，则称V1+V2为直和。

4、子空间维数定理

V 1 + V 2 = { x 1 + x 2 ∣ x 1 ∈ V 1 , x 2 ∈ V 2 } V 1 ∩ V 2 = { x ∣ x ∈ V 1 , x ∈ V 2 } V_1+V_2=\{x_1+x_2|x_1\in V_1,x_2\in V_2 \}\\ V_1\cap V_2=\{x|x\in V_1,x\in V_2 \} V1+V2={x1+x2∣x1∈V1,x2∈V2}V1∩V2={x∣x∈V1,x∈V2}

子空间维数定理：
d i m ( V 1 ) + d i m ( V 2 ) = d i m ( V 1 + V 2 ) + d i m ( V 1 ∩ V 2 ) dim(V_1)+dim(V_2)=dim(V_1+V_2)+dim(V1\cap V_2)\\ dim(V1)+dim(V2)=dim(V1+V2)+dim(V1∩V2)

可从三维空间理解。V1和V2是两个不相同的平面，各自维数为2，相加为4。和空间为整个三维空间，交空间为一条直线，即一维空间。

5、非齐次线性方程组的解

在第一节介绍了其次线性方程组Ax=0的解，下面介绍非齐次线性方程组Ax=b的解，其中 A ∈ C m × n A\in C^{m\times n} A∈Cm×n， A ˉ = [ A , b ] \bar A=[A,b] Aˉ=[A,b]是增广矩阵。

如果rank(A)=rank( A ˉ \bar A Aˉ)=n，则方程组有唯一解。
如果rank(A)=rank( A ˉ \bar A Aˉ)=r<n，则方程组有无穷多解。解空间维数为r，即基本未知数有r个，自由未知数有n-r个。
如果rank(A)<rank( A ˉ \bar A Aˉ)，则方程组无解，解空间为空。
不存在rank(A)>rank( A ˉ \bar A Aˉ)

注意，齐次方程组必定有解，而非齐次方程组可能无解。