【线性代数】【二】2.8 向量正交与正交补空间

文章目录


前言

本文将介绍向量的正交,以及正交补空间的定义。从而进一步加深对向量空间的理解


一、向量正交

称向量 x , y ∈ R n \bm{x,y}\in R^n x,y∈Rn相互正交,当且仅当 x T y = 0 \bm{x}^T\bm{y}=0 xTy=0成立。易得零向量与任意向量正交。

若两正交向量均为非零向量,则这两个向量必然线性无关。反之,线性相关的两非零向量必不可能正交

x T k x = k ∑ i x i 2 > 0 \bm{x}^Tk\bm{x}=k\sum_i x_i^2>0 xTkx=k∑ixi2>0

二、正交子空间

在介绍正交补空间的概念之前,我们先回到齐次线性方程组的求解上 A x = 0 \bm{Ax}=\bm{0} Ax=0。先将矩阵写成行向量的形式:

A x = ( a 1 T a 2 T a 3 T ) x = 0 \mathbf{Ax} = \left( \begin{array}{ccc} \bm{a}_1^T\\ \bm{a}_2^T\\ \bm{a}_3^T\\ \end{array} \right)\bm{x}=\bm{0} Ax= a1Ta2Ta3T x=0

一般取向量时默认为列向量,因此加上转置表示行向量。上述方程表明,解向量 x \bm{x} x与所有矩阵 A \bm{A} A的行向量均正交。我们再进一步引申,对矩阵 A \bm{A} A的行空间中的任意向量,解向量 x \bm{x} x均与之正交。我们简单验证一下这个结论:

∵ \because ∵ 矩阵 A \bm{A} A的行空间中的任意行向量 a T \bm{a}^T aT均可由 a 1 T , a 2 T , a 3 T \bm{a}_1^T,\bm{a}_2^T,\bm{a}_3^T a1T,a2T,a3T线性表示.
∴ a T x = k 1 a 1 T x + k 2 a 2 T x + k 3 a 3 T x = 0 \therefore \bm{a}^T\bm{x}=k_1\bm{a}_1^T\bm{x}+k_2\bm{a}_2^T\bm{x}+k_3\bm{a}_3^T\bm{x}=0 ∴aTx=k1a1Tx+k2a2Tx+k3a3Tx=0

类似的,我们也可以说,对任意解空间(即零空间)中的向量,均与矩阵 A \bm{A} A的行向量正交。这样的两个任意取出一对向量,都相互正交的空间,我们称之互为正交子空间。

通过上述说明过程,可知要验证两个空间是否互为正交子空间,只需要验证两个空间各自的基是否正交即可,因为任意空间中的向量的正交性均可由基证明,而基若不正交,则已经说明不满足正交子空间的定义。

三、正交补空间

构造一对正交子空间并不难,只要任意找到两组互相正交的向量组,然后用这俩组向量组各自张成一个空间即可。因此,对于一个给的的向量空间,可能可以找到若干个不同的正交子空间。例如对于由向量组 [ 1 , 1 , 0 ] [1,1,0] [1,1,0]张成的一维空间,其正交子空间的基可以为 [ 0 , 0 , 1 ] , [ 1 , − 1 , 0 ] , [ 1 , − 1 , 1 ] , ... [0,0,1],[1,-1,0],[1,-1,1],\ldots [0,0,1],[1,−1,0],[1,−1,1],...

但是,对于给定向量组,是否总找到一个维度最大的正交子空间呢?是可以的。假设我们有一个秩为 m m m的 n n n维向量组,我们现在来找它的维度最大的正交子空间。

用到笔记2.4中零空间相关的性质,我们知道以该组向量做行向量的矩阵 A \bm{A} A,其对应的零空间的维度=列数-秩( n − m n-m n−m)。所以,该零空间就是它的一个正交子空间。

同样在笔记2.4中,我们说明了任意该齐次方程组的解均在零空间中,即除了零空间外,找不出任何向量与给的向量组所有向量正交。可见,这个零空间就是我们要找的给的向量组对应的维数最大的正交子空间,我们称之为正交补空间

四、正交补空间的性质

1)直接观察得到的性质是,互为正交补空间的两个子空间的维数之和,等于其中向量的维数,即 n − m + m = n n-m+m=n n−m+m=n。这个由上述推理过程,结合列数-秩=零空间维数可以推导出来。

2) n n n维向量构成的一对正交补空间之和 A + B \bm{A}+\bm{B} A+B为 n n n维空间。这里,两个空间之和是指,任意在两个空间中取一出一对向量,求和得到的向量所构成的空间。(容易验证这些向量满足加法数乘的封闭性)我们简单验证一下这个结论:

假设 c \bm{c} c为任意一个 n n n维向量。
∵ \because ∵ 正交补空间 A , B \bm{A,B} A,B中的基向量均相互正交。

假设 他们各自的一组基向量合并组成的向量组的秩为 m m m

若 m < n m<n m<n,由于 r ( A ) + r ( B ) = n r(A)+r(B)=n r(A)+r(B)=n,即合并向量组中向量数目为 n n n
∴ \therefore ∴ 合并向量组中存在线性相关的向量。

又 ∵ \because ∵ 各自子空间中基向量线性无关
∴ \therefore ∴ 存在某子空间中的向量与另一个子空间中的基向量线性相关

即某子空间的基向量属于其正交子空间

又 ∵ \because ∵ 基向量为非零向量,
∴ \therefore ∴ 其自身不可能与自身正交。

因此, m = n m=n m=n


总结

本文介绍了向量正交的概念,并由此拓展出正交子空间以及正交补空间的概念。这些概念均与之前学习过的零空间等息息相关。

相关推荐
古希腊掌管学习的神8 分钟前
[机器学习]XGBoost(3)——确定树的结构
人工智能·机器学习
海棠AI实验室3 小时前
AI的进阶之路:从机器学习到深度学习的演变(一)
人工智能·深度学习·机器学习
XH华3 小时前
初识C语言之二维数组(下)
c语言·算法
南宫生3 小时前
力扣-图论-17【算法学习day.67】
java·学习·算法·leetcode·图论
不想当程序猿_3 小时前
【蓝桥杯每日一题】求和——前缀和
算法·前缀和·蓝桥杯
IT古董3 小时前
【机器学习】机器学习的基本分类-强化学习-策略梯度(Policy Gradient,PG)
人工智能·机器学习·分类
落魄君子3 小时前
GA-BP分类-遗传算法(Genetic Algorithm)和反向传播算法(Backpropagation)
算法·分类·数据挖掘
菜鸡中的奋斗鸡→挣扎鸡3 小时前
滑动窗口 + 算法复习
数据结构·算法
睡觉狂魔er4 小时前
自动驾驶控制与规划——Project 3: LQR车辆横向控制
人工智能·机器学习·自动驾驶
Lenyiin4 小时前
第146场双周赛:统计符合条件长度为3的子数组数目、统计异或值为给定值的路径数目、判断网格图能否被切割成块、唯一中间众数子序列 Ⅰ
c++·算法·leetcode·周赛·lenyiin