【线性代数】【二】2.8 向量正交与正交补空间

文章目录


前言

本文将介绍向量的正交,以及正交补空间的定义。从而进一步加深对向量空间的理解


一、向量正交

称向量 x , y ∈ R n \bm{x,y}\in R^n x,y∈Rn相互正交,当且仅当 x T y = 0 \bm{x}^T\bm{y}=0 xTy=0成立。易得零向量与任意向量正交。

若两正交向量均为非零向量,则这两个向量必然线性无关。反之,线性相关的两非零向量必不可能正交

x T k x = k ∑ i x i 2 > 0 \bm{x}^Tk\bm{x}=k\sum_i x_i^2>0 xTkx=k∑ixi2>0

二、正交子空间

在介绍正交补空间的概念之前,我们先回到齐次线性方程组的求解上 A x = 0 \bm{Ax}=\bm{0} Ax=0。先将矩阵写成行向量的形式:

A x = ( a 1 T a 2 T a 3 T ) x = 0 \mathbf{Ax} = \left( \begin{array}{ccc} \bm{a}_1^T\\ \bm{a}_2^T\\ \bm{a}_3^T\\ \end{array} \right)\bm{x}=\bm{0} Ax= a1Ta2Ta3T x=0

一般取向量时默认为列向量,因此加上转置表示行向量。上述方程表明,解向量 x \bm{x} x与所有矩阵 A \bm{A} A的行向量均正交。我们再进一步引申,对矩阵 A \bm{A} A的行空间中的任意向量,解向量 x \bm{x} x均与之正交。我们简单验证一下这个结论:

∵ \because ∵ 矩阵 A \bm{A} A的行空间中的任意行向量 a T \bm{a}^T aT均可由 a 1 T , a 2 T , a 3 T \bm{a}_1^T,\bm{a}_2^T,\bm{a}_3^T a1T,a2T,a3T线性表示.
∴ a T x = k 1 a 1 T x + k 2 a 2 T x + k 3 a 3 T x = 0 \therefore \bm{a}^T\bm{x}=k_1\bm{a}_1^T\bm{x}+k_2\bm{a}_2^T\bm{x}+k_3\bm{a}_3^T\bm{x}=0 ∴aTx=k1a1Tx+k2a2Tx+k3a3Tx=0

类似的,我们也可以说,对任意解空间(即零空间)中的向量,均与矩阵 A \bm{A} A的行向量正交。这样的两个任意取出一对向量,都相互正交的空间,我们称之互为正交子空间。

通过上述说明过程,可知要验证两个空间是否互为正交子空间,只需要验证两个空间各自的基是否正交即可,因为任意空间中的向量的正交性均可由基证明,而基若不正交,则已经说明不满足正交子空间的定义。

三、正交补空间

构造一对正交子空间并不难,只要任意找到两组互相正交的向量组,然后用这俩组向量组各自张成一个空间即可。因此,对于一个给的的向量空间,可能可以找到若干个不同的正交子空间。例如对于由向量组 [ 1 , 1 , 0 ] [1,1,0] [1,1,0]张成的一维空间,其正交子空间的基可以为 [ 0 , 0 , 1 ] , [ 1 , − 1 , 0 ] , [ 1 , − 1 , 1 ] , ... [0,0,1],[1,-1,0],[1,-1,1],\ldots [0,0,1],[1,−1,0],[1,−1,1],...

但是,对于给定向量组,是否总找到一个维度最大的正交子空间呢?是可以的。假设我们有一个秩为 m m m的 n n n维向量组,我们现在来找它的维度最大的正交子空间。

用到笔记2.4中零空间相关的性质,我们知道以该组向量做行向量的矩阵 A \bm{A} A,其对应的零空间的维度=列数-秩( n − m n-m n−m)。所以,该零空间就是它的一个正交子空间。

同样在笔记2.4中,我们说明了任意该齐次方程组的解均在零空间中,即除了零空间外,找不出任何向量与给的向量组所有向量正交。可见,这个零空间就是我们要找的给的向量组对应的维数最大的正交子空间,我们称之为正交补空间

四、正交补空间的性质

1)直接观察得到的性质是,互为正交补空间的两个子空间的维数之和,等于其中向量的维数,即 n − m + m = n n-m+m=n n−m+m=n。这个由上述推理过程,结合列数-秩=零空间维数可以推导出来。

2) n n n维向量构成的一对正交补空间之和 A + B \bm{A}+\bm{B} A+B为 n n n维空间。这里,两个空间之和是指,任意在两个空间中取一出一对向量,求和得到的向量所构成的空间。(容易验证这些向量满足加法数乘的封闭性)我们简单验证一下这个结论:

假设 c \bm{c} c为任意一个 n n n维向量。
∵ \because ∵ 正交补空间 A , B \bm{A,B} A,B中的基向量均相互正交。

假设 他们各自的一组基向量合并组成的向量组的秩为 m m m

若 m < n m<n m<n,由于 r ( A ) + r ( B ) = n r(A)+r(B)=n r(A)+r(B)=n,即合并向量组中向量数目为 n n n
∴ \therefore ∴ 合并向量组中存在线性相关的向量。

又 ∵ \because ∵ 各自子空间中基向量线性无关
∴ \therefore ∴ 存在某子空间中的向量与另一个子空间中的基向量线性相关

即某子空间的基向量属于其正交子空间

又 ∵ \because ∵ 基向量为非零向量,
∴ \therefore ∴ 其自身不可能与自身正交。

因此, m = n m=n m=n


总结

本文介绍了向量正交的概念,并由此拓展出正交子空间以及正交补空间的概念。这些概念均与之前学习过的零空间等息息相关。

相关推荐
开MINI的工科男2 小时前
深蓝学院-- 量产自动驾驶中的规划控制算法 小鹏
人工智能·机器学习·自动驾驶
limingade3 小时前
手机实时提取SIM卡打电话的信令和声音-新的篇章(一、可行的方案探讨)
物联网·算法·智能手机·数据分析·信息与通信
AI大模型知识分享3 小时前
Prompt最佳实践|如何用参考文本让ChatGPT答案更精准?
人工智能·深度学习·机器学习·chatgpt·prompt·gpt-3
小言从不摸鱼5 小时前
【AI大模型】ChatGPT模型原理介绍(下)
人工智能·python·深度学习·机器学习·自然语言处理·chatgpt
jiao000015 小时前
数据结构——队列
c语言·数据结构·算法
迷迭所归处6 小时前
C++ —— 关于vector
开发语言·c++·算法
leon6257 小时前
优化算法(一)—遗传算法(Genetic Algorithm)附MATLAB程序
开发语言·算法·matlab
CV工程师小林7 小时前
【算法】BFS 系列之边权为 1 的最短路问题
数据结构·c++·算法·leetcode·宽度优先
Navigator_Z7 小时前
数据结构C //线性表(链表)ADT结构及相关函数
c语言·数据结构·算法·链表
Aic山鱼7 小时前
【如何高效学习数据结构:构建编程的坚实基石】
数据结构·学习·算法