希尔伯特空间中的正交性

摘要：正交性是希尔伯特空间理论中最核心、最具几何直观的概念之一。它把有限维欧氏空间中的"垂直""投影""正交分解"推广到了无限维函数空间，并成为傅里叶级数、最小二乘法、偏微分方程、量子力学和算子理论的重要基础。本文从内积空间的基本定义出发，系统介绍正交向量、正交补、正交投影、最佳逼近、正交规范基、Bessel 不等式、Parseval 等式以及 Riesz 表示定理，并通过具体例子说明这些结论之间的联系。

一、为什么要研究正交性？

在初等几何中，两个向量垂直意味着它们之间的夹角为九十度。代数上，如果向量 x,y∈Rnx,y\in\mathbb R^nx,y∈Rn 满足

x⋅y=0, x\cdot y=0, x⋅y=0,

我们就称 xxx 与 yyy 正交。

正交性的重要性不仅在于它具有几何意义，更在于它能够带来一系列强有力的分解公式：

勾股定理：正交向量的平方长度可以直接相加；
正交分解：一个向量可以拆成子空间中的部分与其正交部分；
最佳逼近：正交投影给出子空间中距离目标最近的元素；
坐标展开：正交规范系可以作为无限维空间中的"坐标轴"；
能量守恒：Parseval 等式将函数范数与傅里叶系数联系起来。

有限维线性代数中的这些思想，在适当的完备性条件下，可以推广到无限维空间，这就形成了希尔伯特空间中的正交性理论。

二、内积空间与希尔伯特空间

2.1 内积的定义

设 HHH 是实数域 R\mathbb RR 或复数域 C\mathbb CC 上的线性空间。若存在映射

⟨⋅,⋅⟩:H×H→F, \langle\cdot,\cdot\rangle:H\times H\to\mathbb F, ⟨⋅,⋅⟩:H×H→F,

满足以下条件，则称其为 HHH 上的内积。

实内积空间

对任意 x,y,z∈Hx,y,z\in Hx,y,z∈H 和 α∈R\alpha\in\mathbb Rα∈R，有：

对称性

⟨x,y⟩=⟨y,x⟩; \langle x,y\rangle=\langle y,x\rangle; ⟨x,y⟩=⟨y,x⟩;
第一变量线性

⟨αx+z,y⟩=α⟨x,y⟩+⟨z,y⟩; \langle \alpha x+z,y\rangle=\alpha\langle x,y\rangle+\langle z,y\rangle; ⟨αx+z,y⟩=α⟨x,y⟩+⟨z,y⟩;
正定性

⟨x,x⟩≥0, \langle x,x\rangle\ge 0, ⟨x,x⟩≥0,

且当且仅当 x=0x=0x=0 时等号成立。

复内积空间

在复数域上，通常约定内积对第一变量线性、对第二变量共轭线性，并满足：

共轭对称性

⟨x,y⟩=⟨y,x⟩‾; \langle x,y\rangle=\overline{\langle y,x\rangle}; ⟨x,y⟩=⟨y,x⟩;
线性与共轭线性

⟨αx+z,y⟩=α⟨x,y⟩+⟨z,y⟩, \langle \alpha x+z,y\rangle=\alpha\langle x,y\rangle+\langle z,y\rangle, ⟨αx+z,y⟩=α⟨x,y⟩+⟨z,y⟩,

⟨x,αy+z⟩=α‾⟨x,y⟩+⟨x,z⟩; \langle x,\alpha y+z\rangle=\overline\alpha\langle x,y\rangle+\langle x,z\rangle; ⟨x,αy+z⟩=α⟨x,y⟩+⟨x,z⟩;
正定性

⟨x,x⟩≥0, \langle x,x\rangle\ge 0, ⟨x,x⟩≥0,

且 ⟨x,x⟩=0\langle x,x\rangle=0⟨x,x⟩=0 当且仅当 x=0x=0x=0。

在不同教材中，也可能约定内积对第二变量线性、对第一变量共轭线性。处理复内积时，必须先确认教材采用的约定。

2.2 由内积诱导的范数

内积可以诱导出范数：

∥x∥=⟨x,x⟩. \|x\|=\sqrt{\langle x,x\rangle}. ∥x∥=⟨x,x⟩ .

由此得到距离

d(x,y)=∥x−y∥. d(x,y)=\|x-y\|. d(x,y)=∥x−y∥.

内积空间中的范数并不是任意范数，而是满足平行四边形恒等式：

∥x+y∥2+∥x−y∥2=2∥x∥2+2∥y∥2. \|x+y\|^2+\|x-y\|^2=2\|x\|^2+2\|y\|^2. ∥x+y∥2+∥x−y∥2=2∥x∥2+2∥y∥2.

2.3 希尔伯特空间

定义：完备的内积空间称为希尔伯特空间。

这里的"完备"是指：空间中的每一个柯西列都收敛于该空间中的某个元素。换言之，如果 (xn)(x_n)(xn) 满足

∀ε>0,∃N,m,n>N⇒∥xm−xn∥<ε, \forall\varepsilon>0,\quad \exists N,\quad m,n>N\Rightarrow \|x_m-x_n\|<\varepsilon, ∀ε>0,∃N,m,n>N⇒∥xm−xn∥<ε,

那么存在 x∈Hx\in Hx∈H，使得

∥xn−x∥→0. \|x_n-x\|\to 0. ∥xn−x∥→0.

完备性是无限维空间中能够顺利进行极限、投影和级数运算的关键条件。

三、正交性的定义与基本性质

3.1 正交的定义

设 x,y∈Hx,y\in Hx,y∈H。如果

⟨x,y⟩=0, \langle x,y\rangle=0, ⟨x,y⟩=0,

则称 xxx 与 yyy 正交，记作

x⊥y. x\perp y. x⊥y.

注意：零向量与任意向量都正交，因为

⟨0,y⟩=0. \langle 0,y\rangle=0. ⟨0,y⟩=0.

正交关系具有对称性。在复内积空间中，如果 ⟨x,y⟩=0\langle x,y\rangle=0⟨x,y⟩=0，由共轭对称性可得

⟨y,x⟩=⟨x,y⟩‾=0, \langle y,x\rangle=\overline{\langle x,y\rangle}=0, ⟨y,x⟩=⟨x,y⟩=0,

所以仍有 y⊥xy\perp xy⊥x。

3.2 正交向量的勾股定理

若 x⊥yx\perp yx⊥y，则

∥x+y∥2=∥x∥2+∥y∥2. \|x+y\|^2=\|x\|^2+\|y\|^2. ∥x+y∥2=∥x∥2+∥y∥2.

证明如下：

∥x+y∥2=⟨x+y,x+y⟩=⟨x,x⟩+⟨x,y⟩+⟨y,x⟩+⟨y,y⟩. \begin{aligned} \|x+y\|^2 &= \langle x+y,x+y\rangle \\ &= \langle x,x\rangle+\langle x,y\rangle+\langle y,x\rangle+\langle y,y\rangle. \end{aligned} ∥x+y∥2=⟨x+y,x+y⟩=⟨x,x⟩+⟨x,y⟩+⟨y,x⟩+⟨y,y⟩.

由于 ⟨x,y⟩=⟨y,x⟩=0\langle x,y\rangle=\langle y,x\rangle=0⟨x,y⟩=⟨y,x⟩=0，因此

∥x+y∥2=∥x∥2+∥y∥2. \|x+y\|^2=\|x\|^2+\|y\|^2. ∥x+y∥2=∥x∥2+∥y∥2.

更一般地，如果 x1,...,xnx_1,\dots,x_nx1,...,xn 两两正交，那么

∥∑k=1nxk∥2=∑k=1n∥xk∥2. \left\|\sum_{k=1}^n x_k\right\|^2=\sum_{k=1}^n\|x_k\|^2. k=1∑nxk 2=k=1∑n∥xk∥2.

这说明正交向量之间不存在"交叉项"，计算范数时可以逐项相加。

3.3 正交向量组的线性无关性

设 x1,...,xnx_1,\dots,x_nx1,...,xn 是一组非零的两两正交向量，即

⟨xi,xj⟩=0,i≠j. \langle x_i,x_j\rangle=0,\quad i\ne j. ⟨xi,xj⟩=0,i=j.

若

∑k=1nαkxk=0, \sum_{k=1}^n\alpha_kx_k=0, k=1∑nαkxk=0,

两边与 xjx_jxj 做内积，得到

αj∥xj∥2=0. \alpha_j\|x_j\|^2=0. αj∥xj∥2=0.

因为 xj≠0x_j\ne0xj=0，所以 αj=0\alpha_j=0αj=0。对任意 jjj 都成立，因此所有系数均为零。故非零正交向量组必然线性无关。

这是正交方法能够有效构造基的重要原因。

四、Cauchy--Schwarz 不等式与三角不等式

正交性理论建立在两个基本不等式之上。

4.1 Cauchy--Schwarz 不等式

对任意 x,y∈Hx,y\in Hx,y∈H，有

∣⟨x,y⟩∣≤∥x∥ ∥y∥. |\langle x,y\rangle|\le \|x\|\,\|y\|. ∣⟨x,y⟩∣≤∥x∥∥y∥.

当且仅当 x,yx,yx,y 线性相关时取等号。

在实欧氏空间中，该不等式就是

∣x⋅y∣≤∣x∣∣y∣. |x\cdot y|\le |x||y|. ∣x⋅y∣≤∣x∣∣y∣.

在复内积空间中，绝对值是不可缺少的。

4.2 证明思路

当 y≠0y\ne0y=0 时，考虑

∥x−⟨x,y⟩∥y∥2y∥2≥0. \left\|x-\frac{\langle x,y\rangle}{\|y\|^2}y\right\|^2\ge0. x−∥y∥2⟨x,y⟩y 2≥0.

展开后可得

∥x∥2−∣⟨x,y⟩∣2∥y∥2≥0, \|x\|^2-\frac{|\langle x,y\rangle|^2}{\|y\|^2}\ge0, ∥x∥2−∥y∥2∣⟨x,y⟩∣2≥0,

从而得到

∣⟨x,y⟩∣2≤∥x∥2∥y∥2. |\langle x,y\rangle|^2\le \|x\|^2\|y\|^2. ∣⟨x,y⟩∣2≤∥x∥2∥y∥2.

4.3 三角不等式

利用内积展开与 Cauchy--Schwarz 不等式，有

∥x+y∥2=∥x∥2+2Re⁡⟨x,y⟩+∥y∥2≤∥x∥2+2∥x∥∥y∥+∥y∥2=(∥x∥+∥y∥)2. \begin{aligned} \|x+y\|^2 &= \|x\|^2+2\operatorname{Re}\langle x,y\rangle+\|y\|^2 \\ &\le \|x\|^2+2\|x\|\|y\|+\|y\|^2 \\ &= (\|x\|+\|y\|)^2. \end{aligned} ∥x+y∥2=∥x∥2+2Re⟨x,y⟩+∥y∥2≤∥x∥2+2∥x∥∥y∥+∥y∥2=(∥x∥+∥y∥)2.

因此

∥x+y∥≤∥x∥+∥y∥. \|x+y\|\le \|x\|+\|y\|. ∥x+y∥≤∥x∥+∥y∥.

五、正交补空间

5.1 定义

设 MMM 是希尔伯特空间 HHH 的子集，定义其正交补为

M⊥={x∈H:⟨x,m⟩=0, ∀m∈M}. M^\perp=\{x\in H:\langle x,m\rangle=0,\ \forall m\in M\}. M⊥={x∈H:⟨x,m⟩=0, ∀m∈M}.

如果 MMM 是子空间，则称 M⊥M^\perpM⊥ 为 MMM 的正交补空间。

5.2 正交补是闭子空间

无论 MMM 是否闭，M⊥M^\perpM⊥ 总是闭子空间。

证明：设 xn∈M⊥x_n\in M^\perpxn∈M⊥，且 xn→xx_n\to xxn→x。对任意 m∈Mm\in Mm∈M，由内积的连续性，

⟨x,m⟩=lim⁡n→∞⟨xn,m⟩=0. \langle x,m\rangle=\lim_{n\to\infty}\langle x_n,m\rangle=0. ⟨x,m⟩=n→∞lim⟨xn,m⟩=0.

因此 x∈M⊥x\in M^\perpx∈M⊥。

5.3 基本关系

对任意子集 M⊂HM\subset HM⊂H，有

M⊂(M⊥)⊥. M\subset (M^\perp)^\perp. M⊂(M⊥)⊥.

更精确的结论是

(M⊥)⊥=span⁡(M)‾. (M^\perp)^\perp=\overline{\operatorname{span}(M)}. (M⊥)⊥=span(M).

如果 MMM 本身是闭子空间，则

(M⊥)⊥=M. (M^\perp)^\perp=M. (M⊥)⊥=M.

此外，

M⊥=(M‾)⊥. M^\perp=(\overline M)^\perp. M⊥=(M)⊥.

也就是说，求正交补时，集合与其闭包具有相同的正交补。

六、正交投影定理

正交投影定理是希尔伯特空间正交性理论的核心结果。

6.1 投影定理

设 MMM 是希尔伯特空间 HHH 的闭子空间。对于任意 x∈Hx\in Hx∈H，存在唯一的 m∈Mm\in Mm∈M，使得

∥x−m∥=inf⁡y∈M∥x−y∥. \|x-m\|=\inf_{y\in M}\|x-y\|. ∥x−m∥=y∈Minf∥x−y∥.

并且满足

x−m⊥M. x-m\perp M. x−m⊥M.

记这个唯一的 mmm 为 PMxP_MxPMx，称为 xxx 在 MMM 上的正交投影。

于是有唯一分解

x=PMx+(x−PMx), x=P_Mx+(x-P_Mx), x=PMx+(x−PMx),

其中

PMx∈M,x−PMx∈M⊥. P_Mx\in M,\qquad x-P_Mx\in M^\perp. PMx∈M,x−PMx∈M⊥.

因此

H=M⊕M⊥. H=M\oplus M^\perp. H=M⊕M⊥.

这里的直和是正交直和。

6.2 为什么投影点必须满足正交条件？

设 m0∈Mm_0\in Mm0∈M 是距离 xxx 最近的点。对任意 m∈Mm\in Mm∈M 和实数 ttt，由于 m0+tm∈Mm_0+tm\in Mm0+tm∈M，函数

f(t)=∥x−m0−tm∥2 f(t)=\|x-m_0-tm\|^2 f(t)=∥x−m0−tm∥2

在 t=0t=0t=0 处取得最小值。因此

f′(0)=0. f'(0)=0. f′(0)=0.

展开可得

f′(0)=−2Re⁡⟨x−m0,m⟩=0. f'(0)=-2\operatorname{Re}\langle x-m_0,m\rangle=0. f′(0)=−2Re⟨x−m0,m⟩=0.

在复空间中分别考虑 mmm 与 imimim，即可推出

⟨x−m0,m⟩=0. \langle x-m_0,m\rangle=0. ⟨x−m0,m⟩=0.

所以最佳逼近误差必然与整个子空间正交。

6.3 投影算子的性质

正交投影 PM:H→MP_M:H\to MPM:H→M 具有以下性质：

线性

PM(αx+βy)=αPMx+βPMy; P_M(\alpha x+\beta y)=\alpha P_Mx+\beta P_My; PM(αx+βy)=αPMx+βPMy;
幂等性

PM2=PM; P_M^2=P_M; PM2=PM;
自伴性

PM∗=PM; P_M^*=P_M; PM∗=PM;
有界性

∥PM∥≤1; \|P_M\|\le1; ∥PM∥≤1;
值域与核

Ran⁡(PM)=M,ker⁡(PM)=M⊥; \operatorname{Ran}(P_M)=M,\qquad \ker(P_M)=M^\perp; Ran(PM)=M,ker(PM)=M⊥;
正交分解

I−PM=PM⊥. I-P_M=P_{M^\perp}. I−PM=PM⊥.

如果 M≠{0}M\ne\{0\}M={0}，则 ∥PM∥=1\|P_M\|=1∥PM∥=1。

6.4 投影的勾股公式

由

x=PMx+(I−PM)x x=P_Mx+(I-P_M)x x=PMx+(I−PM)x

以及两部分正交，得到

∥x∥2=∥PMx∥2+∥(I−PM)x∥2. \|x\|^2=\|P_Mx\|^2+\|(I-P_M)x\|^2. ∥x∥2=∥PMx∥2+∥(I−PM)x∥2.

这说明投影不会增大向量长度：

∥PMx∥≤∥x∥. \|P_Mx\|\le \|x\|. ∥PMx∥≤∥x∥.

七、最佳逼近与最小二乘法

7.1 最佳逼近的几何解释

给定 x∈Hx\in Hx∈H 和闭子空间 MMM，我们希望在 MMM 中寻找一个元素 mmm，使得

∥x−m∥ \|x-m\| ∥x−m∥

尽可能小。投影定理说明，这个问题的唯一解就是

m=PMx. m=P_Mx. m=PMx.

因此，正交投影是希尔伯特空间中最佳逼近问题的标准解。

7.2 有限维子空间上的投影公式

设 M=span⁡{e1,...,en}M=\operatorname{span}\{e_1,\dots,e_n\}M=span{e1,...,en}，其中 e1,...,ene_1,\dots,e_ne1,...,en 是正交规范组，即

⟨ei,ej⟩=δij. \langle e_i,e_j\rangle=\delta_{ij}. ⟨ei,ej⟩=δij.

那么任意 x∈Hx\in Hx∈H 在 MMM 上的正交投影为

PMx=∑k=1n⟨x,ek⟩ek. P_Mx=\sum_{k=1}^n\langle x,e_k\rangle e_k. PMx=k=1∑n⟨x,ek⟩ek.

若 eke_kek 不是单位向量，但仍然两两正交，则

PMx=∑k=1n⟨x,ek⟩∥ek∥2ek. P_Mx=\sum_{k=1}^n\frac{\langle x,e_k\rangle}{\|e_k\|^2}e_k. PMx=k=1∑n∥ek∥2⟨x,ek⟩ek.

7.3 一般基下的正规方程

若 v1,...,vnv_1,\dots,v_nv1,...,vn 不是正交组，设

m=∑j=1ncjvj. m=\sum_{j=1}^n c_jv_j. m=j=1∑ncjvj.

最佳逼近条件为

x−m⊥M, x-m\perp M, x−m⊥M,

即对每个 i=1,...,ni=1,\dots,ni=1,...,n，有

⟨x−∑j=1ncjvj,vi⟩=0. \left\langle x-\sum_{j=1}^nc_jv_j,v_i\right\rangle=0. ⟨x−j=1∑ncjvj,vi⟩=0.

这给出线性方程组

∑j=1ncj⟨vj,vi⟩=⟨x,vi⟩. \sum_{j=1}^n c_j\langle v_j,v_i\rangle=\langle x,v_i\rangle. j=1∑ncj⟨vj,vi⟩=⟨x,vi⟩.

这就是最小二乘法中的正规方程。当基底正交规范化后，Gram 矩阵变成单位矩阵，方程组立即解耦，计算大幅简化。

八、正交组、正交规范组与正交基

8.1 正交组与正交规范组

若向量组 {ei}i∈I\{e_i\}_{i\in I}{ei}i∈I 满足

⟨ei,ej⟩=0,i≠j, \langle e_i,e_j\rangle=0,\quad i\ne j, ⟨ei,ej⟩=0,i=j,

则称其为正交组。

如果进一步满足

∥ei∥=1, \|e_i\|=1, ∥ei∥=1,

则称其为正交规范组，或标准正交组。

8.2 完备正交组

正交规范组 {ei}i∈I\{e_i\}_{i\in I}{ei}i∈I 称为完备的，如果不存在非零向量与其中所有向量都正交。等价地，

span⁡{ei:i∈I}‾=H. \overline{\operatorname{span}\{e_i:i\in I\}}=H. span{ei:i∈I}=H.

在可分希尔伯特空间中，通常可以找到至多可数的完备正交规范组

{e1,e2,... }. \{e_1,e_2,\dots\}. {e1,e2,...}.

它在无限维空间中扮演有限维标准基的角色。

8.3 Gram--Schmidt 正交化

设 x1,x2,...x_1,x_2,\dotsx1,x2,... 是线性无关序列，可以递归定义：

u1=x1, u_1=x_1, u1=x1,

un=xn−∑k=1n−1⟨xn,uk⟩∥uk∥2uk. u_n=x_n-\sum_{k=1}^{n-1}\frac{\langle x_n,u_k\rangle}{\|u_k\|^2}u_k. un=xn−k=1∑n−1∥uk∥2⟨xn,uk⟩uk.

然后令

en=un∥un∥. e_n=\frac{u_n}{\|u_n\|}. en=∥un∥un.

得到的 e1,e2,...e_1,e_2,\dotse1,e2,... 是正交规范组，并且对每个 nnn，有

span⁡{e1,...,en}=span⁡{x1,...,xn}. \operatorname{span}\{e_1,\dots,e_n\}=\operatorname{span}\{x_1,\dots,x_n\}. span{e1,...,en}=span{x1,...,xn}.

在函数空间中，Gram--Schmidt 正交化可以将多项式序列转化为 Legendre 多项式等经典正交函数系。

九、Bessel 不等式与 Parseval 等式

设 {ek}k=1∞\{e_k\}_{k=1}^{\infty}{ek}k=1∞ 是希尔伯特空间中的正交规范组。

9.1 Fourier 系数

对于任意 x∈Hx\in Hx∈H，定义其关于 eke_kek 的 Fourier 系数为

x^k=⟨x,ek⟩. \widehat{x}_k=\langle x,e_k\rangle. x k=⟨x,ek⟩.

前 nnn 项的正交展开为

sn=∑k=1n⟨x,ek⟩ek. s_n=\sum_{k=1}^n\langle x,e_k\rangle e_k. sn=k=1∑n⟨x,ek⟩ek.

由于 x−snx-s_nx−sn 与每个 eke_kek 正交，所以

∥x∥2=∥sn∥2+∥x−sn∥2. \|x\|^2=\|s_n\|^2+\|x-s_n\|^2. ∥x∥2=∥sn∥2+∥x−sn∥2.

又因为

∥sn∥2=∑k=1n∣⟨x,ek⟩∣2, \|s_n\|^2=\sum_{k=1}^n|\langle x,e_k\rangle|^2, ∥sn∥2=k=1∑n∣⟨x,ek⟩∣2,

所以

∑k=1n∣⟨x,ek⟩∣2≤∥x∥2. \sum_{k=1}^n|\langle x,e_k\rangle|^2\le \|x\|^2. k=1∑n∣⟨x,ek⟩∣2≤∥x∥2.

令 n→∞n\to\inftyn→∞，得到 Bessel 不等式：

∑k=1∞∣⟨x,ek⟩∣2≤∥x∥2 \sum_{k=1}^{\infty}|\langle x,e_k\rangle|^2\le \|x\|^2 k=1∑∞∣⟨x,ek⟩∣2≤∥x∥2

它说明 Fourier 系数一定属于 ℓ2\ell^2ℓ2。

9.2 Parseval 等式

如果 {ek}\{e_k\}{ek} 是完备正交规范组，则

∥x∥2=∑k=1∞∣⟨x,ek⟩∣2 \|x\|^2=\sum_{k=1}^{\infty}|\langle x,e_k\rangle|^2 ∥x∥2=k=1∑∞∣⟨x,ek⟩∣2

这就是 Parseval 等式。

同时，

x=∑k=1∞⟨x,ek⟩ek x=\sum_{k=1}^{\infty}\langle x,e_k\rangle e_k x=k=1∑∞⟨x,ek⟩ek

其中级数在希尔伯特空间范数意义下收敛，即

∥x−∑k=1n⟨x,ek⟩ek∥→0. \left\|x-\sum_{k=1}^n\langle x,e_k\rangle e_k\right\|\to 0. x−k=1∑n⟨x,ek⟩ek →0.

需要注意，这种收敛一般不是逐点收敛，也不一定是一致收敛，而是范数收敛。

9.3 反过来的构造

若 (ak)∈ℓ2(a_k)\in\ell^2(ak)∈ℓ2，即

∑k=1∞∣ak∣2<∞, \sum_{k=1}^{\infty}|a_k|^2<\infty, k=1∑∞∣ak∣2<∞,

则级数

∑k=1∞akek \sum_{k=1}^{\infty}a_ke_k k=1∑∞akek

在 HHH 中收敛，并满足

∥∑k=1∞akek∥2=∑k=1∞∣ak∣2. \left\|\sum_{k=1}^{\infty}a_ke_k\right\|^2=\sum_{k=1}^{\infty}|a_k|^2. k=1∑∞akek 2=k=1∑∞∣ak∣2.

因此，给定希尔伯特空间的一组完备正交规范基，空间中的元素可以用 ℓ2\ell^2ℓ2 中的数列来表示。

十、典型例子：函数空间中的正交性

10.1 L2 $a,b$ L^2 $a,b$ L2 $a,b$ 空间

在平方可积函数空间 L2 $a,b$ L^2 $a,b$ L2 $a,b$ 中，定义内积

⟨f,g⟩=∫abf(t)g(t)‾ dt. \langle f,g\rangle=\int_a^b f(t)\overline{g(t)}\,dt. ⟨f,g⟩=∫abf(t)g(t)dt.

对应范数为

∥f∥2=(∫ab∣f(t)∣2dt)1/2. \|f\|_2=\left(\int_a^b|f(t)|^2dt\right)^{1/2}. ∥f∥2=(∫ab∣f(t)∣2dt)1/2.

两个函数正交，当且仅当

∫abf(t)g(t)‾ dt=0. \int_a^b f(t)\overline{g(t)}\,dt=0. ∫abf(t)g(t)dt=0.

例如，在 $-π,π$ $-\\pi,\\pi$ $-π,π$ 上，函数 sin⁡nx\sin nxsinnx 与 cos⁡mx\cos mxcosmx 具有正交关系：

∫−ππsin⁡(nx)cos⁡(mx) dx=0. \int_{-\pi}^{\pi}\sin(nx)\cos(mx)\,dx=0. ∫−ππsin(nx)cos(mx)dx=0.

当 m≠nm\ne nm=n 时，还有

∫−ππsin⁡(nx)sin⁡(mx) dx=0, \int_{-\pi}^{\pi}\sin(nx)\sin(mx)\,dx=0, ∫−ππsin(nx)sin(mx)dx=0,

∫−ππcos⁡(nx)cos⁡(mx) dx=0. \int_{-\pi}^{\pi}\cos(nx)\cos(mx)\,dx=0. ∫−ππcos(nx)cos(mx)dx=0.

这正是 Fourier 级数能够将函数分解为不同频率成分的原因。

10.2 加权内积

有时内积定义为

⟨f,g⟩w=∫abf(t)g(t)‾w(t) dt, \langle f,g\rangle_w=\int_a^b f(t)\overline{g(t)}w(t)\,dt, ⟨f,g⟩w=∫abf(t)g(t)w(t)dt,

其中权函数满足 w(t)>0w(t)>0w(t)>0。此时正交性取决于权函数，不同权函数会产生不同的正交多项式族，例如：

Legendre 多项式：权函数为 111；
Chebyshev 多项式：权函数与 (1−x2)−1/2(1-x^2)^{-1/2}(1−x2)−1/2 有关；
Hermite 多项式：定义在整个实轴上，权函数与 e−x2e^{-x^2}e−x2 有关；
Laguerre 多项式：定义在 [0,∞)[0,\infty)[0,∞) 上，权函数与 e−xe^{-x}e−x 有关。

10.3 ℓ2\ell^2ℓ2 空间

ℓ2\ell^2ℓ2 定义为

ℓ2={x=(xn):∑n=1∞∣xn∣2<∞}. \ell^2=\left\{x=(x_n):\sum_{n=1}^{\infty}|x_n|^2<\infty\right\}. ℓ2={x=(xn):n=1∑∞∣xn∣2<∞}.

其内积为

⟨x,y⟩=∑n=1∞xnyn‾. \langle x,y\rangle=\sum_{n=1}^{\infty}x_n\overline{y_n}. ⟨x,y⟩=n=1∑∞xnyn.

标准单位向量

e1=(1,0,0,... ),e2=(0,1,0,... ),... e_1=(1,0,0,\dots),\quad e_2=(0,1,0,\dots),\quad\dots e1=(1,0,0,...),e2=(0,1,0,...),...

构成 ℓ2\ell^2ℓ2 的完备正交规范基。任意 x=(xn)∈ℓ2x=(x_n)\in\ell^2x=(xn)∈ℓ2 都可以写成

x=∑n=1∞xnen. x=\sum_{n=1}^{\infty}x_ne_n. x=n=1∑∞xnen.

十一、Riesz 表示定理与正交性

Riesz 表示定理说明：希尔伯特空间上的每一个连续线性泛函，都可以由内积表示。

11.1 定理内容

设 HHH 是希尔伯特空间，f:H→Ff:H\to\mathbb Ff:H→F 是连续线性泛函，则存在唯一的 y∈Hy\in Hy∈H，使得

f(x)=⟨x,y⟩,∀x∈H. f(x)=\langle x,y\rangle,\qquad \forall x\in H. f(x)=⟨x,y⟩,∀x∈H.

并且

∥f∥=∥y∥. \|f\|=\|y\|. ∥f∥=∥y∥.

这建立了希尔伯特空间与其连续对偶空间之间的自然同构：

H∗≅H. H^*\cong H. H∗≅H.

11.2 核空间与正交补

若

f(x)=⟨x,y⟩, f(x)=\langle x,y\rangle, f(x)=⟨x,y⟩,

且 y≠0y\ne0y=0，则

ker⁡f={x:⟨x,y⟩=0}=span⁡{y}⊥. \ker f=\{x:\langle x,y\rangle=0\}=\operatorname{span}\{y\}^\perp. kerf={x:⟨x,y⟩=0}=span{y}⊥.

因此，一个连续线性泛函的核是某个向量的正交补。这是正交性与对偶空间之间的重要联系。

十二、正交性与算子理论

12.1 伴随算子

设 T:H→HT:H\to HT:H→H 是有界线性算子。如果存在算子 T∗T^*T∗，满足

⟨Tx,y⟩=⟨x,T∗y⟩,∀x,y∈H, \langle Tx,y\rangle=\langle x,T^*y\rangle,\qquad \forall x,y\in H, ⟨Tx,y⟩=⟨x,T∗y⟩,∀x,y∈H,

则称 T∗T^*T∗ 为 TTT 的伴随算子。

重要性质包括：

(T+S)∗=T∗+S∗, (T+S)^*=T^*+S^*, (T+S)∗=T∗+S∗,

(αT)∗=α‾T∗, (\alpha T)^*=\overline\alpha T^*, (αT)∗=αT∗,

(ST)∗=T∗S∗, (ST)^*=T^*S^*, (ST)∗=T∗S∗,

(T∗)∗=T. (T^*)^*=T. (T∗)∗=T.

12.2 自伴算子

如果

T=T∗, T=T^*, T=T∗,

则称 TTT 为自伴算子。自伴算子是无限维空间中对称矩阵的推广，其谱具有良好性质，特别是谱位于实轴上。

12.3 正算子

若 T=T∗OutputT=T^*OutputT=T∗Output，且对任意 x∈Hx\in Hx∈H，有

⟨Tx,x⟩≥0, \langle Tx,x\rangle\ge0, ⟨Tx,x⟩≥0,

则称 TTT 为正算子。

正算子常出现在能量估计、椭圆型偏微分方程以及概率论中。

12.4 酉算子

若 U:H→HU:H\to HU:H→H 满足

⟨Ux,Uy⟩=⟨x,y⟩,∀x,y∈H, \langle Ux,Uy\rangle=\langle x,y\rangle,\qquad \forall x,y\in H, ⟨Ux,Uy⟩=⟨x,y⟩,∀x,y∈H,

则称 UUU 为酉算子。酉算子保持内积、范数、距离和正交性：

x⊥y⟹Ux⊥Uy. x\perp y\Longrightarrow Ux\perp Uy. x⊥y⟹Ux⊥Uy.

十三、正交性在证明题中的常见方法

方法一：直接计算内积

要证明 x⊥yx\perp yx⊥y，最直接的方法是计算

⟨x,y⟩ \langle x,y\rangle ⟨x,y⟩

并证明其等于零。

方法二：利用投影分解

若已知

x=PMx+(I−PM)x, x=P_Mx+(I-P_M)x, x=PMx+(I−PM)x,

则直接利用

PMx∈M,(I−PM)x∈M⊥ P_Mx\in M,\qquad (I-P_M)x\in M^\perp PMx∈M,(I−PM)x∈M⊥

即可判断两部分正交。

方法三：利用闭包与正交补关系

如果要证明某个向量属于 M⊥M^\perpM⊥，只需证明它与 MMM 中任意元素正交。若 MMM 由某个集合生成，则常可先对生成元验证，再利用连续性推广到闭包。

方法四：利用 Fourier 展开

在函数空间中，可以将问题转化为 Fourier 系数的计算。若某函数只包含某些频率，而另一个函数包含不同频率，则利用正交关系可以快速判断内积为零。

方法五：利用最佳逼近的必要条件

如果题目涉及最小化距离问题，可以先写出

x−PMx⊥M, x-P_Mx\perp M, x−PMx⊥M,

再通过正交条件求投影系数。

十四、一个完整例题

例题

在 L2 $-1,1$ L^2 $-1,1$ L2 $-1,1$ 中取内积

⟨f,g⟩=∫−11f(x)g(x) dx. \langle f,g\rangle=\int_{-1}^{1}f(x)g(x)\,dx. ⟨f,g⟩=∫−11f(x)g(x)dx.

求函数 f(x)=x2f(x)=x^2f(x)=x2 在子空间

M=span⁡{1,x} M=\operatorname{span}\{1,x\} M=span{1,x}

上的正交投影。

解答

因为 111 与 xxx 正交：

⟨1,x⟩=∫−11x dx=0. \langle 1,x\rangle=\int_{-1}^{1}x\,dx=0. ⟨1,x⟩=∫−11xdx=0.

但它们的范数不都是一：

∥1∥2=∫−111 dx=2, \|1\|^2=\int_{-1}^{1}1\,dx=2, ∥1∥2=∫−111dx=2,

∥x∥2=∫−11x2 dx=23. \|x\|^2=\int_{-1}^{1}x^2\,dx=\frac23. ∥x∥2=∫−11x2dx=32.

利用非单位正交基的投影公式：

PMf=⟨f,1⟩∥1∥2⋅1+⟨f,x⟩∥x∥2⋅x. P_Mf=\frac{\langle f,1\rangle}{\|1\|^2}\cdot1+\frac{\langle f,x\rangle}{\|x\|^2}\cdot x. PMf=∥1∥2⟨f,1⟩⋅1+∥x∥2⟨f,x⟩⋅x.

先计算第一个系数：

⟨f,1⟩=∫−11x2 dx=23, \langle f,1\rangle=\int_{-1}^{1}x^2\,dx=\frac23, ⟨f,1⟩=∫−11x2dx=32,

所以

⟨f,1⟩∥1∥2=2/32=13. \frac{\langle f,1\rangle}{\|1\|^2}=\frac{2/3}{2}=\frac13. ∥1∥2⟨f,1⟩=22/3=31.

再计算第二个系数：

⟨f,x⟩=∫−11x3 dx=0. \langle f,x\rangle=\int_{-1}^{1}x^3\,dx=0. ⟨f,x⟩=∫−11x3dx=0.

因此

PMf=13. P_Mf=\frac13. PMf=31.

误差为

f−PMf=x2−13. f-P_Mf=x^2-\frac13. f−PMf=x2−31.

验证误差与 MMM 正交：

⟨x2−13,1⟩=23−13⋅2=0, \left\langle x^2-\frac13,1\right\rangle=\frac23-\frac13\cdot2=0, ⟨x2−31,1⟩=32−31⋅2=0,

且

⟨x2−13,x⟩=∫−11(x3−13x)dx=0. \left\langle x^2-\frac13,x\right\rangle=\int_{-1}^{1}\left(x^3-\frac13x\right)dx=0. ⟨x2−31,x⟩=∫−11(x3−31x)dx=0.

这说明常数函数 1/31/31/3 是 x2x^2x2 在 span⁡{1,x}\operatorname{span}\{1,x\}span{1,x} 中的最佳平方逼近。

十五、容易混淆的几个概念

15.1 正交不等于线性无关的逆命题

非零正交组一定线性无关，但线性无关的向量组不一定正交。例如

(1,0),(1,1) (1,0),\qquad (1,1) (1,0),(1,1)

线性无关，但内积为

(1,0)⋅(1,1)=1≠0. (1,0)\cdot(1,1)=1\ne0. (1,0)⋅(1,1)=1=0.

15.2 正交组不一定是完备的

在 R3\mathbb R^3R3 中，只有一个非零向量的正交组显然不是整个空间的基。无限维空间中同样如此：正交组还需要满足其线性张成空间的闭包等于整个空间，才是完备的。

15.3 投影定理要求子空间闭

如果 MMM 不是闭子空间，距离下确界不一定能在 MMM 中取得。通常只能保证在闭包 M‾\overline MM 中存在唯一最佳逼近。

15.4 范数收敛不等于逐点收敛

Fourier 级数在 L2L^2L2 中收敛，指的是

∥f−sn∥2→0. \|f-s_n\|_2\to0. ∥f−sn∥2→0.

这并不自动意味着对每个点 xxx，都有 sn(x)→f(x)s_n(x)\to f(x)sn(x)→f(x)。不同类型的收敛必须严格区分。

15.5 复空间中的共轭不能遗漏

在复希尔伯特空间中，内积具有共轭对称性。投影公式、Fourier 系数和伴随算子计算时，若忽略共轭，往往会导致错误。

十六、知识结构总结

可以将希尔伯特空间中的正交性理解为一条完整的理论链条：

内积⟹范数与距离⟹正交性⟹正交分解⟹正交投影⟹最佳逼近⟹正交基展开⟹Fourier 分析. \text{内积} \Longrightarrow \text{范数与距离} \Longrightarrow \text{正交性} \Longrightarrow \text{正交分解} \Longrightarrow \text{正交投影} \Longrightarrow \text{最佳逼近} \Longrightarrow \text{正交基展开} \Longrightarrow \text{Fourier 分析}. 内积⟹范数与距离⟹正交性⟹正交分解⟹正交投影⟹最佳逼近⟹正交基展开⟹Fourier 分析.

核心公式包括：

Cauchy--Schwarz 不等式

∣⟨x,y⟩∣≤∥x∥∥y∥; |\langle x,y\rangle|\le\|x\|\|y\|; ∣⟨x,y⟩∣≤∥x∥∥y∥;
正交勾股定理

x⊥y⟹∥x+y∥2=∥x∥2+∥y∥2; x\perp y\Longrightarrow \|x+y\|^2=\|x\|^2+\|y\|^2; x⊥y⟹∥x+y∥2=∥x∥2+∥y∥2;
正交补关系

(M⊥)⊥=span⁡(M)‾; (M^\perp)^\perp=\overline{\operatorname{span}(M)}; (M⊥)⊥=span(M);
正交分解

H=M⊕M⊥; H=M\oplus M^\perp; H=M⊕M⊥;
投影公式

PMx=∑k⟨x,ek⟩ek; P_Mx=\sum_k\langle x,e_k\rangle e_k; PMx=k∑⟨x,ek⟩ek;
Bessel 不等式

∑k∣⟨x,ek⟩∣2≤∥x∥2; \sum_k|\langle x,e_k\rangle|^2\le\|x\|^2; k∑∣⟨x,ek⟩∣2≤∥x∥2;
Parseval 等式

∑k∣⟨x,ek⟩∣2=∥x∥2. \sum_k|\langle x,e_k\rangle|^2=\|x\|^2. k∑∣⟨x,ek⟩∣2=∥x∥2.

十七、学习建议

学习希尔伯特空间中的正交性时，建议按照以下顺序掌握：

熟练掌握内积、范数、距离以及 Cauchy--Schwarz 不等式；
理解正交向量组为什么线性无关；
掌握正交补的定义及其闭性；
重点理解投影定理，而不是只记投影公式；
能够在有限维子空间中计算正交投影；
掌握 Gram--Schmidt 正交化过程；
区分 Bessel 不等式与 Parseval 等式的适用条件；
联系 Fourier 级数和最小二乘法理解抽象结论；
进一步学习伴随算子、自伴算子和谱定理。

正交性并不是孤立的定义，而是希尔伯特空间几何结构的核心。掌握它之后，投影理论、Fourier 分析、谱理论以及许多变分问题都会变得更加自然。

结语

希尔伯特空间中的正交性，保留了欧氏几何中"垂直"的直观，同时通过内积、完备性和极限过程扩展到了无限维空间。正交投影解决最佳逼近问题，正交规范基提供函数和向量的坐标表示，Bessel 不等式与 Parseval 等式则揭示了系数和能量之间的关系。

从学习路径来看，可以把正交性视为连接以下领域的桥梁：

线性代数⟷泛函分析⟷Fourier 分析⟷偏微分方程与数值计算. \text{线性代数} \longleftrightarrow \text{泛函分析} \longleftrightarrow \text{Fourier 分析} \longleftrightarrow \text{偏微分方程与数值计算}. 线性代数⟷泛函分析⟷Fourier 分析⟷偏微分方程与数值计算.

当你能够熟练使用"误差与子空间正交"这一原则时，就已经掌握了希尔伯特空间理论中最重要的解题思想之一。今天这期全是干货，兄弟们点点点赞收藏关注吧球球了（

关键词：泛函分析；希尔伯特空间；正交性；正交补；正交投影；最佳逼近；正交规范基；Bessel 不等式；Parseval 等式；Fourier 分析

希尔伯特空间中的正交性