快乐泛函每一天：希尔伯特空间中的最佳逼近与正交投影定理

希尔伯特空间中的最佳逼近与正交投影定理

几何直观与几何分析的核心
闭凸集上的最佳逼近定理（Best Approximation Theorem）
- 2.1 问题的严格数学提法
- 2.2 存在性证明（极小化序列与平行四边形恒等式）
- 2.3 唯一性证明（严格凸性推论）
- 2.4 变分不等式刻画（变分特征）
闭子空间与正交投影定理（Orthogonal Projection Theorem）
- 3.1 闭子空间下的退化形式：从不等式到正交性
- 3.2 直和分解定理：H=M⊕M⊥H = M \oplus M^\perpH=M⊕M⊥
- 3.3 为什么"闭子空间"必不可少？（反例深度解析）
正交投影算子 PMP_MPM 的代数与分析刻画
- 4.1 线性与有界性（∥PM∥≤1\|P_M\| \le 1∥PM∥≤1）
- 4.2 幂等性与自伴性（P2=P=P∗P^2 = P = P^*P2=P=P∗）
- 4.3 投影算子的偏序关系与积算子定理
有限维子空间上的最佳逼近与 Gram 矩阵
- 5.1 正规方程组（Normal Equations）的泛函推导
- 5.2 Gram 行列式与距离公式
习题
- 6.1 基础概念题：正交投影的代数验证与反例构造
- 6.2 经典计算题：L2( $0,1$ )L^2( $0,1$ )L2( $0,1$ ) 与 ℓ2\ell^2ℓ2 空间中的具体投影计算
- 6.3 进阶证明题：稠密性与零正交补定理
- 6.4 压轴挑战题：非闭子空间距离可达性反例与自伴幂等投影刻画
思维导图

1. 几何直观与几何分析的核心

在初等欧氏几何中，若要从空间中一点 xxx 向一个平面 MMM 作最短连线，直观的做法是"向平面作垂线"。垂足 y∈My \in My∈M 既是 xxx 在 MMM 上的最佳逼近点 （到 xxx 距离最近的点），也是 xxx 在 MMM 上的正交投影。

进入无穷维泛函空间后，这一直观是否依然成立？

若集合不是子空间而仅是凸集，几何形态会变成什么样？
若子空间不是闭的，最短距离点是否还能取到？
如何用纯代数与内积的语言，把"垂直"、"投影"、"距离最小"统一起来？

希尔伯特空间（Hilbert Space）之所以是所有无穷维赋范空间中最接近欧氏空间的结构，核心正在于其具备由内积诱导的内蕴正交性 以及度量完备性。本文将系统推导最佳逼近定理与正交投影定理，并配备多道考研、考博级别的经典习题与深度解析。

2. 闭凸集上的最佳逼近定理（Best Approximation Theorem）

2.1 问题的严格数学提法

设 HHH 是实或复希尔伯特空间，其内积记为 ⟨⋅,⋅⟩\langle \cdot, \cdot \rangle⟨⋅,⋅⟩，诱导范数为 ∥x∥=⟨x,x⟩\|x\| = \sqrt{\langle x, x \rangle}∥x∥=⟨x,x⟩ 。

设 K⊂HK \subset HK⊂H 是 HHH 的一个非空闭凸子集 。对于任意给定的向量 x∈Hx \in Hx∈H，定义 xxx 到集合 KKK 的距离为：

d(x,K):=inf⁡y∈K∥x−y∥d(x, K) := \inf_{y \in K} \|x - y\|d(x,K):=y∈Kinf∥x−y∥

核心问题 ：是否存在点 y0∈Ky_0 \in Ky0∈K，使得 ∥x−y0∥=d(x,K)\|x - y_0\| = d(x, K)∥x−y0∥=d(x,K)？如果存在，这样的 y0y_0y0 是否唯一？

2.2 存在性证明

定理 1（闭凸集最佳逼近定理）

设 HHH 是希尔伯特空间，K⊂HK \subset HK⊂H 为非空闭凸集。则对任意 x∈Hx \in Hx∈H，存在唯一的点 y0∈Ky_0 \in Ky0∈K，满足：

∥x−y0∥=inf⁡y∈K∥x−y∥=d(x,K)\|x - y_0\| = \inf_{y \in K} \|x - y\| = d(x, K)∥x−y0∥=y∈Kinf∥x−y∥=d(x,K)

证明过程：

第一步：构造极小化序列

记 d=d(x,K)=inf⁡y∈K∥x−y∥d = d(x, K) = \inf_{y \in K} \|x - y\|d=d(x,K)=infy∈K∥x−y∥。根据下确界的定义，存在序列 {yn}n=1∞⊂K\{y_n\}_{n=1}^{\infty} \subset K{yn}n=1∞⊂K，使得：

lim⁡n→∞∥x−yn∥=d\lim_{n \to \infty} \|x - y_n\| = dn→∞lim∥x−yn∥=d

第二步：利用平行四边形恒等式证明柯西性

在希尔伯特空间中，平行四边形恒等式恒成立：

∥u+v∥2+∥u−v∥2=2∥u∥2+2∥v∥2,∀u,v∈H\|u + v\|^2 + \|u - v\|^2 = 2\|u\|^2 + 2\|v\|^2, \quad \forall u, v \in H∥u+v∥2+∥u−v∥2=2∥u∥2+2∥v∥2,∀u,v∈H

令 u=x−ynu = x - y_nu=x−yn，v=x−ymv = x - y_mv=x−ym，代入上式得：

∥(x−yn)+(x−ym)∥2+∥(x−yn)−(x−ym)∥2=2∥x−yn∥2+2∥x−ym∥2\|(x - y_n) + (x - y_m)\|^2 + \|(x - y_n) - (x - y_m)\|^2 = 2\|x - y_n\|^2 + 2\|x - y_m\|^2∥(x−yn)+(x−ym)∥2+∥(x−yn)−(x−ym)∥2=2∥x−yn∥2+2∥x−ym∥2

整理左边与右边：

∥2x−(yn+ym)∥2+∥ym−yn∥2=2∥x−yn∥2+2∥x−ym∥2\left\|2x - (y_n + y_m)\right\|^2 + \|y_m - y_n\|^2 = 2\|x - y_n\|^2 + 2\|x - y_m\|^2∥2x−(yn+ym)∥2+∥ym−yn∥2=2∥x−yn∥2+2∥x−ym∥2

提取公因数 2：

4∥x−yn+ym2∥2+∥yn−ym∥2=2∥x−yn∥2+2∥x−ym∥24 \left\| x - \frac{y_n + y_m}{2} \right\|^2 + \|y_n - y_m\|^2 = 2\|x - y_n\|^2 + 2\|x - y_m\|^24 x−2yn+ym 2+∥yn−ym∥2=2∥x−yn∥2+2∥x−ym∥2

即：

∥yn−ym∥2=2∥x−yn∥2+2∥x−ym∥2−4∥x−yn+ym2∥2\|y_n - y_m\|^2 = 2\|x - y_n\|^2 + 2\|x - y_m\|^2 - 4 \left\| x - \frac{y_n + y_m}{2} \right\|^2∥yn−ym∥2=2∥x−yn∥2+2∥x−ym∥2−4 x−2yn+ym 2

由于 KKK 是凸集，对任意 n,mn, mn,m，中点 yn+ym2∈K\frac{y_n + y_m}{2} \in K2yn+ym∈K。由距离下确界的定义：

∥x−yn+ym2∥≥d ⟹ ∥x−yn+ym2∥2≥d2\left\| x - \frac{y_n + y_m}{2} \right\| \ge d \implies \left\| x - \frac{y_n + y_m}{2} \right\|^2 \ge d^2 x−2yn+ym ≥d⟹ x−2yn+ym 2≥d2

将该不等式代入前面得到的等式中：

∥yn−ym∥2≤2∥x−yn∥2+2∥x−ym∥2−4d2\|y_n - y_m\|^2 \le 2\|x - y_n\|^2 + 2\|x - y_m\|^2 - 4d^2∥yn−ym∥2≤2∥x−yn∥2+2∥x−ym∥2−4d2

当 n,m→∞n, m \to \inftyn,m→∞ 时，∥x−yn∥2→d2\|x - y_n\|^2 \to d^2∥x−yn∥2→d2 且 ∥x−ym∥2→d2\|x - y_m\|^2 \to d^2∥x−ym∥2→d2。因此：

lim sup⁡n,m→∞∥yn−ym∥2≤2d2+2d2−4d2=0\limsup_{n, m \to \infty} \|y_n - y_m\|^2 \le 2d^2 + 2d^2 - 4d^2 = 0n,m→∞limsup∥yn−ym∥2≤2d2+2d2−4d2=0

这证明了 {yn}\{y_n\}{yn} 是 HHH 中的柯西序列（Cauchy Sequence）。

第三步：利用空间完备性与闭性取极限

因为希尔伯特空间 HHH 是完备度量空间，所以存在 y0∈Hy_0 \in Hy0∈H 使得 yn→y0y_n \to y_0yn→y0（强收敛）。

又因为集合 KKK 是闭集，极限点必然落在集合内部，即 y0∈Ky_0 \in Ky0∈K。

由范数的连续性：

∥x−y0∥=lim⁡n→∞∥x−yn∥=d\|x - y_0\| = \lim_{n \to \infty} \|x - y_n\| = d∥x−y0∥=n→∞lim∥x−yn∥=d

存在性得证。

2.3 唯一性证明

假设存在另一点 y0′∈Ky_0' \in Ky0′∈K 也满足 ∥x−y0′∥=d\|x - y_0'\| = d∥x−y0′∥=d。

考察常数序列 y1=y0,y2=y0′,y3=y0,...y_1 = y_0, y_2 = y_0', y_3 = y_0, \dotsy1=y0,y2=y0′,y3=y0,...。同样利用平行四边形恒等式：

∥y0−y0′∥2=2∥x−y0∥2+2∥x−y0′∥2−4∥x−y0+y0′2∥2\|y_0 - y_0'\|^2 = 2\|x - y_0\|^2 + 2\|x - y_0'\|^2 - 4 \left\| x - \frac{y_0 + y_0'}{2} \right\|^2∥y0−y0′∥2=2∥x−y0∥2+2∥x−y0′∥2−4 x−2y0+y0′ 2

因为 y0+y0′2∈K\frac{y_0 + y_0'}{2} \in K2y0+y0′∈K，所以 ∥x−y0+y0′2∥≥d\left\| x - \frac{y_0 + y_0'}{2} \right\| \ge d x−2y0+y0′ ≥d。因此：

∥y0−y0′∥2≤2d2+2d2−4d2=0 ⟹ ∥y0−y0′∥=0 ⟹ y0=y0′\|y_0 - y_0'\|^2 \le 2d^2 + 2d^2 - 4d^2 = 0 \implies \|y_0 - y_0'\| = 0 \implies y_0 = y_0'∥y0−y0′∥2≤2d2+2d2−4d2=0⟹∥y0−y0′∥=0⟹y0=y0′

唯一性得证。■\blacksquare■

2.4 变分不等式刻画（Variational Inequality）

最佳逼近点不仅由极小化范数定义，还可以通过内积不等式（变分不等式）直接判定：

定理 2（闭凸集最佳逼近的变分特征）

设 K⊂HK \subset HK⊂H 是非空闭凸集，x∈Hx \in Hx∈H。则 y0∈Ky_0 \in Ky0∈K 是 xxx 在 KKK 上的最佳逼近点（即 ∥x−y0∥=d(x,K)\|x - y_0\| = d(x, K)∥x−y0∥=d(x,K)）的充要条件是：

Re⁡⟨x−y0,y−y0⟩≤0,∀y∈K\operatorname{Re} \langle x - y_0, y - y_0 \rangle \le 0, \quad \forall y \in KRe⟨x−y0,y−y0⟩≤0,∀y∈K

证明过程：

必要性（ ⟹ \implies⟹） ：

设 y0y_0y0 是最佳逼近点。对任意 y∈Ky \in Ky∈K 及任意 t∈(0,1]t \in (0, 1]t∈(0,1]，由于 KKK 凸，必有 yt=(1−t)y0+ty=y0+t(y−y0)∈Ky_t = (1-t)y_0 + ty = y_0 + t(y - y_0) \in Kyt=(1−t)y0+ty=y0+t(y−y0)∈K。

根据 y0y_0y0 的极小性：

∥x−y0∥2≤∥x−yt∥2=∥(x−y0)−t(y−y0)∥2\|x - y_0\|^2 \le \|x - y_t\|^2 = \|(x - y_0) - t(y - y_0)\|^2∥x−y0∥2≤∥x−yt∥2=∥(x−y0)−t(y−y0)∥2

展开右侧内积：

∥x−y0∥2≤∥x−y0∥2−2tRe⁡⟨x−y0,y−y0⟩+t2∥y−y0∥2\|x - y_0\|^2 \le \|x - y_0\|^2 - 2t \operatorname{Re}\langle x - y_0, y - y_0 \rangle + t^2 \|y - y_0\|^2∥x−y0∥2≤∥x−y0∥2−2tRe⟨x−y0,y−y0⟩+t2∥y−y0∥2

两边消去 ∥x−y0∥2\|x - y_0\|^2∥x−y0∥2 并除以 t>0t > 0t>0：

2Re⁡⟨x−y0,y−y0⟩≤t∥y−y0∥22 \operatorname{Re}\langle x - y_0, y - y_0 \rangle \le t \|y - y_0\|^22Re⟨x−y0,y−y0⟩≤t∥y−y0∥2

令 t→0+t \to 0^+t→0+，即得 Re⁡⟨x−y0,y−y0⟩≤0\operatorname{Re}\langle x - y_0, y - y_0 \rangle \le 0Re⟨x−y0,y−y0⟩≤0。
充分性（ ⟸ \impliedby⟸） ：

若对所有 y∈Ky \in Ky∈K 均有 Re⁡⟨x−y0,y−y0⟩≤0\operatorname{Re} \langle x - y_0, y - y_0 \rangle \le 0Re⟨x−y0,y−y0⟩≤0。则对任意 y∈Ky \in Ky∈K：

∥x−y∥2=∥(x−y0)−(y−y0)∥2=∥x−y0∥2−2Re⁡⟨x−y0,y−y0⟩+∥y−y0∥2≥∥x−y0∥2+0+∥y−y0∥2≥∥x−y0∥2\begin{aligned} \|x - y\|^2 &= \|(x - y_0) - (y - y_0)\|^2 \\ &= \|x - y_0\|^2 - 2 \operatorname{Re}\langle x - y_0, y - y_0 \rangle + \|y - y_0\|^2 \\ &\ge \|x - y_0\|^2 + 0 + \|y - y_0\|^2 \\ &\ge \|x - y_0\|^2 \end{aligned}∥x−y∥2=∥(x−y0)−(y−y0)∥2=∥x−y0∥2−2Re⟨x−y0,y−y0⟩+∥y−y0∥2≥∥x−y0∥2+0+∥y−y0∥2≥∥x−y0∥2

因此 ∥x−y0∥≤∥x−y∥\|x - y_0\| \le \|x - y\|∥x−y0∥≤∥x−y∥ 对所有 y∈Ky \in Ky∈K 成立，即 y0y_0y0 必为最佳逼近点。■\blacksquare■

3. 闭子空间与正交投影定理（Orthogonal Projection Theorem）

3.1 闭子空间下的退化形式：从不等式到正交性

当 K=MK = MK=M 是 HHH 的闭线性子空间 时，子空间自身关于加法和数乘封闭，变分不等式将直接退化为严格的正交条件。

引理：设 MMM 为 HHH 的闭线性子空间，x∈Hx \in Hx∈H。y0∈My_0 \in My0∈M 是 xxx 在 MMM 上的最佳逼近点当且仅当：

(x−y0)⊥M(即 ⟨x−y0,m⟩=0,∀m∈M)(x - y_0) \perp M \quad (\text{即 } \langle x - y_0, m \rangle = 0, \quad \forall m \in M)(x−y0)⊥M(即 ⟨x−y0,m⟩=0,∀m∈M)

证明：

若 (x−y0)⊥M(x - y_0) \perp M(x−y0)⊥M，则对任意 y∈My \in My∈M，y−y0∈My - y_0 \in My−y0∈M，故 ⟨x−y0,y−y0⟩=0≤0\langle x - y_0, y - y_0 \rangle = 0 \le 0⟨x−y0,y−y0⟩=0≤0，由变分特征可知 y0y_0y0 是最佳逼近点。
反之，若 y0y_0y0 为最佳逼近点，则对任意 m∈Mm \in Mm∈M 及任意复数 λ\lambdaλ，令 y=y0+λm∈My = y_0 + \lambda m \in My=y0+λm∈M。
代入变分不等式得 Re⁡⟨x−y0,λm⟩≤0\operatorname{Re}\langle x - y_0, \lambda m \rangle \le 0Re⟨x−y0,λm⟩≤0。
取 λ=eiθ⟨x−y0,m⟩∗\lambda = e^{i\theta} \langle x - y_0, m \rangle^*λ=eiθ⟨x−y0,m⟩∗，可立即推出 ∣⟨x−y0,m⟩∣=0|\langle x - y_0, m \rangle| = 0∣⟨x−y0,m⟩∣=0，即 ⟨x−y0,m⟩=0\langle x - y_0, m \rangle = 0⟨x−y0,m⟩=0。■\blacksquare■

3.2 直和分解定理：H=M⊕M⊥H = M \oplus M^\perpH=M⊕M⊥

定义子空间 MMM 的**正交补（Orthogonal Complement）**为：

M⊥={z∈H∣⟨z,m⟩=0, ∀m∈M}M^\perp = \{ z \in H \mid \langle z, m \rangle = 0, \; \forall m \in M \}M⊥={z∈H∣⟨z,m⟩=0,∀m∈M}

定理 3（正交投影定理 / 正交分解定理）

设 MMM 是希尔伯特空间 HHH 的闭子空间，则：

HHH 可以唯一地分解为 MMM 与 M⊥M^\perpM⊥ 的直和：

H=M⊕M⊥H = M \oplus M^\perpH=M⊕M⊥

即对任意 x∈Hx \in Hx∈H，存在唯一的 y∈My \in My∈M 和唯一的 z∈M⊥z \in M^\perpz∈M⊥，使得：

x=y+zx = y + zx=y+z

此处 yyy 恰好是 xxx 在 MMM 上的最佳逼近点，称为 xxx 在 MMM 上的正交投影 ，记作 y=PMxy = P_M xy=PMx；z=(I−PM)x∈M⊥z = (I - P_M)x \in M^\perpz=(I−PM)x∈M⊥。

正交补的性质：(M⊥)⊥=M(M^\perp)^\perp = M(M⊥)⊥=M。

3.3 为什么"闭子空间"必不可少？（反例深度解析）

在非闭子空间中，最佳逼近点可能根本不存在！

经典反例 ：

考虑希尔伯特空间 H=ℓ2={(xn)n=1∞∣∑n=1∞∣xn∣2<∞}H = \ell^2 = \{ (x_n){n=1}^\infty \mid \sum{n=1}^\infty |x_n|^2 < \infty \}H=ℓ2={(xn)n=1∞∣∑n=1∞∣xn∣2<∞}，内积为 ⟨x,y⟩=∑xnyn‾\langle x, y \rangle = \sum x_n \overline{y_n}⟨x,y⟩=∑xnyn。

设子空间 M=c00M = c_{00}M=c00（所有仅有有限项非零的实数列构成的空间）。显然 MMM 是线性子空间，且在 ℓ2\ell^2ℓ2 中稠密但非闭 （其闭包是整个 ℓ2\ell^2ℓ2）。

现在定义一个连续线性泛函的零空间或者直接构造向量：取 x=(1,12,13,...,1n,... )∈ℓ2∖Mx = \left( 1, \frac{1}{2}, \frac{1}{3}, \dots, \frac{1}{n}, \dots \right) \in \ell^2 \setminus Mx=(1,21,31,...,n1,...)∈ℓ2∖M。

此时 d(x,M)=0d(x, M) = 0d(x,M)=0。但如果存在 y∈My \in My∈M 使得 ∥x−y∥=d(x,M)=0\|x - y\| = d(x, M) = 0∥x−y∥=d(x,M)=0，则必然要求 y=xy = xy=x。然而 x∉Mx \notin Mx∈/M，产生了矛盾！因此在非闭子空间 MMM 上无法找到最佳逼近点。

4. 正交投影算子 PMP_MPM 的代数与分析刻画

映射 PM:H→HP_M: H \to HPM:H→H 将每个向量 xxx 映射为其在闭子空间 MMM 上的正交投影。

4.1 线性与有界性

线性性 ：对任意 x1,x2∈H,α,β∈Cx_1, x_2 \in H, \alpha, \beta \in \mathbb{C}x1,x2∈H,α,β∈C：
PM(αx1+βx2)=αPMx1+βPMx2P_M(\alpha x_1 + \beta x_2) = \alpha P_M x_1 + \beta P_M x_2PM(αx1+βx2)=αPMx1+βPMx2
有界性与范数 ：根据正交勾股定理：
∥x∥2=∥PMx∥2+∥(I−PM)x∥2≥∥PMx∥2\|x\|^2 = \|P_M x\|^2 + \|(I - P_M)x\|^2 \ge \|P_M x\|^2∥x∥2=∥PMx∥2+∥(I−PM)x∥2≥∥PMx∥2
故 ∥PMx∥≤∥x∥\|P_M x\| \le \|x\|∥PMx∥≤∥x∥，这意味着算子有界且算子范数：
∥PM∥={1,M≠{0}0,M={0}\|P_M\| = \begin{cases} 1, & M \ne \{0\} \\ 0, & M = \{0\} \end{cases}∥PM∥={1,0,M={0}M={0}

4.2 算子刻画：幂等性与自伴性

泛函分析中一个极为重要的代数刻画定理是：有界线性算子何时是一个正交投影？

定理 4

设 P∈B(H)P \in \mathcal{B}(H)P∈B(H) 是希尔伯特空间 HHH 上的有界线性算子。则 PPP 是到某个闭子空间 M=Ran⁡(P)M = \operatorname{Ran}(P)M=Ran(P) 上的正交投影算子的充要条件是：

P2=P且P∗=PP^2 = P \quad \text{且} \quad P^* = PP2=P且P∗=P

即 PPP 既是幂等算子（Idempotent / Projection）又是自伴算子（Self-adjoint）。

4.3 两个正交投影算子的关系与代数运算

设 P1,P2P_1, P_2P1,P2 分别是到闭子空间 M1,M2M_1, M_2M1,M2 的正交投影算子：

乘积为投影 ：P1P2P_1 P_2P1P2 是正交投影算子 ⟺ P1P2=P2P1\iff P_1 P_2 = P_2 P_1⟺P1P2=P2P1（两投影对易）。此时 P1P2=PM1∩M2P_1 P_2 = P_{M_1 \cap M_2}P1P2=PM1∩M2。
和为投影 ：P1+P2P_1 + P_2P1+P2 是正交投影算子 ⟺ P1P2=0 ⟺ M1⊥M2\iff P_1 P_2 = 0 \iff M_1 \perp M_2⟺P1P2=0⟺M1⊥M2。此时 P1+P2=PM1⊕M2P_1 + P_2 = P_{M_1 \oplus M_2}P1+P2=PM1⊕M2。
偏序关系 ：以下命题互相等价：
- M1⊂M2M_1 \subset M_2M1⊂M2
- P1P2=P2P1=P1P_1 P_2 = P_2 P_1 = P_1P1P2=P2P1=P1
- ∥P1x∥≤∥P2x∥,∀x∈H\|P_1 x\| \le \|P_2 x\|, \quad \forall x \in H∥P1x∥≤∥P2x∥,∀x∈H
- ⟨P1x,x⟩≤⟨P2x,x⟩,∀x∈H\langle P_1 x, x \rangle \le \langle P_2 x, x \rangle, \quad \forall x \in H⟨P1x,x⟩≤⟨P2x,x⟩,∀x∈H（记作 P1≤P2P_1 \le P_2P1≤P2）

5. 有限维子空间上的最佳逼近与 Gram 矩阵

若 M=span⁡{e1,e2,...,en}M = \operatorname{span}\{e_1, e_2, \dots, e_n\}M=span{e1,e2,...,en} 是有限维子空间（有限维子空间必为闭子空间），且基底 {ek}\{e_k\}{ek} 线性无关（不必正交）。

设 x∈Hx \in Hx∈H，其正交投影 y=PMx=∑j=1ncjejy = P_M x = \sum_{j=1}^n c_j e_jy=PMx=∑j=1ncjej。

由正交性条件 (x−y)⊥ei, ∀i=1,2,...,n(x - y) \perp e_i, \; \forall i=1, 2, \dots, n(x−y)⊥ei,∀i=1,2,...,n：

⟨x−∑j=1ncjej, ei⟩=0 ⟹ ∑j=1ncj⟨ej,ei⟩=⟨x,ei⟩,i=1,2,...,n\left\langle x - \sum_{j=1}^n c_j e_j, \; e_i \right\rangle = 0 \implies \sum_{j=1}^n c_j \langle e_j, e_i \rangle = \langle x, e_i \rangle, \quad i=1, 2, \dots, n⟨x−j=1∑ncjej,ei⟩=0⟹j=1∑ncj⟨ej,ei⟩=⟨x,ei⟩,i=1,2,...,n

定义 Gram 矩阵 G=(gij)n×nG = (g_{ij}){n \times n}G=(gij)n×n，其中 gij=⟨ej,ei⟩g{ij} = \langle e_j, e_i \ranglegij=⟨ej,ei⟩；系数向量 c=(c1,...,cn)Tc = (c_1, \dots, c_n)^Tc=(c1,...,cn)T，右端向量 b=(⟨x,e1⟩,...,⟨x,en⟩)Tb = (\langle x, e_1 \rangle, \dots, \langle x, e_n \rangle)^Tb=(⟨x,e1⟩,...,⟨x,en⟩)T。则方程化为：

Gc=bG c = bGc=b

由于 {ei}\{e_i\}{ei} 线性无关，GGG 是严格正定的可逆矩阵，系数 c=G−1bc = G^{-1}bc=G−1b 唯一确定。

同时，xxx 到 MMM 的距离平方可以用行列式给出优美的封闭表达式：

d2(x,M)=det⁡G(e1,...,en,x)det⁡G(e1,...,en)d^2(x, M) = \frac{\det G(e_1, \dots, e_n, x)}{\det G(e_1, \dots, e_n)}d2(x,M)=detG(e1,...,en)detG(e1,...,en,x)

6. 精选实战习题与深度全解（梯度进阶）

习题 1

题目：

设 H=R3H = \mathbb{R}^3H=R3 配备标准点积。给定子空间：

M={(x1,x2,x3)∈R3∣x1+2x2−x3=0}M = \{ (x_1, x_2, x_3) \in \mathbb{R}^3 \mid x_1 + 2x_2 - x_3 = 0 \}M={(x1,x2,x3)∈R3∣x1+2x2−x3=0}

求 M⊥M^\perpM⊥ 的基以及一维子空间 M⊥M^\perpM⊥ 的正交投影矩阵 PM⊥P_{M^\perp}PM⊥。
求向 MMM 投影的投影矩阵 PMP_MPM，并验证 PM2=PMP_M^2 = P_MPM2=PM 以及 PMT=PMP_M^T = P_MPMT=PM。
计算向量 v=(1,1,1)Tv = (1, 1, 1)^Tv=(1,1,1)T 到子空间 MMM 的最短距离。

【详细解答】

第 (1) 问 ：

子空间 MMM 是法向量为 n=(1,2,−1)Tn = (1, 2, -1)^Tn=(1,2,−1)T 的超平面。

因此 M⊥=span⁡{n}=span⁡{(1,2,−1)T}M^\perp = \operatorname{span}\{n\} = \operatorname{span}\{(1, 2, -1)^T\}M⊥=span{n}=span{(1,2,−1)T}。

单位化法向量：u=n∥n∥=112+22+(−1)2(1,2,−1)T=16(1,2,−1)Tu = \frac{n}{\|n\|} = \frac{1}{\sqrt{1^2 + 2^2 + (-1)^2}} (1, 2, -1)^T = \frac{1}{\sqrt{6}}(1, 2, -1)^Tu=∥n∥n=12+22+(−1)2 1(1,2,−1)T=6 1(1,2,−1)T。

投影到一维子空间 M⊥M^\perpM⊥ 的矩阵为外积：

PM⊥=uuT=16(12−1)(12−1)=16(12−124−2−1−21)P_{M^\perp} = u u^T = \frac{1}{6} \begin{pmatrix} 1 \\ 2 \\ -1 \end{pmatrix} \begin{pmatrix} 1 & 2 & -1 \end{pmatrix} = \frac{1}{6} \begin{pmatrix} 1 & 2 & -1 \\ 2 & 4 & -2 \\ -1 & -2 & 1 \end{pmatrix}PM⊥=uuT=61 12−1 (12−1)=61 12−124−2−1−21

第 (2) 问 ：

由于 R3=M⊕M⊥\mathbb{R}^3 = M \oplus M^\perpR3=M⊕M⊥，故 PM=I−PM⊥P_M = I - P_{M^\perp}PM=I−PM⊥：

PM=(100010001)−16(12−124−2−1−21)=16(5−21−222125)P_M = \begin{pmatrix} 1 & 0 & 0 \\ 0 & 1 & 0 \\ 0 & 0 & 1 \end{pmatrix} - \frac{1}{6}\begin{pmatrix} 1 & 2 & -1 \\ 2 & 4 & -2 \\ -1 & -2 & 1 \end{pmatrix} = \frac{1}{6} \begin{pmatrix} 5 & -2 & 1 \\ -2 & 2 & 2 \\ 1 & 2 & 5 \end{pmatrix}PM= 100010001 −61 12−124−2−1−21 =61 5−21−222125

自伴性验证 ：显然 PMT=PMP_M^T = P_MPMT=PM（矩阵对称）。
幂等性验证 ：
PM2=(I−PM⊥)2=I−2PM⊥+PM⊥2=I−2PM⊥+PM⊥=I−PM⊥=PMP_M^2 = (I - P_{M^\perp})^2 = I - 2P_{M^\perp} + P_{M^\perp}^2 = I - 2P_{M^\perp} + P_{M^\perp} = I - P_{M^\perp} = P_MPM2=(I−PM⊥)2=I−2PM⊥+PM⊥2=I−2PM⊥+PM⊥=I−PM⊥=PM

第 (3) 问 ：

向量 v=(1,1,1)Tv = (1, 1, 1)^Tv=(1,1,1)T 到 MMM 的距离即为 ∥PM⊥v∥\|P_{M^\perp} v\|∥PM⊥v∥：

PM⊥v=⟨v,n⟩∥n∥2n=1(1)+2(1)−1(1)6(12−1)=26(12−1)=13(12−1)P_{M^\perp} v = \frac{\langle v, n \rangle}{\|n\|^2} n = \frac{1(1) + 2(1) - 1(1)}{6} \begin{pmatrix} 1 \\ 2 \\ -1 \end{pmatrix} = \frac{2}{6} \begin{pmatrix} 1 \\ 2 \\ -1 \end{pmatrix} = \frac{1}{3}\begin{pmatrix} 1 \\ 2 \\ -1 \end{pmatrix}PM⊥v=∥n∥2⟨v,n⟩n=61(1)+2(1)−1(1) 12−1 =62 12−1 =31 12−1

最短距离为：

d(v,M)=∥PM⊥v∥=1312+22+(−1)2=63=23d(v, M) = \|P_{M^\perp} v\| = \frac{1}{3} \sqrt{1^2 + 2^2 + (-1)^2} = \frac{\sqrt{6}}{3} = \sqrt{\frac{2}{3}}d(v,M)=∥PM⊥v∥=3112+22+(−1)2 =36 =32

习题 2（）

题目：

在实希尔伯特空间 H=L2( $-1,1$ )H = L^2( $-1, 1$ )H=L2( $-1,1$ ) 中，内积定义为 ⟨f,g⟩=∫−11f(t)g(t)dt\langle f, g \rangle = \int_{-1}^1 f(t)g(t) \mathrm{d}t⟨f,g⟩=∫−11f(t)g(t)dt。

设子空间 M=P1={a+bt∣a,b∈R}M = \mathcal{P}_1 = \{ a + bt \mid a, b \in \mathbb{R} \}M=P1={a+bt∣a,b∈R} 是所有次数不超过 1 的多项式构成的子空间。

求函数 f(t)=t2f(t) = t^2f(t)=t2 在子空间 MMM 上的最佳逼近多项式 p∗(t)p^*(t)p∗(t)，并求最小逼近误差 ∥f−p∗∥L2\|f - p^*\|_{L^2}∥f−p∗∥L2。

【详细解答】

方法一：Gram 正规方程组法

设 MMM 的一组基为 e1=1,e2=te_1 = 1, e_2 = te1=1,e2=t。设最佳逼近 p∗(t)=c1e1+c2e2=c1+c2tp^*(t) = c_1 e_1 + c_2 e_2 = c_1 + c_2 tp∗(t)=c1e1+c2e2=c1+c2t。

由正交投影定理，误差 f−p∗⊥Mf - p^* \perp Mf−p∗⊥M，即：

{⟨t2−(c1+c2t),1⟩=0⟨t2−(c1+c2t),t⟩=0\begin{cases} \langle t^2 - (c_1 + c_2 t), 1 \rangle = 0 \\ \langle t^2 - (c_1 + c_2 t), t \rangle = 0 \end{cases}{⟨t2−(c1+c2t),1⟩=0⟨t2−(c1+c2t),t⟩=0

计算各项内积：

⟨1,1⟩=∫−111dt=2\langle 1, 1 \rangle = \int_{-1}^1 1 \mathrm{d}t = 2⟨1,1⟩=∫−111dt=2
⟨1,t⟩=∫−11tdt=0\langle 1, t \rangle = \int_{-1}^1 t \mathrm{d}t = 0⟨1,t⟩=∫−11tdt=0（奇函数积分为 0）
⟨t,t⟩=∫−11t2dt=23\langle t, t \rangle = \int_{-1}^1 t^2 \mathrm{d}t = \frac{2}{3}⟨t,t⟩=∫−11t2dt=32
⟨t2,1⟩=∫−11t2dt=23\langle t^2, 1 \rangle = \int_{-1}^1 t^2 \mathrm{d}t = \frac{2}{3}⟨t2,1⟩=∫−11t2dt=32
⟨t2,t⟩=∫−11t3dt=0\langle t^2, t \rangle = \int_{-1}^1 t^3 \mathrm{d}t = 0⟨t2,t⟩=∫−11t3dt=0

代入方程组：

(20023)(c1c2)=(230)\begin{pmatrix} 2 & 0 \\ 0 & \frac{2}{3} \end{pmatrix} \begin{pmatrix} c_1 \\ c_2 \end{pmatrix} = \begin{pmatrix} \frac{2}{3} \\ 0 \end{pmatrix}(20032)(c1c2)=(320)

解得：

c1=13,c2=0c_1 = \frac{1}{3}, \quad c_2 = 0c1=31,c2=0

因此最佳逼近多项式为：

p∗(t)=13p^*(t) = \frac{1}{3}p∗(t)=31

计算误差范数 ：

f(t)−p∗(t)=t2−13f(t) - p^*(t) = t^2 - \frac{1}{3}f(t)−p∗(t)=t2−31

∥f−p∗∥L22=∫−11(t2−13)2dt=∫−11(t4−23t2+19)dt= $t55-29t3+t9$ −11=2(15−29+19)=2(15−19)=2×445=845\begin{aligned} \|f - p^*\|{L^2}^2 &= \int{-1}^1 \left( t^2 - \frac{1}{3} \right)^2 \mathrm{d}t = \int_{-1}^1 \left( t^4 - \frac{2}{3}t^2 + \frac{1}{9} \right) \mathrm{d}t \\ &= \left $\\frac{t\^5}{5} - \\frac{2}{9}t\^3 + \\frac{t}{9} \\right$ _{-1}^1 = 2 \left( \frac{1}{5} - \frac{2}{9} + \frac{1}{9} \right) = 2 \left( \frac{1}{5} - \frac{1}{9} \right) = 2 \times \frac{4}{45} = \frac{8}{45} \end{aligned}∥f−p∗∥L22=∫−11(t2−31)2dt=∫−11(t4−32t2+91)dt= $5t5-92t3+9t$ −11=2(51−92+91)=2(51−91)=2×454=458

故最小误差距离为：

d(t2,P1)=845=21015d(t^2, \mathcal{P}_1) = \sqrt{\frac{8}{45}} = \frac{2\sqrt{10}}{15}d(t2,P1)=458 =15210

习题 3

题目：

设 MMM 是希尔伯特空间 HHH 的一个线性子空间。证明：

M⊥=(M‾)⊥M^\perp = (\overline{M})^\perpM⊥=(M)⊥。
MMM 在 HHH 中稠密（即 M‾=H\overline{M} = HM=H）的充要条件是 M⊥={0}M^\perp = \{0\}M⊥={0}。

【详细证明】

第 (1) 问证明：

首先，由于 M⊂M‾M \subset \overline{M}M⊂M，若 z∈(M‾)⊥z \in (\overline{M})^\perpz∈(M)⊥，则对所有 y∈M‾y \in \overline{M}y∈M 均有 ⟨z,y⟩=0\langle z, y \rangle = 0⟨z,y⟩=0。特别地，对所有 y∈My \in My∈M 亦有 ⟨z,y⟩=0\langle z, y \rangle = 0⟨z,y⟩=0，故 z∈M⊥z \in M^\perpz∈M⊥。即：
(M‾)⊥⊂M⊥(\overline{M})^\perp \subset M^\perp(M)⊥⊂M⊥
反之，设 z∈M⊥z \in M^\perpz∈M⊥，则对任意 x∈M‾x \in \overline{M}x∈M，由闭包定义存在序列 {xn}⊂M\{x_n\} \subset M{xn}⊂M 使得 xn→xx_n \to xxn→x。
根据内积的连续性：
⟨z,x⟩=lim⁡n→∞⟨z,xn⟩=lim⁡n→∞0=0\langle z, x \rangle = \lim_{n \to \infty} \langle z, x_n \rangle = \lim_{n \to \infty} 0 = 0⟨z,x⟩=n→∞lim⟨z,xn⟩=n→∞lim0=0
因此 z⊥M‾z \perp \overline{M}z⊥M，即 z∈(M‾)⊥z \in (\overline{M})^\perpz∈(M)⊥。即 M⊥⊂(M‾)⊥M^\perp \subset (\overline{M})^\perpM⊥⊂(M)⊥。
综上，M⊥=(M‾)⊥M^\perp = (\overline{M})^\perpM⊥=(M)⊥。

第 (2) 问证明：

充分性（M‾=H ⟹ M⊥={0}\overline{M} = H \implies M^\perp = \{0\}M=H⟹M⊥={0}） ：
若 M‾=H\overline{M} = HM=H，由第 (1) 问结论：
M⊥=(M‾)⊥=H⊥={0}M^\perp = (\overline{M})^\perp = H^\perp = \{0\}M⊥=(M)⊥=H⊥={0}
必要性（M⊥={0} ⟹ M‾=HM^\perp = \{0\} \implies \overline{M} = HM⊥={0}⟹M=H） ：
由于 M‾\overline{M}M 是 HHH 的闭子空间 ，由正交投影定理：
H=M‾⊕(M‾)⊥H = \overline{M} \oplus (\overline{M})^\perpH=M⊕(M)⊥
代入 (M‾)⊥=M⊥={0}(\overline{M})^\perp = M^\perp = \{0\}(M)⊥=M⊥={0}，得：
H=M‾⊕{0}=M‾H = \overline{M} \oplus \{0\} = \overline{M}H=M⊕{0}=M
即 MMM 在 HHH 中稠密。■\blacksquare■

注：该命题是判定函数系（如三角函数系、正交多项式系）在 L2L^2L2 中构成完备正交基的核心判据！

习题 4

题目：

设 P1,P2P_1, P_2P1,P2 是希尔伯特空间 HHH 上的两个正交投影算子，对应的闭子空间分别为 M1,M2M_1, M_2M1,M2。

证明：P=P1−P2P = P_1 - P_2P=P1−P2 是正交投影算子的充要条件 是 M2⊂M1M_2 \subset M_1M2⊂M1（即 P2≤P1P_2 \le P_1P2≤P1）。此时 PPP 对应的投影空间为 M1∩M2⊥M_1 \cap M_2^\perpM1∩M2⊥。

【详细证明】

必要性（ ⟹ \implies⟹） ：

若 P=P1−P2P = P_1 - P_2P=P1−P2 是正交投影算子，则 PPP 必为非负算子且满足幂等性 P2=PP^2 = PP2=P。

对任意 x∈Hx \in Hx∈H：

⟨(P1−P2)x,x⟩=⟨Px,x⟩=∥Px∥2≥0 ⟹ ⟨P1x,x⟩≥⟨P2x,x⟩\langle (P_1 - P_2)x, x \rangle = \langle P x, x \rangle = \|Px\|^2 \ge 0 \implies \langle P_1 x, x \rangle \ge \langle P_2 x, x \rangle⟨(P1−P2)x,x⟩=⟨Px,x⟩=∥Px∥2≥0⟹⟨P1x,x⟩≥⟨P2x,x⟩

由于 P1,P2P_1, P_2P1,P2 为正交投影，⟨Pix,x⟩=∥Pix∥2\langle P_i x, x \rangle = \|P_i x\|^2⟨Pix,x⟩=∥Pix∥2。故 ∥P2x∥≤∥P1x∥\|P_2 x\| \le \|P_1 x\|∥P2x∥≤∥P1x∥ 对所有 x∈Hx \in Hx∈H 成立。

对任意 y∈M2y \in M_2y∈M2，有 P2y=yP_2 y = yP2y=y。于是 ∥y∥=∥P2y∥≤∥P1y∥≤∥y∥\|y\| = \|P_2 y\| \le \|P_1 y\| \le \|y\|∥y∥=∥P2y∥≤∥P1y∥≤∥y∥，这迫使 ∥P1y∥=∥y∥\|P_1 y\| = \|y\|∥P1y∥=∥y∥。

由于 ∥y∥2=∥P1y∥2+∥(I−P1)y∥2\|y\|^2 = \|P_1 y\|^2 + \|(I - P_1)y\|^2∥y∥2=∥P1y∥2+∥(I−P1)y∥2，必有 (I−P1)y=0(I - P_1)y = 0(I−P1)y=0，即 P1y=yP_1 y = yP1y=y，说明 y∈M1y \in M_1y∈M1。

因此 M2⊂M1M_2 \subset M_1M2⊂M1。

充分性（ ⟸ \impliedby⟸） ：

若 M2⊂M1M_2 \subset M_1M2⊂M1，则对任意 y∈Hy \in Hy∈H，P2y∈M2⊂M1P_2 y \in M_2 \subset M_1P2y∈M2⊂M1，因此 P1(P2y)=P2yP_1(P_2 y) = P_2 yP1(P2y)=P2y，即：

P1P2=P2P_1 P_2 = P_2P1P2=P2

对两边取伴随算子（注意 P1∗=P1,P2∗=P2P_1^* = P_1, P_2^* = P_2P1∗=P1,P2∗=P2）：

(P1P2)∗=P2∗P1∗ ⟹ P2P1=P2(P_1 P_2)^* = P_2^* P_1^* \implies P_2 P_1 = P_2(P1P2)∗=P2∗P1∗⟹P2P1=P2

因此 P1P2=P2P1=P2P_1 P_2 = P_2 P_1 = P_2P1P2=P2P1=P2。

现在验证 P=P1−P2P = P_1 - P_2P=P1−P2 是否满足定理 4 的两个条件：

自伴性 ：
P∗=(P1−P2)∗=P1∗−P2∗=P1−P2=PP^* = (P_1 - P_2)^* = P_1^* - P_2^* = P_1 - P_2 = PP∗=(P1−P2)∗=P1∗−P2∗=P1−P2=P
幂等性 ：
P2=(P1−P2)(P1−P2)=P12−P1P2−P2P1+P22=P1−P2−P2+P2=P1−P2=PP^2 = (P_1 - P_2)(P_1 - P_2) = P_1^2 - P_1 P_2 - P_2 P_1 + P_2^2 = P_1 - P_2 - P_2 + P_2 = P_1 - P_2 = PP2=(P1−P2)(P1−P2)=P12−P1P2−P2P1+P22=P1−P2−P2+P2=P1−P2=P

因此 P=P1−P2P = P_1 - P_2P=P1−P2 是正交投影算子。

确定其值域 ：

x∈Ran⁡(P1−P2) ⟺ (P1−P2)x=x ⟺ P1x−P2x=xx \in \operatorname{Ran}(P_1 - P_2) \iff (P_1 - P_2)x = x \iff P_1 x - P_2 x = xx∈Ran(P1−P2)⟺(P1−P2)x=x⟺P1x−P2x=x

由于 x=P1x+(I−P1)xx = P_1 x + (I - P_1)xx=P1x+(I−P1)x，代入整理得 P1x=xP_1 x = xP1x=x 且 P2x=0P_2 x = 0P2x=0。

这等价于 x∈M1x \in M_1x∈M1 且 x∈M2⊥x \in M_2^\perpx∈M2⊥。因此值域空间为 M1∩M2⊥M_1 \cap M_2^\perpM1∩M2⊥。■\blacksquare■

习题 5

题目：

设 fff 是希尔伯特空间 HHH 上的非零连续线性泛函。定义超平面（零空间）：

M=ker⁡(f)={x∈H∣f(x)=0}M = \ker(f) = \{ x \in H \mid f(x) = 0 \}M=ker(f)={x∈H∣f(x)=0}

给定向量 x0∉Mx_0 \notin Mx0∈/M（即 f(x0)≠0f(x_0) \ne 0f(x0)=0）：

证明 M⊥M^\perpM⊥ 是一维子空间。
求 x0x_0x0 到闭子空间 MMM 的距离 d(x0,M)d(x_0, M)d(x0,M)，用 f(x0)f(x_0)f(x0) 和泛函范数 ∥f∥\|f\|∥f∥ 表示。
显式写出 x0x_0x0 在 MMM 上的正交投影 PMx0P_M x_0PMx0 的表达式。

【详细解答】

第 (1) 问 ：

由于 fff 连续，M=ker⁡(f)M = \ker(f)M=ker(f) 是闭线性子空间。因 f≠0f \ne 0f=0，Ran⁡(f)=K\operatorname{Ran}(f) = \mathbb{K}Ran(f)=K（一维标量域）。

由代数同构定理 H/ker⁡(f)≅KH/\ker(f) \cong \mathbb{K}H/ker(f)≅K，空间商出一维。

由正交投影定理 H=M⊕M⊥H = M \oplus M^\perpH=M⊕M⊥，因此 dim⁡(M⊥)=1\dim(M^\perp) = 1dim(M⊥)=1。

第 (2) 问与第 (3) 问 ：

取非零向量 z0∈M⊥z_0 \in M^\perpz0∈M⊥（由第 (1) 问知其张成整个 M⊥M^\perpM⊥），不妨设 f(z0)≠0f(z_0) \ne 0f(z0)=0（若 f(z0)=0f(z_0)=0f(z0)=0 则 z0∈M∩M⊥={0}z_0 \in M \cap M^\perp = \{0\}z0∈M∩M⊥={0}，矛盾）。

对任意 x∈Hx \in Hx∈H，考察向量：

v=x−f(x)f(z0)z0v = x - \frac{f(x)}{f(z_0)} z_0v=x−f(z0)f(x)z0

计算泛函作用：f(v)=f(x)−f(x)f(z0)f(z0)=0 ⟹ v∈M=ker⁡(f)f(v) = f(x) - \frac{f(x)}{f(z_0)} f(z_0) = 0 \implies v \in M = \ker(f)f(v)=f(x)−f(z0)f(x)f(z0)=0⟹v∈M=ker(f)。

因此任意 x∈Hx \in Hx∈H 被分解为：

x=(x−f(x)f(z0)z0)⏟∈M+(f(x)f(z0)z0)⏟∈M⊥x = \underbrace{\left( x - \frac{f(x)}{f(z_0)} z_0 \right)}{\in M} + \underbrace{\left( \frac{f(x)}{f(z_0)} z_0 \right)}{\in M^\perp}x=∈M (x−f(z0)f(x)z0)+∈M⊥ (f(z0)f(x)z0)

根据正交分解的唯一性，正交投影算子为：

PMx=x−f(x)f(z0)z0,PM⊥x=f(x)f(z0)z0P_M x = x - \frac{f(x)}{f(z_0)} z_0, \quad P_{M^\perp} x = \frac{f(x)}{f(z_0)} z_0PMx=x−f(z0)f(x)z0,PM⊥x=f(z0)f(x)z0

特别地，对于 x0x_0x0：

PMx0=x0−f(x0)f(z0)z0P_M x_0 = x_0 - \frac{f(x_0)}{f(z_0)} z_0PMx0=x0−f(z0)f(x0)z0

此时 x0x_0x0 到 MMM 的距离即为正交补分量的模长：

d(x0,M)=∥x0−PMx0∥=∥f(x0)f(z0)z0∥=∣f(x0)∣∥z0∥/∣f(z0)∣−1=∣f(x0)∣∥z0∥∣f(z0)∣d(x_0, M) = \|x_0 - P_M x_0\| = \left\| \frac{f(x_0)}{f(z_0)} z_0 \right\| = \frac{|f(x_0)|}{\|z_0\| / |f(z_0)|^{-1}} = \frac{|f(x_0)| \|z_0\|}{|f(z_0)|}d(x0,M)=∥x0−PMx0∥= f(z0)f(x0)z0 =∥z0∥/∣f(z0)∣−1∣f(x0)∣=∣f(z0)∣∣f(x0)∣∥z0∥

现在联系泛函范数 ∥f∥\|f\|∥f∥：

对任意 x∈Hx \in Hx∈H，有 ∣f(x)∣=∣f(PM⊥x)∣|f(x)| = |f(P_{M^\perp} x)|∣f(x)∣=∣f(PM⊥x)∣。令 x=cz0x = c z_0x=cz0，则：

∥f∥=sup⁡x≠0∣f(x)∣∥x∥=∣f(z0)∣∥z0∥\|f\| = \sup_{x \ne 0} \frac{|f(x)|}{\|x\|} = \frac{|f(z_0)|}{\|z_0\|}∥f∥=x=0sup∥x∥∣f(x)∣=∥z0∥∣f(z0)∣

代入距离公式，得到极简优美的解析解：

d(x0,M)=∣f(x0)∣∥f∥d(x_0, M) = \frac{|f(x_0)|}{\|f\|}d(x0,M)=∥f∥∣f(x0)∣

若令单位法向量 u=z0∥z0∥u = \frac{z_0}{\|z_0\|}u=∥z0∥z0，且取适当相位使 f(u)=∥f∥>0f(u) = \|f\| > 0f(u)=∥f∥>0，则投影公式直接写为：

PMx0=x0−f(x0)∥f∥2z0′(其中 z0′ 是 Riesz 表示向量 f(x)=⟨x,z0′⟩)P_M x_0 = x_0 - \frac{f(x_0)}{\|f\|^2} z_0' \quad (\text{其中 } z_0' \text{ 是 Riesz 表示向量 } f(x) = \langle x, z_0' \rangle)PMx0=x0−∥f∥2f(x0)z0′(其中 z0′ 是 Riesz 表示向量 f(x)=⟨x,z0′⟩)

7. 总结与知识脉络全景图

希尔伯特空间中最佳逼近与正交投影的逻辑体系可总结如下：

复制代码

                    【希尔伯特空间 (完备内积空间)】
                                  │
                  ┌───────────────┴───────────────┐
                  ▼                               ▼
          【非空闭凸子集 K】               【闭线性子空间 M】
                  │                               │
       平行四边形恒等式 + 完备性          子空间线性性退化变分不等式
                  │                               │
                  ▼                               ▼
       【最佳逼近定理: 唯一存在】         【正交分解定理: H = M ⊕ M^⊥】
                  │                               │
       变分不等式特征:                   【正交投影算子 P_M】
       Re⟨x - y0, y - y0⟩ ≤ 0           特征: P^2 = P 且 P* = P, ‖P‖ = 1
                                                  │
                                                  ▼
                                       【有限维计算与实际应用】
                                       Normal Equations (Gram 矩阵)
                                       Fourier 级数展开 / 最小二乘法

掌握正交投影定理不仅是理解 Riesz 表示定理 、Lax-Milgram 定理 和 自伴算子谱分解 的基石，更是现代应用数学（有限元方法、压缩感知、机器学习中的核方法与再生核希尔伯特空间 RKHS）的理论源头。建议读者亲自动手演算上述习题，深入体会几何正交与代数伴随之间的和谐统一。

快乐泛函每一天：希尔伯特空间中的最佳逼近与正交投影定理

希尔伯特空间中的最佳逼近与正交投影定理

目录

1. 几何直观与几何分析的核心

2. 闭凸集上的最佳逼近定理（Best Approximation Theorem）

2.1 问题的严格数学提法

2.2 存在性证明

证明过程：

2.3 唯一性证明

2.4 变分不等式刻画（Variational Inequality）

证明过程：

3. 闭子空间与正交投影定理（Orthogonal Projection Theorem）

3.1 闭子空间下的退化形式：从不等式到正交性

3.2 直和分解定理：H=M⊕M⊥H = M \oplus M^\perpH=M⊕M⊥

3.3 为什么"闭子空间"必不可少？（反例深度解析）

4. 正交投影算子 PMP_MPM 的代数与分析刻画

4.1 线性与有界性

4.2 算子刻画：幂等性与自伴性

4.3 两个正交投影算子的关系与代数运算

5. 有限维子空间上的最佳逼近与 Gram 矩阵

6. 精选实战习题与深度全解（梯度进阶）

习题 1

【详细解答】

习题 2（）

【详细解答】

习题 3

【详细证明】

习题 4

【详细证明】

习题 5

【详细解答】

7. 总结与知识脉络全景图