神经网络之向量空间的正交坐标系的数量

一、结论

对于一个 nnn 维实向量空间(比如 Rn\mathbb{R}^nRn):

  • 它的所有正交坐标系 (也就是所有标准正交基) 之间的关系可以用一个 正交群(orthogonal group) 来描述:

O(n)=Q∈Rn×n∣QTQ=I O(n) = { Q \in \mathbb{R}^{n\times n} \mid Q^T Q = I } O(n)=Q∈Rn×n∣QTQ=I

换句话说:

任意两个正交坐标系之间,都可以通过一个正交矩阵的旋转或反射变换相互转换。


二、为什么有无数多个?

拿二维平面举例。

一个二维正交坐标系就是一对互相垂直的单位向量:

e1=(cos⁡θ,sin⁡θ),e2=(−sin⁡θ,cos⁡θ) e_1 = (\cos\theta, \sin\theta), \quad e_2 = (-\sin\theta, \cos\theta) e1=(cosθ,sinθ),e2=(−sinθ,cosθ)

随着角度 θ\thetaθ 在 [0,2π)[0, 2\pi)[0,2π) 中连续变化,

你就得到了无穷多个不同的正交坐标系。

每一个都是正交的,只是方向不同。

所以------在二维里,所有正交坐标系构成一个圆形的集合 (群):
O(2)≈所有旋转+反射操作的集合 O(2) \approx \text{所有旋转+反射操作的集合} O(2)≈所有旋转+反射操作的集合

在三维空间里,情况更壮观:

  • 所有旋转操作形成一个 3 维流形,称为 旋转群 SO(3)
  • 加上反射操作,就得到整个 O(3)
  • 它们一起描述了无数种"空间朝向"。

三、几何直觉

可以这么想:

  • 向量空间本身是"舞台",永远静止;
  • 正交坐标系是"相机",你可以随意转动它;
  • 不论怎么旋转相机,空间依旧完整,只是你换了看它的角度

所以正交基无数个,是因为你能从无数角度去描述同一个空间。


四、与 SVD 的联系

这正是奇异值分解里 VVV 的"旋转自由度"所在。

在 SVD 中:

A=UΣVT A = U \Sigma V^T A=UΣVT

  • VVV 就是输入空间的一个正交基(坐标系);
  • 但它不是唯一的,因为可以选择别的正交基;
  • 唯一性只在奇异值不同的方向上成立。

也就是说:

当矩阵有重复奇异值时,对应的主方向不唯一。

在那个子空间内,你可以自由旋转坐标系,仍然是合法的奇异向量系。

这就是为什么我们说"右奇异向量矩阵不是唯一的"。


五、总结成一句话

在一个 nnn 维向量空间中,有无数个正交坐标系;

它们之间通过正交矩阵连接,形成了一个连续的旋转宇宙。

如果你固定空间的几何结构,

旋转相机永远拍不完的角度,

就是这些无穷多的正交基。


要不要我给你展示一下二维空间中所有正交基的"连续变化动画"原理?可以看到 VVV 如何在单位圆上滑动,把基向量旋转成一整圈。

相关推荐
xywww16811 小时前
大模型 API 选型实战:GPT、Gemini、Claude 接入时该看哪些指标?
运维·服务器·人工智能·python·gpt·langchain
私人珍藏库16 小时前
[Android] PeakFinder AR v4.8.89 (山峰全景识别+增强现实山峰查看器)
android·人工智能·智能手机·ar·工具·软件
月疯16 小时前
CNN卷积和反卷积输出的计算方法
深度学习·神经网络·cnn
CS创新实验室17 小时前
算法、齿轮与硅基大脑:数值计算发展简史
人工智能·算法·数值计算
能有时光17 小时前
PyTorch KernelAgent 源码解读 ---(4)--- ExtractorAgent
人工智能·pytorch·python
直接冲冲冲17 小时前
鱼书-PH4-类的作用
深度学习
fthux17 小时前
GitZip Pro 源码解析:一个 GitHub 文件/文件夹下载扩展是如何工作的(一)整体架构与扩展入口
人工智能·ai·开源·github·open source
aqi0018 小时前
15天学会AI应用开发(十七)使用LangGraph实现会话记忆功能
人工智能·python·大模型·ai编程·ai应用
xixixi7777718 小时前
三大 AI 安全里程碑:Akamai 高危风险预警、智能体水印强制落地、PQC 量子安全全产业链统一
大数据·人工智能·安全·ai·大模型·智能体·政策
AI小码18 小时前
LLM 应用的缓存工程:当每次 API 调用都在燃烧成本
java·人工智能·spring·计算机·llm·编程·api