神经网络之正交矩阵

正交矩阵(Orthogonal Matrix)

1. 定义

一个实矩阵 (Q∈Rn×n)(Q \in \mathbb{R}^{n \times n})(Q∈Rn×n) 称为正交矩阵(orthogonal matrix)

如果它满足:

Q⊤Q=QQ⊤=I Q^\top Q = QQ^\top = I Q⊤Q=QQ⊤=I

其中:

  • (Q⊤)(Q^\top)(Q⊤) 表示(Q)(Q)(Q) 的转置;
  • (I)(I)(I) 是单位矩阵。

换句话说,正交矩阵的转置等于它的逆矩阵

Q−1=Q⊤ Q^{-1} = Q^\top Q−1=Q⊤


2. 几何意义

正交矩阵对应一种长度和角度保持不变的线性变换:

  • 它可以表示 旋转(rotation)反射(reflection)
  • 向量经过正交矩阵变换后,长度不变、夹角不变。

例如,对任意向量 (x):

∣Qx∣=∣x∣ |Qx| = |x| ∣Qx∣=∣x∣


3. 列向量性质

正交矩阵的列向量(或行向量)两两正交且为单位长度:

qi⊤qj={1,i=j 0,i≠j q_i^\top q_j = \begin{cases} 1, & i = j \ 0, & i \neq j \end{cases} qi⊤qj={1,i=j 0,i=j


4. 示例

二维旋转矩阵

Q=cos⁡θ−sin⁡θ sin⁡θcos⁡θ Q = \begin{bmatrix} \cos\theta & -\sin\theta \ \sin\theta & \cos\theta \end{bmatrix} Q=cosθ−sinθ sinθcosθ

验证:

Q⊤Q=cos⁡2θ+sin⁡2θ0 0cos⁡2θ+sin⁡2θ=I Q^\top Q = \begin{bmatrix} \cos^2\theta + \sin^2\theta & 0 \ 0 & \cos^2\theta + \sin^2\theta \end{bmatrix} = I Q⊤Q=cos2θ+sin2θ0 0cos2θ+sin2θ=I

因此 (Q) 是正交矩阵。


二维反射矩阵

R=10 0−1 R = \begin{bmatrix} 1 & 0 \ 0 & -1 \end{bmatrix} R=10 0−1

验证:

R⊤R=I,det⁡(R)=−1 R^\top R = I, \quad \det(R) = -1 R⊤R=I,det(R)=−1

因此 ® 也是正交矩阵,对应关于 (x) 轴的反射。


5. 重要性质

  1. 保持内积
    (Qx)⊤(Qy)=x⊤y (Qx)^\top(Qy) = x^\top y (Qx)⊤(Qy)=x⊤y

  2. 保持长度与角度
    ∣Qx∣=∣x∣,cos⁡∠(Qx,Qy)=cos⁡∠(x,y) |Qx| = |x|, \quad \cos\angle(Qx,Qy) = \cos\angle(x,y) ∣Qx∣=∣x∣,cos∠(Qx,Qy)=cos∠(x,y)

  3. 行列式
    det⁡(Q)=±1 \det(Q) = \pm 1 det(Q)=±1

  • (+1)(+1)(+1):旋转矩阵
  • (−1)(-1)(−1):反射矩阵

6. 反射矩阵与正交矩阵关系

反射矩阵可写为:

R=I−2nn⊤ R = I - 2nn^\top R=I−2nn⊤

其中 (n) 是单位法向量。验证:

R⊤R=I,det⁡(R)=−1 R^\top R = I, \quad \det(R) = -1 R⊤R=I,det(R)=−1

所以反射矩阵也是正交矩阵的一种。


7. 总结

  • 核心特征 :转置等于逆矩阵 (Q−1=Q⊤)(Q^{-1}=Q^\top)(Q−1=Q⊤);
  • 几何意义:保持长度和角度;
  • 行列式:+1 表示旋转,−1 表示反射;
  • 列向量:单位正交;
  • 常见正交矩阵:旋转矩阵、反射矩阵、置换矩阵、单位矩阵等。
相关推荐
金伟API10248 小时前
如何从零打造一个极简的DeepSeek-R1大模型
人工智能·ai
江畔柳前堤8 小时前
大语言模型分布式训练:从并行策略到万卡工程的系统梳理
人工智能·分布式·深度学习·算法·目标检测·机器学习·语言模型
Shockang8 小时前
智能体环路工程实战
人工智能
美摄科技8 小时前
美摄美颜特效SDK Skill:以AI赋能智能视音频新视界
人工智能
Web3_Daisy8 小时前
Pump.fun 与 FOMO 竞争背后的 Meme 市场变局
大数据·人工智能·金融·web3·区块链
AI创界者9 小时前
MiniMax-H3 本地一键部署整合包:8G 显存玩转文图生视频、视频参考、角色替换与超分补帧全流程
人工智能·深度学习
江畔柳前堤9 小时前
HBM:大语言模型时代的「算力血液」——从内存墙到带宽革命的深度拆解
服务器·人工智能·windows·目标检测·语言模型·自然语言处理·软件工程
美摄科技9 小时前
视频一键成片SDK Skill:AI智能分析与语义理解
人工智能
fthux10 小时前
装闭 RenoPit 源码解析(05):FastAPI与Celery如何执行AI装修分析
人工智能·ai·开源·github·open source·renopit
格数致用10 小时前
数据库设计与表结构详解|信息化项目全流程管理系统源码逐行精讲(五)
人工智能·政务·数据库设计·外键约束