一些可有可无的矩阵知识
- 酉矩阵
酉矩阵
- 一个服从正态分布的向量乘以一个酉矩阵，得到的向量仍然服从正态分布
酉矩阵是一个复数矩阵，满足其转置的共轭等于其逆矩阵。当一个向量通过一个酉矩阵进行线性变换时，它的模长保持不变，只是发生了旋转和缩放。这意味着如果原始向量服从正态分布，变换后的向量仍将服从相同的正态分布。
p r o o f : proof: proof:
当一个向量服从正态分布时，其概率密度函数（PDF）可以表示为： f ( x ) = 1 2 π σ e − ( x − μ ) 2 2 σ 2 f(x) = \frac{1}{\sqrt{2\pi}\sigma}e^{-\frac{(x-\mu)^2}{2\sigma^2}} f(x)=2π σ1e−2σ2(x−μ)2其中， μ μ μ 是均值， σ σ σ 是标准差。现在，我们有一个酉矩阵U，将向量 x x x 乘以U 得到 y : y = U x y: y=Ux y:y=Ux。
对于 y 的概率密度函数，首先，计算y 的均值 μ y μ_y μy: μ y = E ( y ) = E ( U x ) = U E ( x ) \mu_y = E(y) = E(Ux) = UE(x) μy=E(y)=E(Ux)=UE(x)由于 x x x 服从正态分布且期望是 μ μ μ，则 μ y = U μ x = U μ μ_y=Uμ_x=Uμ μy=Uμx=Uμ，然后，计算 y y y的协方差矩阵 Σ y Σ_y Σy： Σ y = E [ ( y − μ y ) ( y − μ y ) T ] = E [ ( U x − U μ ) ( U x − U μ ) T ] = U E [ ( x − μ ) ( x − μ ) T ] U T \Sigma_y = E[(y - \mu_y)(y - \mu_y)^T] = E[(Ux - U\mu)(Ux - U\mu)^T] = UE[(x - \mu)(x - \mu)^T]U^T Σy=E[(y−μy)(y−μy)T]=E[(Ux−Uμ)(Ux−Uμ)T]=UE[(x−μ)(x−μ)T]UT由于 x x x 服从正态分布且协方差矩阵是 Σ Σ Σ，则 Σ y = U Σ U T Σ_y=UΣU^T Σy=UΣUT，现在，我们可以得到 y y y的概率密度函数 f y ( y ) f_y(y) fy(y)：
f y ( y ) = 1 ( 2 π ) n ∣ Σ y ∣ e − 1 2 ( y − μ y ) T Σ y − 1 ( y − μ y ) f_y(y) = \frac{1}{\sqrt{(2\pi)^n|\Sigma_y|}}e^{-\frac{1}{2}(y-\mu_y)^T\Sigma_y^{-1}(y-\mu_y)} fy(y)=(2π)n∣Σy∣ 1e−21(y−μy)TΣy−1(y−μy)将 μ y \mu_y μy和 Σ y \Sigma_y Σy带入可得： f y ( y ) = 1 ( 2 π ) n ∣ Σ ∣ e − 1 2 ( y − U μ ) T ( U Σ U T ) − 1 ( y − U μ ) f_y(y) = \frac{1}{\sqrt{(2\pi)^n|\Sigma|}}e^{-\frac{1}{2}(y-U\mu)^T(U\Sigma U^T)^{-1}(y-U\mu)} fy(y)=(2π)n∣Σ∣ 1e−21(y−Uμ)T(UΣUT)−1(y−Uμ)由于酉矩阵 U 具有单位行列式（ ∣ U ∣ = 1 ∣U∣=1 ∣U∣=1）和单位逆矩阵（ U − 1 = U T U^{−1}=U^T U−1=UT），上式可简化为： f y ( y ) = 1 ( 2 π ) n ∣ Σ ∣ e − 1 2 ( y − U μ ) T ( U μ ) − 1 ( y − U μ ) f_y(y) = \frac{1}{\sqrt{(2\pi)^n|\Sigma|}}e^{-\frac{1}{2}(y-U\mu)^T(U\mu)^{-1}(y-U\mu)} fy(y)=(2π)n∣Σ∣ 1e−21(y−Uμ)T(Uμ)−1(y−Uμ)这与正态分布的概率密度函数形式相同，只是参数变为 Σ Σ Σ和 U μ U_μ Uμ。因此， y y y 也服从正态分布，其均值为 U μ U_μ Uμ，协方差矩阵为 Σ Σ Σ。