如何判断模型矩阵是否做了镜像

除了旋转、平移缩放这些常见的仿射变换，可能还会有诸如镜像这类的特殊变换操作。像镜像的操作会改变原有网格体的拓扑结构，可能会导致开启背面剔除的情况下产生错误的显示效果。那么这个时候该怎么判断是否做了镜像然后把背面剔除调换为正面剔除呢？

现在假设有一个4x4的模型变换矩阵M，且在OpenGL右手系，矩阵左乘的情景下推导

1.方法1：矩阵行列式判断

1）判断思路

XML 复制代码

模型矩阵M：
M = [ m00 m01 m02 m03 ]
    [ m10 m11 m12 m13 ]
    [ m20 m21 m22 m23 ]
    [ m30 m31 m32 m33 ]

提取模型矩阵M的3x3旋转缩放部分矩阵MP计算行列式：
MP = [ m00 m01 m02 ]
     [ m10 m11 m12 ]
     [ m20 m21 m22 ]

行列式 |MP|> 0：保持手性（右手系保持右手系）

行列式 |MP|< 0：镜像变换（右手系变为左手系）

2）原理

XML 复制代码

模型矩阵M的3x3旋转缩放部分矩阵MP为缩放矩阵MS和旋转矩阵MR的乘积。
故矩阵MP可进一步分解为
MP=MR*MS
根据行列式计算规则有：
|MP|=|MR|*|MS|

一、缩放矩阵部分
而MS矩阵一般为以下结构，sx,sy,sz为各轴的缩放比例：
MS = [ sx  0   0  ]
     [ 0   sy  0  ]
     [ 0   0   sz ]
故|MS|=sx*sy*sz。
由于沿某轴的镜像本质是该轴缩放因子为 - 1 的特殊缩放，因此：
若缩放因子均为正（无镜像），行列式为 +。
若有奇数个负缩放因子（即奇数次镜像），行列式为 -。
若有偶数个负缩放因子（偶次镜像，等效于无镜像的缩放），行列式为 +。
结论：缩放的行列式符号由负因子个数的奇偶性决定，奇数次镜像导致符号为负。

二、旋转矩阵部分
因为旋转矩阵是正交矩阵（逆矩阵 = 转置矩阵）
其行列式恒为 +1（证明：正交矩阵满足(tranpose(MR)*MR = I)
两边取行列式得 |MR|² = 1)，而旋转不改变定向，故|MR| = +)）。
结论：旋转不改变行列式符号，保持定向。

三、总结
若变换中包含奇数次镜像（或等效的负缩放），则总行列式为负数（因奇数个-1 相乘结果为-1）
若变换中包含偶数次镜像（或无镜像），则总行列式为 正数（因偶数个-1相乘结果为+1）。

3）代码实现

cpp 复制代码

#include <glm/glm.hpp>
#include <glm/gtc/matrix_transform.hpp>
#include <glm/gtc/type_ptr.hpp>

bool isModelMatrixMirrored(const glm::mat4& modelMatrix) {
    // 提取3x3旋转缩放部分计算行列式
    glm::mat3 upperLeft3x3 = glm::mat3(modelMatrix);
    float determinant = glm::determinant(upperLeft3x3);
    
    return determinant < 0.0f;
}

2.方法2：提取新坐标基叉积判断法

1）判断思路

XML 复制代码

通过检查变换后的坐标轴是否保持右手坐标系来判断

2）原理

XML 复制代码

同样提取M矩阵的前3x3得到矩阵MP

原始坐标基为：

i = [1, 0, 0]^T  (X轴)
j = [0, 1, 0]^T  (Y轴)  
k = [0, 0, 1]^T  (Z轴)

其构成一个单位矩阵E

而MP*E则可理解为对原始坐标基做了一个缩放旋转变换，
而缩放旋转变换是不会影响手性的，但是镜像会。
因此可以从MP矩阵里提取出变换后的坐标基做叉积运行判断手性以判断是否镜像

3）代码实现

cpp 复制代码

bool isCoordinateSystemFlipped(const glm::mat4& modelMatrix) {
    // 提取变换后的坐标轴
    glm::vec3 transformedX = glm::normalize(glm::vec3(modelMatrix[0]));
    glm::vec3 transformedY = glm::normalize(glm::vec3(modelMatrix[1]));
    glm::vec3 transformedZ = glm::normalize(glm::vec3(modelMatrix[2]));
    
    // 检查是否保持右手坐标系
    glm::vec3 crossProduct = glm::cross(transformedX, transformedY);
    float dotProduct = glm::dot(crossProduct, transformedZ);
    
    // 在右手坐标系中，Z轴应该是X×Y的结果
    return dotProduct < 0.0f; // 如果为负，说明是左手系（镜像）
}