矩阵中QR算法分解简介和基于Eigen库使用示例

QR 算法是一种用于**特征值分解(Eigen Decomposition)**的迭代数值方法。广泛应用于求解实对称矩阵的特征值与特征向量,是现代数值线性代数中核心算法之一。


一、定义与目标

**QR算法(QR Algorithm)**是一种迭代方法,目标是对矩阵 A 求其特征值:

  • 输入:A∈Rn×nA \in \mathbb{R}^{n \times n}A∈Rn×n(一般为实对称矩阵)
  • 输出:AAA 的特征值和特征向量

该算法通过将矩阵分解为:

Ak=QkRk A_k = Q_k R_k Ak=QkRk

然后重新组合得到:

Ak+1=RkQk A_{k+1} = R_k Q_k Ak+1=RkQk

重复这个过程,多次迭代后 A_kA\_kA_k 收敛为一个上三角矩阵,其对角元素即为特征值。


二、原理与推导

假设 A 可对角化:

A=VΛV−1 A = V \Lambda V^{-1} A=VΛV−1

若我们不断对 A_k 做 QR 分解:

Ak=QkRk⇒Ak+1=RkQk A_k = Q_k R_k \Rightarrow A_{k+1} = R_k Q_k Ak=QkRk⇒Ak+1=RkQk

则:

Ak+1=QkTAkQk A_{k+1} = Q_k^T A_k Q_k Ak+1=QkTAkQk

这是一个相似变换(Similarity Transformation),意味着 A_{k+1}A_k 拥有相同特征值。

由于 A_k 是逐步对角化的,最终趋于上三角矩阵,其对角线收敛到 A 的特征值。


三、算法步骤

原始 QR 算法(无加速)

  1. 初始化:A_0 = A

  2. A_k 做 QR 分解:

    Ak=QkRk A_k = Q_k R_k Ak=QkRk

  3. 计算 A_{k+1} = R_k Q_k

  4. 判断是否收敛(如 \|A_{k+1} - A_k\| \< \\epsilon

  5. 重复步骤 2~4

改进:带位移的 QR 算法(Shifted QR)

通过引入位移(shift)\\mu_k 加快收敛速度:

Ak−μkI=QkRk⇒Ak+1=RkQk+μkI A_k - \mu_k I = Q_k R_k \Rightarrow A_{k+1} = R_k Q_k + \mu_k I Ak−μkI=QkRk⇒Ak+1=RkQk+μkI

位移常选为 A_k 的最后一行最后一列的元素(Wilkinson shift)。


四、应用场景

应用 描述
特征值计算 高效计算中小型矩阵的所有特征值
PCA QR 算法可用于求协方差矩阵的特征值(降维)
结构力学 解析振动系统特征频率
图像压缩 SVD(特征值分解的推广)相关算法
SLAM 优化 QR 用于线性系统求解,如 BA 优化中稀疏 QR

五、C++ 实现示例(使用 Eigen 库)

示例1

cpp 复制代码
#include <Eigen/Dense>
#include <iostream>

using namespace Eigen;
using namespace std;

int main() {
    MatrixXd A(3, 3);
    A << 2, -1, 0,
         -1, 2, -1,
          0, -1, 2;

    MatrixXd Ak = A;
    int maxIter = 100;
    double tol = 1e-8;

    for (int k = 0; k < maxIter; ++k) {
        HouseholderQR<MatrixXd> qr(Ak);
        MatrixXd Q = qr.householderQ();
        MatrixXd R = qr.matrixQR().triangularView<Upper>();
        Ak = R * Q;

        // 检查是否近似对角化
        MatrixXd offDiag = Ak - Ak.diagonal().asDiagonal();
        if (offDiag.norm() < tol) break;
    }

    cout << "近似对角矩阵 Ak:\n" << Ak << endl;
    cout << "特征值(近似):\n" << Ak.diagonal().transpose() << endl;

    return 0;
}

示例2-Eigen::SparseQR 示例

依赖:

  • #include <Eigen/Sparse>
  • #include <Eigen/SparseQR>

示例代码:稀疏 QR 解线性系统 Ax = b

cpp 复制代码
#include <iostream>
#include <Eigen/Sparse>
#include <Eigen/SparseQR>

int main() {
    using namespace Eigen;

    typedef SparseMatrix<double> SpMat;
    typedef Triplet<double> T;

    // 构造稀疏矩阵 A (5x5 三对角矩阵)
    std::vector<T> tripletList;
    tripletList.reserve(13);
    for (int i = 0; i < 5; ++i) {
        tripletList.emplace_back(i, i, 2.0);       // 对角
        if (i > 0) tripletList.emplace_back(i, i - 1, -1.0); // 下对角
        if (i < 4) tripletList.emplace_back(i, i + 1, -1.0); // 上对角
    }

    SpMat A(5, 5);
    A.setFromTriplets(tripletList.begin(), tripletList.end());

    // 右侧向量 b
    VectorXd b(5);
    b << 1, 2, 3, 4, 5;

    // 使用稀疏 QR 分解
    SparseQR<SpMat, COLAMDOrdering<int>> solver;
    solver.compute(A);
    if (solver.info() != Success) {
        std::cerr << "分解失败!" << std::endl;
        return -1;
    }

    // 解 Ax = b
    VectorXd x = solver.solve(b);
    if (solver.info() != Success) {
        std::cerr << "求解失败!" << std::endl;
        return -1;
    }

    std::cout << "解 x:\n" << x << std::endl;

    return 0;
}

相关注意事项

项目 说明
SparseQR 用于稀疏矩阵的列主元 QR 分解
COLAMDOrdering 使用最少填充的列重排序算法,提高分解效率
Triplet 构造 推荐方式,避免反复插入
矩阵类型 使用 Eigen::SparseMatrix<T>,不要使用 MatrixXd
求解过程 compute() 先分解,solve() 解方程组


六、注意事项与扩展

  • 对称矩阵 QR 收敛较快,非对称时需要更复杂处理(如 Hessenberg 预处理)
  • Eigen 库中已经内建 SelfAdjointEigenSolver 使用分块 + QR 实现
  • 稀疏矩阵场景中用 SparseQR 更合适
  • 在 SLAM 中,QR 分解(尤其是列主元排序 + 稀疏结构保留)常用于优化线性子问题

相关推荐
科大饭桶1 小时前
数据结构自学Day13 -- 快速排序--“分而治之”
数据结构·算法·排序算法
某个默默无闻奋斗的人2 小时前
【矩阵专题】Leetcode54.螺旋矩阵(Hot100)
java·算法·leetcode
cwn_3 小时前
Sequential 损失函数 反向传播 优化器 模型的使用修改保存加载
人工智能·pytorch·python·深度学习·机器学习
老鱼说AI3 小时前
Transformer Masked loss原理精讲及其PyTorch逐行实现
人工智能·pytorch·python·深度学习·transformer
JXL18603 小时前
Leetcode-.42接雨水
算法·leetcode·职场和发展
我是苏苏3 小时前
Pytorch01:深度学习中的专业名词及基本介绍
人工智能
空中湖3 小时前
PyTorch武侠演义 第一卷:初入江湖 第5章:玉如意的秘密
人工智能·pytorch·neo4j
lxmyzzs3 小时前
【已解决】YOLO11模型转wts时报错:PytorchStreamReader failed reading zip archive
人工智能·python·深度学习·神经网络·目标检测·计算机视觉·bug
Blossom.1184 小时前
基于深度学习的图像分类:使用预训练模型进行迁移学习
人工智能·深度学习·目标检测·分类·音视频·语音识别·迁移学习
kupeThinkPoem4 小时前
OpenAI最新大模型GPT-4o体验之Code Copilot AI编程大模型
人工智能·ai编程