【eigen】解决报错 return type of RCmpEQReturnType Eigen::operator== is not ‘bool’

文章目录

    • [1. 发现问题](#1. 发现问题)
    • [2. GPT 分析问题](#2. GPT 分析问题)
    • [3. 解决问题](#3. 解决问题)

1. 发现问题

在 c++ 项目中使用了 C++ 20 编译标准(GCC10),结果 eigen 中出现报错

sh 复制代码
/usr/include/eigen3/Eigen/src/Cholesky/LDLT.h:372:58: error: return type of 'const RCmpEQReturnType Eigen::operator==(const Scalar&, const Eigen::ArrayWrapper<Eigen::Block<Eigen::Block<Eigen::Matrix<double, -1, -1>, -1, 1, true>, -1, 1, false> >&)' is not 'bool'
372 |           ret = ret && (mat.col(j).tail(size-j-1).array()==Scalar(0)).all();

2. GPT 分析问题

错误提示指出在 ret = ret && (mat.col(j).tail(size-j-1).array()Scalar(0)).all(); 这行代码中, 操作符对 Eigen::ArrayWrapper 和 Scalar 类型不可用。你可以修改这行代码以适应 Eigen 库的比较操作。

首先,确保 mat 是 Eigen::Matrix 类型,Scalar 是正确的类型,然后使用 .isApprox() 函数来比较两者是否近似相等。

3. 解决问题

Eigen/src/Cholesky/LDLT.h:517

cpp 复制代码
ret = ret && (mat.col(j).tail(size-j-1).array()==Scalar(0)).all();

改为

cpp 复制代码
// ret = ret && (mat.col(j).tail(size-j-1).array()==Scalar(0)).all();
ret = ret && (mat.col(j).tail(size-j-1).isApprox(Eigen::Matrix<Scalar, Eigen::Dynamic, 1>::Zero(size-j-1), 1e-6));

在这里,我们使用 isApprox() 函数来比较 mat.col(j).tail(size-j-1) 是否近似为零向量。 1e-6 是误差范围,你可以根据实际需求调整该值。

相关推荐
Sashtok1 小时前
cpp基础知识(10)
c++·后端
whitelbwwww3 小时前
CUDA C++实战--中级
开发语言·前端·c++
ShineWinsu5 小时前
对于Qt:QMessageBox的解析
开发语言·c++·qt·面试·客户端·qmessagebox·消息对话框
小灰灰搞电子8 小时前
C++ initializer_list 详解
c++·list
Rabitebla10 小时前
【Linux】文件篇(六):Shell 实战——从系统调用到命令行重定向
linux·服务器·c++·笔记·学习
无忧.芙桃1 天前
C++语言原理与实践(二十三):哈希表的实现
c++·链表·哈希算法·散列表·哈希表
AvocadoZeroOneOI1 天前
B4500 [GESP202603 三级] 凯撒密码 详细解题报告
c++·算法
whitelbwwww1 天前
cuBLAS--CUDA高性能线性代数计算库--第一部分
c++·线性代数·gpu算力·cuda c++
eggwyw1 天前
C++设计模式之解释器模式
开发语言·c++
我不会插花弄玉2 天前
13.多路转接epoll【由浅入深-网络】
网络·c++·epoll