使用vscode debug 查看eigen变量的方法

zhaoyqcsdn2024-01-06 18:43

设置成适合人看的格式

在使用eigen库的时候，有时候需要使用调试功能。但是没有设置之前，eigen变量的显示是这样的：不是人眼能看的格式

设置方法：

bash 复制代码

$ mkdir -p ~/gdbExtensions

下载 https://gitlab.com/libeigen/eigen/-/blob/master/debug/gdb/printers.py

和 https://gitlab.com/libeigen/eigen/-/blob/master/debug/gdb/**init** .py

到~/gdbExtensions

然后执行下面命令：

注意将替换为自己机器的用户名，比如 zyq

bash 复制代码

$ cd ~
$ echo -en "\
python \n\
import sys \n\
sys.path.insert(0, '/home/<USER>/gdbExtensions') \n\
from printers import register_eigen_printers \n\
register_eigen_printers (None) \n\
end\n" >> ~/.gdbinit

~/.gdbinit 是gdb启动时加载的文件，这样gdb启动时就会加载gdbExtensions里面的脚本来处理eigen

设置完后显示的eigen变量是这样的：

怎么改回原始形式

要想按照原始形式显示，只要把.gdbinit 文件mv走就行，或者后面熟悉了gdbinit语法，可以改一改