利用OpenCV进行3d相机手眼标定(眼在手上/眼在手外)

文章目录

0.函数原型

本文提到的3d相机,指的是RGBD相机,因为必须需要用RGB来拍摄标定板(目前我们使用RGBD相机来测试)。3d线扫相机可能得用其他方式,也有可能用这个,因为这个函数需要你传入的是变换矩阵,RGBD相机和线扫相机得各自采用自己的方式得到变换矩阵。

在opencv中有一个函数,calibrateHandEye,他是用来进行眼在手上(相机在机械臂上)的标定。

cpp 复制代码
void calibrateHandEye( InputArrayOfArrays R_gripper2base, InputArrayOfArrays t_gripper2base,
                       InputArrayOfArrays R_target2cam, InputArrayOfArrays t_target2cam,
                       OutputArray R_cam2gripper, OutputArray t_cam2gripper,
                       HandEyeCalibrationMethod method=CALIB_HAND_EYE_TSAI );

其中各个形参的意义为:

注意,前面四个参数都是InputArrayOfArrays的形式,这是因为我们要传入机械在多组姿态数据(而姿态数据本身又是一个矩阵、arrays),所以这个就是一个array of arrays的形式。

参数 意义
R_gripper2base 机械臂末端法兰(初始工具)坐标系到机械臂基坐标系的旋转变换
t_gripper2base 机械臂末端法兰(初始工具)坐标系到机械臂基坐标系的平移变换
R_target2cam 标定板坐标系到相机坐标系的旋转变换
t_target2cam 标定板坐标系到相机坐标系的平移变换
R_cam2gripper 得到的相机坐标系到法兰(初始工具)坐标系的旋转变换
t_cam2gripper 得到的相机坐标系到法兰(初始工具)坐标系的平移变换
CALIB_HAND_EYE_TSAI 求解AXXB的算法

opncv官方提供这个函数的本意是只支持眼在手上这种方式的标定,但是,其实我们只要稍微修改一下输入的矩阵,就可以实现眼在手外的标定。

推导过程如下:

1.眼在手上

因为眼在手上时,相机到法兰的坐标(图中的B)变换是固定的,也是我们要求解的,因此我们让X就为相机到法兰的变换矩阵,也就是

X = g T c X = ^gT{_c} X=gTc

那么机械臂在两个不同的姿态 i 和 j 下,存在这么一个等式(calibrateHandEye就是按照这个等式来求解的)

b T g i X c T t i = b T g j X c T t j ^bT_{g_i} X ^cT_{t_i} = ^bT_{g_j} X ^cT_{t_j} bTgiXcTti=bTgjXcTtj

代入X后也就是

b T g i g i T c c T t i = b T g j g j T c c T t j ^bT_{g_i} ^{g_i}T{c} ^cT{t_i} = ^bT_{g_j} ^{g_j}T{c} ^cT{t_j} bTgigiTccTti=bTgjgjTccTtj

也就是物理链是这样的 标定板--》相机--》法兰--》到基座,也就是标定板到基座的变换。这是一个固定值,这个值我们不用求,他只是用来构建等式,我们真正要求的是X。上面的X求出来后,我们在使用时,也就是将3d相机得到的点云P(此时是相机坐标系下的)经过变换矩阵变换到机械臂的基坐标系下,也就是

P b = b T g g T c P c P_{b} = ^bT_{g} ^gT_{c} P_{c} Pb=bTggTcPc

其中 b T g ^bT_{g} bTg是可以实时从机械臂中读取的

2.眼在手外

我们让X为相机到基坐标的变换,也就是

X = b T c X = ^bT{_c} X=bTc

然后将原本形参中的gripper2base改成 base2gripper, 代入calibrateHandEye中的求解等式,就可以得到这么一条等式

g i T b X c T t i = g j T b X c T t j ^{g_i}T_{b} X ^cT_{t_i} = ^{g_j}T_{b} X ^cT_{t_j} giTbXcTti=gjTbXcTtj

把X代入,可以等到

g i T b b T c c T t i = g j T b b T c c T t j ^{g_i}T_{b} ^bT{c} ^cT{t_i} = ^{g_j}T_{b} ^bT{c} ^cT{t_j} giTbbTccTti=gjTbbTccTtj

即 标定板--》相机--》基座--》法兰,也就是标定板到法兰的变换,因为标定板是固定在法兰上的,显然这个是个定值,也就是说上述等式是成立的。

完美,只需要将 gripper2base求个逆,就可以利用calibrateHandEye实现眼在手外的标定。


参考:

【3D 视觉之手眼标定】

相关推荐
是Yu欸7 小时前
机器人如何把二维画面变成三维动作?ECCV 2026 3DWay 论文解读
3d·机器人·论文解读·具身智能·eccv 2026
戴西软件10 小时前
制造研发中的AI视觉与仿真:戴西工程图纸智能审图智能体、戴西3DViz_CAE AI集成与戴西3DViz_CAD AI集成
大数据·运维·人工智能·3d·自动化·制造·rpa
我才是银古16 小时前
GeoLibre 技术架构与实现解析
3d·ai·gis
Martina_032117 小时前
AI生成模型怎么做网页3D轻量化?用6步压缩Mesh、贴图与材质调用
图像处理·人工智能·3d·自然语言处理·aigc·游戏策划
Wanda121418 小时前
机器人与机电一体化3D数字孪生机器-Day4
3d·unity·机器人·数字孪生
西红柿炖牛腩35418 小时前
3D 模型压缩脚本又报错又配环境?换个不用维护的方案
javascript·3d·性能优化
创世虚拟世界19 小时前
把 3D 虚拟世界拉到本地:vibe coding 的手感,是从看见自己那一行改动开始的
javascript·数据库·人工智能·3d·gitee·虚拟现实
yangmu32031 天前
从实物到数字资产:3D扫描建模硬核入门指南
3d
杀生丸学AI1 天前
【三维重建】InfiniSplat v2:从任意视角分析与优化前馈 3DGS
3d·三维重建·稀疏重建·高斯泼贱·前馈大模型
音符犹如代码2 天前
DeepSeek-V4.1-Flash-1017 上手实测:3D 直出,效果到底如何
人工智能·3d·ai·ai编程