EpipolarPose(常被简写为 epipose)
CVPR 2019,自监督3D人体姿态估计 ,全称:Self-Supervised Learning of 3D Human Pose using Multi-view Geometry
✅ 核心亮点
训练时不需要3D标注、不需要已知相机外参,只需要多视图2D关键点标注,利用**对极几何(epipolar geometry)**做自监督;推理时可以单图输出3D人体姿态。
- 作者:Muhammed Kocabas, Salih Karagoz, Emre Akbas
- arXiv:https://arxiv.org/abs/1903.02330
- 代码:https://github.com/mkocabas/EpipolarPose
- 数据集:Human3.6M、MPI-INF-3DHP
- 新增指标:PSS(Pose Structure Score),尺度无关,专门评估姿态结构合理性
🧠 核心思路
- 输入同一场景多视角图像(≥2个相机)
- 2D Pose分支检测各视图2D关键点(有2D标注监督)
- 利用对极几何 + 三角化,同时求解相机相对位姿 + 3D人体关键点,把这个三角出来的3D作为伪标签
- 用伪标签去监督3D Pose分支学习;推理阶段只输入单张图,直接回归3D姿态
和传统多视图3D pose最大区别:传统方法需要标定好相机外参;EpipolarPose把相机位姿当成未知量一起优化,自监督学习。
📌 网络结构
- Backbone:ResNet + 反卷积,输出 volumetric heatmap(体热图)
- 两个分支:
- 2D分支:有监督,输出2D关键点
- 3D分支:自监督,用多视图三角化得到的3D伪标签训练
- 损失:3D pose和三角重构3D之间的损失
⚠️ 局限
- 训练依赖同步多视图采集数据,野外单视频没法直接用这套自监督方案
- 尺度模糊问题(对极几何只能恢复尺度不确定的3D)
- 在当时是弱/自监督赛道SOTA,后续被很多单目3D pose(如PoseNet、MoCoPose等)超越
📎 容易混淆同名
- EpiPose(欧盟新冠项目):H2020流行病建模项目,和姿态无关
- ePose(日本iOS体态评估APP):健身房体态打分工具,不是CV论文
如果你需要,我可以给你:
- 论文精读笔记(公式版)
- 代码跑通指南
- 和 Mehta、VideoPose3D 的对比表