【Depth Estimation】learning notes

文章目录

  • [Depth Anything](#Depth Anything)
  • [Depth Completion](#Depth Completion)
  • [Monocular Depth Estimation](#Monocular Depth Estimation)

Depth Anything

MiDaS->Depth-Anything

一文贯通单目深度估计-从早期卷积网络到Depth Anything系列-从原理到源码精讲

Depth-Anything

V1(2024年)单目深度估计

DA本身是在做相对深度估计,而不是绝对深度估计(又叫metric depth,度量深度),意味着场景并没有尺度信息,深度只是相对关系。

天空区域的disparity值设为0(disparity值是深度值的倒数,为0表示无穷远区域)。



Deep Anything容易受到透明物体和反射的影响


V2(2024年6月)

最近出现的单目深度估计可以分为两组。一组基于BEiT和DINOv2这样的判别模型,例如Depth Anything;而另一组基于Stable Diffusion这样的生成模型,例如Marigold。

真实数据的优点

合成数据优点

合成数据的缺点

  • Video DepthAnyThing(2025年1月)

Depth Completion

Depth Completion(深度补全)是一项计算机视觉任务,旨在从稀疏、不完整或低分辨率的深度测量数据中恢复出完整、高分辨率的深度图。以下是关于该任务的详细解释:

任务定义

输入:通常包括一个稀疏的深度图(如来自LiDAR、结构光传感器或双目视觉的稀疏点云)以及对应的RGB图像(可选)。

输出:一个密集的、高分辨率的深度图,其中每个像素都对应一个有效的深度值。


Monocular Depth Estimation

参考学习整理来自:如何实现视觉深度估计?单/双目+几何算法/深度学习网络



配合目标检测测距





pipeline 和分割网络类似

以下面这篇论文为例

Song M, Lim S, Kim W. Monocular depth estimation using laplacian pyramid-based depth residualsJ. IEEE transactions on circuits and systems for video technology, 2021, 31(11): 4381-4393.


轮廓比较难学

用减法,laplace 金字塔,对应 code

SPP

空洞卷积

ASPP,蓝色处,空洞+SPP

ASPP 之前卷积做了一个标准化的操作(减均值,除以方差)

对卷积做了标准化的操作

能用尽用,R 的 channel 为 1,蓝色 252,红色 3,黄色 1,concat 在一起 256

coarse to fine 的过程,D 的 channel 为 1



pre-activation 先 x 激活再 w 和 b

关于 D 的理解:要近都近,要远都远,有的地方比 GT 近,有的地方比 GT 远,不是好的预测

整个 loss,要求 predict 和 GT 越近越好,同时,predict 和 GT 的误差尽可能的同符号

公式化表达如下:scale invariant loss

公式2 表达的意思,两个点深度的变化应该和对应 GT 的变化保持一致

在单目深度估计中,由于缺乏绝对尺度(scale ambiguity),模型可能输出一个整体缩放后的深度图,但形状仍然正确

双目已有几何约束,不需要尺度模糊,引入尺度不变性反而违背了双目系统的物理基础

双目深度估计更合适的损失函数

相关推荐
别动我齐刘海3 小时前
实时控制学习2
linux·c++·人工智能·学习·算法
Sayai3 小时前
ComfyUI+MiniMax H3 文生视频实测:12G 显存跑 21G 模型,5 分钟出片自带音效(附模型与工作流)
人工智能·aigc·音视频·文生视频·comfyui·minimax
生活愉甜3 小时前
勃肯特2026工博会新品首发——“突破平面,多维精工”
人工智能·平面
博图光电3 小时前
笔记本键盘漏光缺陷检测
人工智能·数码相机·3d·自动化
wengad3 小时前
AICoding质量门禁|SonarQube 核心度量项详细释义
人工智能·ai编程·代码质量·质量门禁
有Li3 小时前
EEG脑电图数据处理基础
人工智能·算法·机器学习·语言模型·医学生
掌动智能3 小时前
从“会回答”到“能办事”:DeepLogic为AI智能体建立安全与质量治理闭环
人工智能·安全治理·智能体治理·持续治理
技灵AI3 小时前
图生视频提示词怎么写:一张商品图生成整条演示视频
人工智能·aigc·音视频·提示词
智行合一科技3 小时前
数字乡村新五年计划发布,AI成农业农村新引擎
人工智能·农业·乡村振兴
明志数科3 小时前
机器人训练数据获取困境:互联网数据为何无法直接复用
人工智能·深度学习·microsoft·机器学习·机器人