【论文解读】PanoRoom:从球面到3D布局

论文名片

项目 内容
论文名​ PanoRoom: From the Sphere to the 3D Layout
arXiv​ 1808.09879(2018-08-29)
发表​ 3DRMS'18 workshop @ ECCV 2018​
一句话贡献​ 一个基于 ResNet-50 ​ 的全卷积网络(FCN),直接在等距柱状(ERP)全景图上 预测"边图 + 角点图",再用 Manhattan 几何推理 + 贪心 RANSAC​ 把这两张概率图变成 3D 房间
核心成绩​ 在 SUN360(PanoContext)上 3DIoU 76.82% 、CE 0.79 、PESS 2.59 、PECS 3.13 ,全面超过 PanoContext、LayoutNet 与作者自己的前作;推理 约 0.7 秒/张​

名字拆解 :Pano rama(全景)+ Room ​ = PanoRoom。副标题 "From the Sphere to the 3D Layout" 点明了它做的事:从球面图像 → 3D 房间布局。


一、背景:2018 年,全景布局估计还在"婴儿期"

1.1 当时的三个"前辈"

论文引言梳理了当时仅有的几条路线:

方法 做法 短板(论文指出)
**PanoContext 1**​ 第一个把透视图像的方法扩展到全景;恢复一个 **3D box(4 面墙)**​ + 物体包围盒 **强假设"房间就是个盒子"**​
F-L C. et al. 2(作者自己的前作) 先提取消失点做竖直对齐 ,再把全景切成 60 张重叠的窄视野透视图,逐张过 CNN 提边图,再拼回全景,最后做边剪枝 + 角点提取 + 分类 流程复杂、慢
**LayoutNet 3**​ 端到端 CNN,用全景 + **消失线(vanishing lines)**训练,得到边图和角点图 建两个输出分支做多任务 → 参数多、耗时长

1.2 论文要解决的四个问题

问题 PanoRoom 的解法
① 房间被假设成"盒子" 不再假设 box-type(4 面墙),能输出非长方体房间
② 前作要切成 60 张透视图,太绕 直接在 ERP 全景图上跑 FCN​
③ 双分支 decoder 参数多、慢 单分支 decoder,输出两个通道(边 + 角点)
④ 几何推理慢 用贪心 RANSAC​ 从概率图里挑最优布局

1.3 一个关键的时代背景

这是 2018 年 8 月 。此时 HorizonNet(2019)、HoHoNet(2021)、LGT-Net(2022)都还没出现。所以用今天的眼光看 PanoRoom 的指标(3DIoU 76.82)不算高------但在当时它是 SOTA,而且是"全景布局深度学习化"的奠基工作之一。

1.4 摘要原文拆解

摘要只有四句话,逐句翻译并说明它透露了什么:

|--------------------------------------------------------------------------------------------------------------------------|-------------------------------|----------------------------------------------------------------------------|
| 原文(要点) | 中文 | 透露的信息 |
| "We propose a novel FCN able to work with omnidirectional images" | 我们提出一个能处理全向图像的新型全卷积网络(FCN) | 方法是深度学习 (FCN = Fully Convolutional Network,全卷积网络,逐像素输出);输入是全向/全景图像 |
| "that outputs accurate probability maps representing the main structure of indoor scenes" | 输出表征室内场景主要结构的精确概率图 | 监督目标是概率图 (每个像素属于某类结构的可信度),不是直接回归 3D 坐标 |
| "which is able to generalize on different data" | 能在不同数据上泛化 | 作者把跨数据集泛化 当作卖点之一 |
| "Our approach handles occlusions and recovers complex shaped rooms more faithful to the actual shape of the real scenes" | 能处理遮挡,并恢复出比简单盒形更贴近真实场景形状的复杂房间 | 两个针对性卖点:抗遮挡 、非长方体(复杂形状)房间 |
| "We outperform the state of the art not only in accuracy of the 3D models but also in speed" | 在 3D 模型精度和速度上都优于最先进方法 | 声称精度 + 速度双优 (但具体数字未在摘要中给出) |


二、核心思路:两阶段------"深度学习感知" + "几何推理求解"

复制代码
输入:一张 ERP 全景图(128×256)
   ↓
【阶段 1:深度学习结构感知(FCN)】
   ResNet-50 encoder + 单分支 decoder
   → 输出两张概率图(64×128):
       ├─ Edge Map(边图):哪些像素是房间的结构边
       └─ Corner Map(角点图):哪些像素是墙角
   ↓
【阶段 2:从球面到 3D 的几何推理】
   ① 提取结构直线(每条线有一个"边图概率")
   ② 直线相交 → 候选角点(用角点图打分)
   ③ 在 Manhattan World 假设下生成布局假设
   ④ 选"边概率 + 角点概率"加权最大的那个假设
   ↓
输出:3D 房间布局(不再假设是盒子)

类比:

  • 阶段 1 像一位速写画家------看一眼房间,快速画出"哪些地方是边、哪些地方是角"(用概率表示把握度);
  • 阶段 2 像一位建筑制图员------拿这张速写,用几何规矩(Manhattan:三个互相正交的主方向)把草图规整成一张精确的施工图。

三、技术拆解 ①:网络架构

3.1 编码器:ResNet-50(ImageNet 预训练)

论文明确说明为什么选 ResNet-50 而不是当时主流的 VGG16:

大多数已有方法用 VGG16 ​ 做 encoder;有方法用 ResNet-101 。本文选 ResNet-50 ,在 ImageNet 上预训练 ------因为 ImageNet 学到的通用低层特征 能让网络收敛更快。

残差网络的优势(论文原话):

残差网络允许我们在不增加参数量的前提下增加深度。

这带来一个关键数字:

项目 数值
ResNet-50 的感受野​ 483 × 483​
网络输入分辨率​ 128 × 256​

注意这个对比 :感受野(483×483)远大于 输入图(128×256)。这意味着网络里每个输出像素都能"看到"整张全景图------对需要理解房间整体结构的任务至关重要。

3.2 输入与输出分辨率

分辨率
输入全景图​ 128 × 256​
**输出(边图 + 角点图)**​ 64 × 128(两个通道)

对比一下:后来的方法(LGT-Net、HorizonNet 等)普遍用 512×1024 。PanoRoom 的输入只有它的 1/16 像素量------这是它能做到 0.7 秒的重要原因之一。

3.3 Decoder:单分支双通道(本文的架构主张)

论文明确批评了 LayoutNet 的做法:

近期工作 7, 3 建两个输出分支 做多任务学习 → 计算时间更多、参数更多。

PanoRoom 的做法:

我们提出唯一一个分支 ,输出有两个通道 ------corner 和 edge 图------这有助于相互增强两张图的质量。
类比:LayoutNet 是请两个画家,一个专门画边、一个专门画角点(两套画具、两份工资);PanoRoom 是请一个画家,给他一支双头笔 ------一头画边、一头画角点,而且画边时想到的信息能直接帮助画角点(互相增强)。

3.4 Decoder 内部的两个技巧

技巧 1:Skip-connections(跳跃连接)

把 encoder 里的特征**拼接(concatenate)**到 decoder 对应层的"上卷积"特征上。

作用:把 encoder 早期丢失的空间细节找回来(边/角点定位需要精细位置)。

技巧 2:Preliminary predictions(多分辨率初步预测再反馈)

论文原话:

我们在不同分辨率上做初步预测 ,把它们也拼接起来反馈回网络。
类比:画家先画一张小尺寸草稿 ,看看整体对不对;再画中等尺寸 ,检查细节;最后画正式尺寸 ------而且每一步的草稿都摊在旁边参考。由粗到精,层层纠偏。


四、技术拆解 ②:Ground Truth 怎么造?

4.1 两张概率图

论文原话:

每张全景图的 GT 由两张概率图 组成:一张表示房间的边(edges) ,另一张编码角点位置(corners) 。每个像素若包含结构信息则为 1 ,若是背景则为 0。

所以这是一个逐像素的二分类任务:结构像素 vs 背景。

4.2 关键预处理:线加粗 + 高斯模糊

论文原话点出了必要性:

由于像素的自然分布极不平衡(例如 95% 是背景) ,我们采用线加粗(line thickening)和高斯模糊(Gaussian blur),让模型训练更容易收敛。

**为什么要加粗 + 模糊?**​ 两个原因:

原因 解释
① 边太细​ 真实的墙-天花板交界线只有 1~2 像素宽。直接学这种"针尖"目标,网络极难收敛
② 正负样本极度不平衡​ 95% 的像素是背景。加粗 + 模糊后,正样本(结构像素)变多,监督信号变强

类比:教小孩描红。如果线条细如发丝,他一笔就描歪了;把线条描粗一点、边缘弄得柔和一点,他才能顺利沿着线走。

论文还特意强调:

相似的方法通常需要把 GT 分成不同的类别------而本文不需要(只需两类:结构 / 背景)。

4.3 一个非常聪明的训练策略:强制每批含"非盒子"样本

论文的动机:绝大多数训练图都被标注成 4 面墙的盒子房间,复杂房型样本极少。

解法(论文原话):

我们选择 batch size = 16 ,并且强制每个 batch 至少包含一张我们自己手工标注的(非盒子型)全景图。这有利于学习更复杂的房间,尽管这类样本很少。
类比:一个班 95% 的学生都是右撇子。你规定每个学习小组必须至少有一个左撇子------这样教出来的方法才不会只会应付右撇子。

这是本文"能输出非长方体房间"的关键------从数据层面强行打破"盒子房"的偏置。


五、技术拆解 ③:损失函数

5.1 主损失:带权重的 Sigmoid 交叉熵

由于 95% 是背景,普通交叉熵会让网络直接猜"全是背景"也能拿到 95% 准确率。所以论文引入 ponder factors(权重因子)λ₁ 和 λ₀:

其中对每个类别 c:

符号 含义
yi​ GT(1 = 结构,0 = 背景)
预测值
S(⋅) Sigmoid 函数
N 总像素数
Nc​ 类别 c 的像素数

权重的效果(λc​ = N / Nc​):

  • 结构像素(正类)少 → N1 小 → λ1 = N / N1 很大 → 漏掉一个正样本罚得重;
  • 背景像素多 → λ0 小 → 猜对背景的"廉价得分"被压低。

类比:考试里 95 道简单题、5 道难题。

  • 普通评分:全蒙简单题就能拿 95 分 → 学生不做难题;
  • 加权后:难题每题 19 分(λ1=100/5),简单题每题约 1 分 → 学生必须做难题。

总损失是逐像素损失的均值。

5.2 辅助损失:Perceptual Loss(感知损失)

论文还借鉴 12 加了一个感知损失:

做法(论文原话):

我们使用一个与主网络结构相同的自编码器(auto-encoder) ,训练这个自编码器去编码 GT。
直觉:不只看"每个像素对不对",还看"整张图在高层语义上像不像 GT"。这能抑制孤立噪点、让边图更连贯。
类比:批改作文时,不光逐字挑错字(像素级),还把文章交给一位老师整体打分(感知级)------避免"每个字都对但读起来不通顺"。


六、技术拆解 ④:从 2D 概率图到 3D 布局("From the Sphere to the 3D Layout")

这是论文标题所指的核心步骤,也是它区别于纯端到端方法的地方。

6.1 Manhattan World 假设

论文原话:

我们利用 FCN 的输出,在 Manhattan World 假设 下对深度学习线索做优化 ,从而生成几何一致的房间布局------该假设认为场景中存在三个互相正交的主方向。

注意一个重要区分:

假设 是否采用
"房间是一个盒子(4 面墙)" ❌ 不再假设​
"Manhattan World(三个正交主方向)" ✅ 仍然采用​

所以 PanoRoom 能输出 L 形、多墙 的非长方体房间(只要墙沿三个正交方向),但不能处理斜墙(那需要 Atlanta World,即后来的 AtlantaNet)。

6.2 四步几何推理

论文用的是自己前作 2 的 RANSAC 方法(贪心版本,所以快):

第 1 步:提取结构直线

用 RANSAC 从边图里提取结构直线。

第 2 步:给每条直线打分
每条提取出的直线,其概率 = 它在边图上所占像素的概率之和。

类比:一条候选线穿过 100 个像素,其中 80 个像素网络认为是"边"(概率高)→ 这条线得分高。线越长、越贴合高概率像素,得分越高。

第 3 步:直线相交 → 候选角点
我们把结构直线相交 ,得到候选角点,并用角点图给它们打分。

类比:两条墙线交叉的地方,理论上就是墙角------但是不是真的墙角,去角点图上查一下"网络在这里标了角点吗"。

第 4 步:挑选最优布局假设

符号 含义
h 一个候选布局假设(由若干条边 和若干角点 组成)
we​、wc​ 边和角点的权重​
这个假设里所有边的边图概率之和​
这个假设里所有角点的角点图概率之和​

一句话:在所有可能的 Manhattan 布局里,挑那个"边图 + 角点图总分最高"的。
类比:多位建筑师各画一版户型图。评选规则是------每一笔线都要在"边草图"上有依据,每一个角都要在"角点草图"上有依据,两项加权总分最高的那版获胜。

6.3 为什么这一步比"直接回归 3D"更好?

因为它把深度学习和几何分工了:

谁负责 任务 优势
FCN​ 从图像里找"哪里可能是边/角"(含遮挡处也能猜) 数据驱动,抗遮挡
几何推理​ 用 Manhattan 约束把概率图规整成一致的 3D 房间 输出天然几何一致,不会歪七扭八

这正是"深度学习感知 + 几何求解"的经典组合。


七、训练与实现细节

项目 值(论文原文)
训练数据​ 只用 SUN360 数据集训练(所有实验)
Batch size​ 16 ,且强制每批至少 1 张手工标注的非盒子房​
Encoder​ ResNet-50(ImageNet 预训练)
输入分辨率​ 128 × 256
输出分辨率​ 64 × 128(2 通道)
感受野​ 483 × 483
推理耗时​ 约 0.7 秒 / 张​

关于速度(论文原话):

我们不仅在 3D 模型精度上超越 SOTA,在速度上也超越。
架构部分也说:单分支 decoder"比 SOTA 需要更少的参数和计算时间,同时精度更高"。

(外部佐证,非本文数据:后来的 Single-Shot Cuboids 论文评述------"LayoutNet 在 CPU 上推断和优化布局需要几秒,而 PanoRoom 快得多,因为它用了贪心 RANSAC"。此句来自后续文献,非 PanoRoom 原文。)


八、实验结果

8.1 评测指标(先解释清楚)

Table 2 的四个指标:

指标 含义 方向
3DIoU​ 预测 3D 布局与 GT 的体积交并比​ 越大越好
**CE(Corner Error)**​ 预测角点与 GT 角点的平均欧氏距离(归一化) 越小越好
PESS​ Pixel Error with Simple Segmentation ------简单分割(3 类:天花板 / 地板 / 墙,LayoutNet 的定义) 越小越好
PECS​ Pixel Error with Complete Segmentation ------完整分割 (天花板 / 地板 / 墙1 / ... / 墙n,即把每面墙分开算,作者前作 2 的定义) 越小越好

PECS 比 PESS 难得多 :PESS 只分"这是墙吗",PECS 要分"这是第几面墙"。所以同一方法的 PECS 数值会显著高于 PESS(例如 PanoContext:PESS 4.55 但 PECS 10.34)。

8.2 Table 2:3D 布局性能基准(只在 SUN360 上训练)

数据集 方法 **3DIoU(%)**​ **CE(%)**​ **PESS(%)**​ **PECS(%)**​
SUN360​ PanoContext 1 67.22 1.60 4.55 10.34
F-L C. et al. 2 --- --- --- 7.26
**LayoutNet 3**​ 74.48 1.06 3.34 ---
**Ours(PanoRoom)**​ 76.82​ 0.79​ 2.59​ 3.13​
Stanford2D-3D​ F-L C. et al. 2 --- --- --- 12.1
**Ours(PanoRoom)**​ 70.64​ 1.15​ 3.95​ 4.98​

("---" 表示该方法在原文表中未报告该指标)

8.3 四条关键读法

① 在 SUN360 上全面超越所有对手。

  • 3DIoU :76.82 > LayoutNet 74.48 > PanoContext 67.22(比 LayoutNet +2.34)
  • CE :0.79 > LayoutNet 1.06 > PanoContext 1.60(误差降低约 25%)
  • PESS:2.59 > LayoutNet 3.34 > PanoContext 4.55
  • PECS :3.13,不到前作 2 的 7.26 的一半,更是远低于 PanoContext 的 10.34

② PECS 上的优势最惊人(3.13 vs 7.26)。

PECS 是"把每面墙分开"的严格指标。PanoRoom 把像素误差从 7.26 砍到 3.13------改善超过 57% 。这直接证明了它"不再假设盒子房、能正确区分每一面墙"的主张。

③ Stanford2D-3D 是纯跨数据集泛化(零样本)。

论文原话:"所有实验只用 SUN360 数据集训练......然而在 Stanford 2D-3D 数据集上的结果也很有竞争力。"

意思是:模型从未见过 Stanford2D-3D 的任何一张训练图 ,直接拿来测,得到 3DIoU 70.64、PECS 4.98------而前作 2 在同一设置下 PECS 是 12.1。

PanoRoom 的 PECS(4.98)不到前作(12.1)的一半 。这印证了摘要里那句 "able to generalize on different data(能泛化到不同数据)"。

④ 与自己的前作 2 相比:方法变简单了,结果反而更好。

前作要切成 60 张透视图 逐张处理再拼回;PanoRoom 直接在 ERP 上跑一个 FCN 。前作 PECS 7.26(SUN360)/ 12.1(Stanford);PanoRoom 3.13 / 4.98 。更简单 + 更快 + 更准------这是本文最漂亮的卖点。

8.4 Table 1:FCN 输出图的像素级质量

数据集 Precision Recall F1 Score​ Accuracy
SUN360​ 0.8338 0.8564 0.8449​ 0.9615
Stanford2D-3D​ 0.6309 0.5904 0.6113​ 0.9160

两条读法:

  1. Accuracy 看着很高(0.9615)但意义有限 ------因为 95% 的像素是背景,全猜背景也有约 0.95。真正有意义的是 Precision / Recall / F1(把"结构像素"当正类)。
  2. 跨数据集时 F1 从 0.8449 掉到 0.6113 ------说明存在明显的域差距(SUN360 是卧室/客厅,Stanford2D-3D 是办公室/教室/走廊)。但即便如此,3D 布局结果仍"很有竞争力"。

8.5 定性效果(论文 Fig.3)

论文展示了预测边图的对比(RGB → GT → 2 → LayoutNet → PanoRoom):

我们的 FCN 超越了 SOTA 的最新工作 。我们预测出更干净的边界 ,并且即使室内场景不是简单的 4 面墙房间,也能恢复出忠实的边图。

论文还强调它能处理遮挡(handles occlusions) 、恢复复杂形状房间------这是摘要里的核心主张。


九、优势与局限

✅ 优势

优势 说明
打破"盒子房"假设​ 不再假设 4 面墙,能输出非长方体(L 形等)Manhattan 布局
直接在 ERP 上工作​ 比前作"切 60 张透视图再拼"简单得多、快得多
单分支双通道 decoder​ 比 LayoutNet 的双分支参数更少、计算更快,且两张图互相增强
ResNet-50 + ImageNet 预训练​ 收敛更快;感受野 483×483 覆盖整图
**低分辨率输入(128×256)**​ 仅 0.7 秒/张
加权交叉熵 + 感知损失​ 针对性解决 95% 背景的极端不平衡
强制每批含非盒子样本​ 从数据层面打破盒子偏置
跨数据集泛化强​ 只训 SUN360,Stanford 上 PECS 4.98 vs 前作 12.1
PECS 改善最大​ 7.26 → 3.13(SUN360),改善 >57%

❌ 局限

局限 说明
仍依赖 Manhattan World 假设​ 三个正交主方向;斜墙、圆弧墙搞不定(需 Atlanta World)
角点/边图仍需几何后处理​ 不是纯端到端------RANSAC + 假设打分是推理时的优化步骤​
**低分辨率输入(128×256)**​ 细节受限;后来的方法普遍用 512×1024
跨数据集仍有明显掉点​ F1 从 0.8449 掉到 0.6113;3DIoU 76.82 → 70.64
对比的基线较少​ 只比了 PanoContext 1、F-L C. et al. 2、LayoutNet 3(当时也没别的方法)
Table 2 有空缺 cell​ LayoutNet 未报 PECS;F-L C. et al. 2 未报 3DIoU/CE/PESS------非完全公平对照​
手工标注"非盒子"样本​ 需要额外人工标注,且论文承认这类样本"很少"

十、在方法谱系中的位置

世代 代表 关键特征
第 0 代​ PanoContext (2014) 假设 3D box(4 面墙)
第 1 代​ F-L C. et al. (2018)(本文前作) 切 60 张透视图 + 几何推理
第 1.5 代​ LayoutNet (2018) 端到端 CNN 双分支 + 消失线
**第 2 代(本篇)**​ **PanoRoom (2018)**​ 直接在 ERP 上 FCN + 单分支双通道 + 贪心 RANSAC 几何推理​
第 3 代 DuLa-Net (2019)、HorizonNet (2019) 天花板视图 / 1D 序列表示
第 4 代 LED²-Net、LGT-Net、DOP-Net 深度监督 / 平面解耦
第 5 代 PanoFormer、PanoSwin、Seg2Reg 球面 Transformer / 可微渲染

PanoRoom 的历史价值在于三点:

  1. 它和 LayoutNet 一起,是最早直接在球面全景图上训练深度学习模型的工作之一;
  2. 它示范了"深度学习出概率图 + 几何推理出 3D"这个范式------后来很多方法(如多标签图割那篇)仍在沿用;
  3. 它第一个明确打破"房间必须是盒子"的假设,为后来的非长方体(L 形、T 形)布局估计开了口子。

十一、一句话总结 + 四条可迁移的思路

PanoRoom 做了一次漂亮的"简化 + 松绑":它的前作要把全景切成 60 张透视图逐张处理再拼回来,LayoutNet 要建两个 decoder 分支------PanoRoom 用一个基于 ResNet-50 的全卷积网络,直接在等距柱状全景图(128×256)上跑,单分支 decoder 输出"边图 + 角点图"两个通道,两张图互相增强;训练时用 λ=N/Nc 的加权交叉熵 + 感知损失来对抗"95% 是背景"的极端不平衡,并且强制每个 batch 至少含一张手工标注的非盒子房,从而打破"房间就是个盒子"的偏置;最后用 Manhattan 几何 + 贪心 RANSAC 从概率图里挑出"边概率 + 角点概率"总分最高的布局假设。结果:只训 SUN360,在 SUN360 上 3DIoU 76.82%、CE 0.79、PESS 2.59、PECS 3.13(PECS 比前作的 7.26 改善超 57%),跨到没训练过的 Stanford2D-3D 上 PECS 4.98(前作 12.1),推理约 0.7 秒/张。

四条可以带走的思路:

  1. "假设"是最该被优先攻击的目标。 前人都默认"房间是 4 面墙的盒子"。PanoRoom 只做了一件事------在 Manhattan 框架内去掉 box 假设 ------就让最难的指标 PECS 从 7.26 掉到 3.13(改善 57%)。当你的模型在某个指标上始终上不去时,先检查:是不是有一个没人质疑的隐含假设在卡着它?
  2. 多任务不一定需要多分支。 大家都用两个分支分别做边和角点,PanoRoom 用一个分支的两个通道 ------参数更少、更快,而且两个任务互相增强 ("这有助于增强两张图的质量")。合并相关任务时,先试试"共享主干 + 多通道输出",比"多分支"更划算。
  3. 极端类别不平衡,要用"权重 = N / Nc"这种最朴素的加权。 95% 是背景,模型躺平猜背景。λc = N / Nc 让稀有类权重自动放大------难题每题 19 分、简单题每题 1 分,学生自然去做难题。这是处理不平衡最便宜、最稳的第一招。
  4. 在"数据层面"打破偏置,比在"模型层面"修修补补更直接。 非盒子房样本极少,PanoRoom 不是改损失函数去加权,而是硬性规定每个 batch 必须塞一张 。一个 batch 层面的规则,就打破了整个数据集的偏置。当数据分布有问题时,先想想能不能在采样/组批时直接干预。

📖 名词小抄

名词 大白话
PanoRoom​ 本文方法:ResNet-50 FCN + 单分支双通道 decoder + RANSAC 几何推理
ERP​ 等距柱状投影:球面摊成"世界地图",全景图的存储格式
FCN​ 全卷积网络:把分类网络最后的全连接层换成卷积/上采样,可输出与图同形的图
Edge Map / Corner Map​ 边图(哪些像素是结构边)/ 角点图(哪些像素是墙角),各一个通道
ResNet-50 感受野 483×483​ 大于输入 128×256 → 每个输出像素能看到整张全景图​
输入 128×256 / 输出 64×128​ 本文分辨率(后来的方法普遍用 512×1024)
Skip-connections​ 把 encoder 的特征拼到 decoder 对应层,找回空间细节
Preliminary predictions​ 在不同分辨率先做初步预测,拼接后反馈回网络(由粗到精)
Line thickening + Gaussian blur​ 把 GT 的边加粗、模糊 → 缓解"95% 是背景"的极端不平衡
λc​ = N / Nc​​ 类别权重:像素越少,权重越大(正类约被放大 19 倍)
Perceptual Loss​ 用同结构自编码器编码 GT,在高层特征上比较,让边图更连贯
Manhattan World​ 场景存在三个互相正交 的主方向(本文仍用,但不再假设 4 面墙盒子)
Greedy RANSAC​ 贪心地从边图里拟合结构直线(比前作快)
​ 一条直线的概率 = 它在边图上经过的所有像素概率之和​
​ 挑"边 + 角点"加权总分最高的布局假设
3DIoU​ 3D 布局的体积交并比(越大越好)
CE​ 角点误差:预测与 GT 角点的平均归一化欧氏距离(越小越好)
PESS​ Simple Segmentation​ 的像素误差(3 类:天花板/地板/墙,LayoutNet 定义)
PECS​ Complete Segmentation ​ 的像素误差(每面墙分开算 ,本文前作 2 定义,更难)
只训 SUN360​ 所有实验仅用 SUN360 训练;Stanford2D-3D 结果是零样本跨数据集泛化​
batch=16 强制含 1 张非盒子房​ 打破"盒子房"数据偏置的关键训练策略
0.7 s / 张​ 推理耗时;论文称在精度和速度上均超越 SOTA
相关推荐
拜小白1 小时前
【论文解读】(JLDNet) Joint 3D Layout and Depth:一张全景图同时算出房间骨架和像素深度
深度学习·计算机视觉·全景图
tellmewhoisi2 小时前
深度学习17:深度神经网络:测试参数优化器效果
人工智能·深度学习
拜小白3 小时前
【论文解读】Pano Popups:用平面感知网络做室内3D重建
深度学习·计算机视觉·全景图
打工仔折腾 AI15 小时前
在 Ubuntu ARM64 部署 Q1 V3.0 MuJoCo 模型:加载、单步推理与执行器响应解析
linux·运维·人工智能·python·深度学习·ubuntu·性能优化
陈嘿萌20 小时前
Fusion Anything Model:面向通用多模态融合的基座模型
图像处理·人工智能·深度学习·计算机视觉·学术研究与理论基础
老鱼说AI21 小时前
SNN脉冲神经网络:全连接、卷积与循环SNN
人工智能·深度学习·神经网络·机器学习·自然语言处理
程序猿编码21 小时前
纯 C++ 手写 LLM 推理引擎:分页 KV 缓存、连续批、多卡张量并行全部内置
c++·深度学习·缓存·大模型推理·自动微分·模型推理
在所不辞兄1 天前
【零基础学智能仿真-62】从应变—应力计算弹性常数
人工智能·深度学习·神经网络·机器学习·有限元·智能仿真
STLearner1 天前
KDD 2026 | (2月轮)时空数据(Spatial-Temporal)论文总结时空【下】(人群移动,城市科学(资源调度,)
大数据·人工智能·python·深度学习·机器学习·语言模型·数据挖掘