论文名片
| 项目 | 内容 |
|---|---|
| 论文名 | Seg2Reg: Differentiable 2D Segmentation to 1D Regression Rendering for 360 Room Layout Reconstruction |
| 作者 | Cheng Sun、Wei-En Tai、Yu-Lin Shih、Kuan-Wei Chen、Yong-Jing Syu、Kent Selwyn The、Yu-Chiang Frank Wang、Hwann-Tzong Chen |
| 单位 | NVIDIA Research(台湾实验室)+ 台湾大学 |
| 发表 | CVPR 2024,pp. 10435--10445;arXiv:2311.18695(2023-11-30) |
| 一句话贡献 | 用可微渲染 把"2D分割"和"1D回归"这两条对立路线缝在一起 ------decoder 参数量从 92M 降到 0.015M ,精度反而更高,还能直接算出被遮挡的布局 |
名字拆解 :Seg mentation(2D 分割)+ 2 → + Reg ression(1D 回归)= Seg2Reg。
一、先看清这个领域的一条"路线分裂"
全景布局估计从 2018 年 LayoutNet 以来,逐渐分裂成两个互不服气的阵营。论文 Fig.1 直接把这张"对立图"画了出来。
阵营 A:1D 回归派(主流 SOTA)
思路 :把图像沿高度方向直接压缩,输出 3 条 1D 向量(天花板高度、地板高度、拐角概率),后处理极快。
通俗类比 :就像你直接拿着笔沿着水平方向,一笔画出墙的上下边界,不用管中间细节。
代表:HorizonNet、LED²-Net、LGT-Net、DOP-Net
做法 :给全景图的每一列直接回归几个数(天花板边界、地板边界、深度...)。
优点 :直接输出几何,精度高。端到端训练、速度极快、模型轻量化。
两个毛病(论文点破):
- "强大的 2D→1D decoder 是必需的" ------因为要把整张 2D 图压缩成一维再解压,这个 decoder 必须很大(动辄几十 M 参数);
- 只能预测 "primary-view layout"(主视角布局) ------也就是相机原点能直接看见的那部分 。被沙发挡住的墙角、被墙挡住的凹角,它根本不输出。
类比:你站在房间中央,只能画出"视线没被挡住"的那部分轮廓。衣柜背后是什么?------回归派说:不归我管。
阵营 B:2D 分割派(传统方法)
思路 :先输出整张 2D 的墙线、墙角概率图,再用霍夫变换、直线拟合、全局优化等复杂后处理,生成最终布局。
通俗类比 :就像你先画一张模糊的墙线素描,再用尺子一点点去描直线、找拐角。
代表:LayoutNet 等早期像素级分类方法
做法:对每个像素分类------"这是墙面 / 天花板 / 地板 / 角点 / 边界"。
优点:
- 更低层、更好学(low-level,比直接回归几何简单);
- 能建模被遮挡区域(因为它是逐像素的,可以在看不见的地方也"猜"一个类别)。
- 细节捕捉准,墙角、门洞的边缘位置精准,能捕捉局部复杂特征。
致命毛病:
需要一个"不可微"的后处理启发式(non-differentiable post-heuristic) 才能把分割图变成布局多边形------而且牺牲精度。
类比:分割派画了一张"哪里是墙"的涂色图,但你还得手工 把色块描成线条、连成多边形。这一步没法训练,误差在这里失控。
一句话总结这场对立
| 精度 | 遮挡 | 后处理 | decoder 大小 | |
|---|---|---|---|---|
| 回归派 | ✅ 高 | ❌ 不管 | 轻 | ❌ **巨大(92M)** |
| 分割派 | ❌ 低 | ✅ 能猜 | ❌ 重且不可微 | 小 |
Seg2Reg 的目标(论文原话):
"aims to synergize the strengths of both(协同两边的优点)"
二、核心洞察:把布局表示成"密度场",就能用 NeRF 的体渲染
这是整篇论文最漂亮的一步思想跳跃。
能不能既保留 2D 分割的细节精度,又有 1D 回归的端到端和速度? Seg2Reg 的答案是:加一层可微渲染器。先让 2D 分割网络画好细节草稿,再用可微渲染器自动把草稿「描」成 1D 的精准边界线,整个过程可求导、能反向传梯度,全程端到端训练。
- 通俗类比:就像你先画一张详细的铅笔草稿(2D 分割),再用一个自动描边器(可微渲染)沿着草稿的灰度深浅,精准描出一条平滑的矢量轮廓线(1D 边界),最后再整体修顺线条(1D 精修)。既保留了草稿的细节,又得到了规整的矢量线条,全程自动,不用手动画。
2.1 关键改述
论文说:
"The key insight is to reformulate the 2D layout representation as 2D floor-plan density field ,allowing us to employ the classical volume rendering technique... which has recently gained great success in 3D NeRF modeling, to compute geometry information in a soft and differentiable manner."
翻译 :不要预测"这个像素是不是墙"(二值分割),而是预测这一点的"密度"------像 NeRF 那样。
2.2 密度场怎么理解?
网络输出一张 2D density logit map(密度 logit 图)
,铺在地面上:
| 位置 | 密度 |
|---|---|
| **房间内部(空地)** | 低密度(光能穿过去) |
| 墙 / 房间外面 | 高密度(光被挡住) |
类比:把房间俯视图想象成一片雾。空地是清雾,墙是浓雾。 你从相机位置射出一条光线,光线在雾里穿行,一路累积"被挡住的概率"------累积到一定程度,就撞到墙了。
2.3 体渲染:怎么从密度算出"墙有多远"?
对一条射线,采样 K 个点
(由近到远):
第 1 步:把 3D 采样点投影回 2D 密度图取值

人话:射线上的第 i 个点,落在地面哪个位置 → 去密度图上插值取一个密度值。
第 2 步:密度 → 不透明度(opacity)

其中 Δi 是该射线段投影到单位球面上的球面距离(这点很讲究------因为全景是球面,距离得按球面算)。
第 3 步:Alpha Blending 求期望距离

人话:
- Ti = "光线走到第 i 个点还没被挡住的概率";
- Tiαi = "恰好在第 i 个点被挡住的概率";
- 用它对距离 ti 加权求和 → 期望的"撞墙距离"。
这整个链条完全可微------梯度能从最终的距离误差,一路传回 2D 密度图。
2.4 为什么这招能"两全其美"?
| 需求 | 怎么满足 |
|---|---|
| 要像分割派一样好学 | 预测的是逐像素的密度图(低层、简单) |
| 要像回归派一样精确 | 用数学公式 (体渲染)把密度变成精确距离------不需要学一个巨大的 decoder |
| 要能处理遮挡 | 见下文"secondary views" |
| 要可微 | 全是 softplus / exp / 求和------没有不可微的后处理 |
一句话:decoder 从"学出来的百万参数"变成了"算出来的数学公式"。
三、核心技术 ①:Seg2Reg 渲染层
3.1 它替代了什么?
回归派的流程是:
2D 特征 → 【巨大的学出来的 decoder】→ 1D 每列几何
Seg2Reg 的流程是:
2D 特征 → 2D 密度图 → 【体渲染公式(0 参数)】→ 1D 每列深度
decoder 从"学"变成"算"------这就是参数量暴跌的原因。
3.2 论文自己强调的一点
"Our method achieves better accuracy with a thousand times fewer decoder parameters with the same backbone."
而且论文还做了个反向验证:
"The lightweight MLP-only design is shown to be inferior when functioning as a regression-based 1D decoder..."
意思是 :光把 decoder 做小(纯 MLP)是不够的------必须换成"密度场 + 可微渲染"这套表示 。小 decoder 本身不是目的,换表示才是关键。
四、核心技术 ②:Secondary Views ------ 直接渲染被遮挡的布局
这是"occlusion-aware"的落点,也是回归派做不到的部分。
4.1 做法
"To inference the occlusion region, we sample additional cameras
from the interior region to render a set of N(secondary) layout polygons."
流程:
- 先渲染出 primary layout polygon(相机原点看得见的轮廓);
- 在这个轮廓内部 再采样若干个"虚拟相机"
; - 对每个虚拟相机再渲染一次 ,得到 N(secondary) 个secondary layout polygons;
- 把这些多边形合并 → 补全被遮挡的部分。
训练 / 测试的区别(很讲究):
| 阶段 | 内部区域从哪来 |
|---|---|
| 训练时 | 从 ground-truth 内部区域采样(有真值,采得准) |
| 测试时 | 从 primary layout polygon(自己预测的)采样 |
类比:你站在客厅,衣柜背后看不见。那就想象自己"瞬移"到客厅的另一个角落------从那个角度看,衣柜背后就露出来了。多瞬移几次,把看到的拼起来,整个客厅就补全了。
4.2 这解决了回归派的什么病?
回归派只能输出 primary-view layout (相机能直接看见的部分)------不是因为模型不够强,而是因为它的输出表示本身就不包含遮挡区域。
Seg2Reg 因为预测的是整张地面的密度场 ,密度场在看不见的地方也可以有值 → 换个相机位置再渲染一次,遮挡区域就出来了。
论文原话:不需要依赖启发式后处理就能直接估计遮挡布局(directly estimates occluded layouts without relying on heuristic post-processing)。
五、核心技术 ③:LayoutWarp ------ 在 3D 空间做数据增强
5.1 问题:PanoStretch 不够用
传统的 PanoStretch (全景拉伸)是布局估计的经典增强(HorizonNet 那讲出现过),但它是比较受限的 2D/几何变换。
5.2 LayoutWarp 的做法
论文的核心概念只有一句:
"applying geometric transformations in 3D space rather than on 2D images."
具体:

| 符号 | 含义 |
|---|---|
| {vi} | ground-truth 多边形的顶点 |
| h | 布局高度(层高) |
| Tv | 对多边形坐标做 3D 变换(扰动墙角位置) |
| Th | 对层高做变换 |
然后用**反向 warping(backward warping)**把原图变形,得到增强后的视图。
5.3 两种增强
| 增强 | 做什么 |
|---|---|
| Random camera height adjustment | 随机调整相机高度 |
| Random layout perturbation | 随机扰动**布局(墙角)** |
5.4 效果(Table 4)
| 增强配置 | MpLayout(3D IoU) | 跨数据集 overall | 跨数据集 irregular |
|---|---|---|---|
| **Basic(基础)** | 83.32 | 78.30 | 76.14 |
| w/ rand. perturb.(随机扰动布局) | 82.93 | 78.77 | 77.02 |
| w/ cam. height(随机相机高度) | 83.68 | 79.17 | 76.78 |
这是一个非常诚实、也非常有意思的权衡:
- 随机扰动布局 :同数据集精度略降 (83.32 → 82.93),但跨数据集 irregular(非曼哈顿不规则房型)明显提升 (76.14 → 77.02);
- 随机相机高度 :三项全部提升(83.68 / 79.17 / 76.78)。
论文自己的总结:
"Random camera height adjustment achieves observable improvements on the same dataset and cross-dataset generalization . Random layout perturbation sacrifices overall accuracy but generalizes better when non-Manhattan input is presented."
类比:给运动员加练"高难度动作"------日常比赛成绩可能略降 (因为训练偏离了常规),但到了真正的怪场地反而稳。
这条规律很值得记住 :增强的"怪"程度与"同分布精度"之间,往往存在交换。
六、损失函数:直接监督"alpha blending 的权重分布"
这是让整套可微渲染真正训得动的关键。
6.1 思路:不直接监督距离,而是监督"光线该在哪被挡住"
给定真值距离
,论文推导出一个紧凑的权重分布
:

人话:真值距离
落在第 k 和第 k+1 个采样点之间 → 把权重按线性插值分配给这两个点,其余点权重为 0。
6.2 用交叉熵去逼近这个分布

直觉:让模型学出来的"被挡住的概率分布" (Tiαi),去匹配真值给出的分布
。
6.3 完整损失

| 项 | 监督什么 |
|---|---|
| L(pri.) | 主视角布局的渲染深度 |
| L(2nd) | secondary views(遮挡区域)的渲染深度 |
| L(seg.) | 二值分割损失------直接监督预测的密度 logit |
注意这里的关键点(论文特别强调):
"it is crucial to train our segmentation-based representation with the regression objective ... Solely training with the segmentation objective results in lower accuracy."
意思是 :光用分割目标训是不够的,必须用回归目标训 ------这正是 "Seg2Reg" 这个名字的真意:用 Reg 的目标去训 Seg 的表示。
七、训练与实现细节
| 项目 | 值 |
|---|---|
| **骨干(advanced setup)** | HRNet-18 |
| **骨干(basic setup)** | ResNet-34 |
| 还 benchmark 了 | SwinTransformer、ConvNeXt |
| 训练轮数 | 1000 epochs(ZInd 例外,200 epochs) |
| 优化器 | Adam ,lr = 1e-4 |
| 稳定训练 | 最后 20% epochs 用 SWA(随机权重平均) |
系统级贡献(论文四大贡献之一):
把近期方法全部重实现 进 PanoLayoutStudio 这个 codebase,统一 backbone 和 training recipe,建立更强的 baseline 供公平比较。
这一点很值得尊敬:很多论文"超越 SOTA"是因为复现时对手没调好。Seg2Reg 反过来------先把对手调到最强,再比。
八、实验结果
8.1 Table 1:PanoLayoutStudio benchmark(MatterportLayout)
decoder 参数量 vs 3D IoU
| 方法 | # decoder params ↓ | 3D IoU(%) ↑ |
|---|---|---|
| HorizonNet | 52 M | 80.48 |
| HoHoNet | 30 M | 80.45 |
| LED²-Net | 52 M | 80.48 |
| LGT-Net | 92 M | 81.55 |
| Ours(ResNet-34) | 0.020 M | 81.08 |
| LGT-Net | 13 M | 82.26 |
| Ours(HRNet-18) | 0.015 M | 82.83 |
三条关键读法:
- 参数量的荒谬差距 :LGT-Net 用 92M decoder 拿 81.55;Seg2Reg 用 0.015M 拿 82.83 ------参数少约 6000 倍,精度反而高 1.28 个点;
- 即使同配比较 :Ours(ResNet-34,0.020M,81.08)vs LGT-Net(92M,81.55)------参数少约 4600 倍,精度只低 0.47;
- 论文总结:"a thousand times fewer decoder parameters with the same backbone "------指 0.015M vs 13M(约 867 倍)。
这组数字是全篇最震撼的。它证明了一件事:这个任务里,decoder 里那几千万个参数,绝大部分是在"弥补表示方式的缺陷"------换个表示,它们就不需要了。
8.2 Table 2 (a):MatterportLayout 测试集
| 方法 | 骨干 | 2D IoU(%) ↑ | 3D IoU(%) ↑ |
|---|---|---|---|
| LayoutNet v2 | ResNet-34 | 78.73 | 75.82 |
| LGT-Net | ResNet-50 | 83.52 | 81.11 |
| Ours | HRNet-18 | 85.27 | 82.83 |
3D IoU 82.83 ,比 LGT-Net 的 81.11 高 1.72 ;2D IoU 85.27 高 1.75。
而且注意:Ours 用的骨干是 HRNet-18(一个小骨干),LGT-Net 用的是 ResNet-50 。小骨干打赢大骨干------增益来自表示和渲染层,不是靠堆容量。
8.3 Table 2 (b):ZInd 测试集(最大规模真实住宅)
| 方法 | 骨干 | 2D IoU(%) ↑ | 3D IoU(%) ↑ |
|---|---|---|---|
| HorizonNet | ResNet-50 | 90.44 | 88.59 |
| LGT-Net | ResNet-50 | 91.77 | 89.95 |
| Ours | HRNet-18 | 92.50 | 90.73 |
3D IoU 90.73,超过 LGT-Net 的 89.95(+0.78);2D IoU 92.50(+0.73)。
8.4 Table 2 (c):PanoContext + Stanford2D3D 测试集
| 方法 | 骨干 | 2D IoU(%) ↑ | 3D IoU(%) ↑ |
|---|---|---|---|
| LayoutNet v2 | ResNet-34 | 85.02 | 82.66 |
| LGT-Net | ResNet-50 | 85.16 | 86.03 |
| Ours | HRNet-18 | 87.23 | 87.24 |
3D IoU 87.24 ,比 LGT-Net 的 86.03 高 1.21 ;2D IoU 87.23 高 2.07。
这里有个有意思的现象:LGT-Net 在 PanoContext(85.16)和 Stanford2D3D(86.03)上差距较大 ,而 Seg2Reg 两者几乎持平(87.23 / 87.24)------说明它对不同房型的一致性更好。
8.5 四个基准汇总:Seg2Reg 全面第一
| 数据集 | Seg2Reg (2D / 3D IoU) | 最强对手 |
|---|---|---|
| MatterportLayout | 85.27 / 82.83 | LGT-Net 83.52 / 81.11 |
| ZInd | 92.50 / 90.73 | LGT-Net 91.77 / 89.95 |
| PanoContext | **87.23 / ---** | LGT-Net 85.16 / --- |
| Stanford2D3D | --- / 87.24 | LGT-Net --- / 86.03 |
8.6 Table 3:消融------"密度场"vs"二值分割"
在 valid split 上:
| 数据集 | 2D 表示 | 2D IoU(%) | 3D IoU(%) |
|---|---|---|---|
| MpLayout | binary seg.(二值分割) | 86.92 | 84.65 |
| MpLayout | **density field(密度场)** | 87.33 | 85.00 |
| ZInd | binary seg. | 91.21 | 89.46 |
| ZInd | density field | 92.05 | 90.39 |
增益:
| 数据集 | 2D IoU 增益 | 3D IoU 增益 |
|---|---|---|
| MpLayout | +0.41(论文明确写出) | +0.35 |
| ZInd | +0.84(论文明确写出) | +0.93 |
论文原话:把 2D 预测改述成 floor plan density field,能带来 +0.41 和 +0.84 的 2D IoU 提升(分别在 MatterportLayout 和 ZInd valid split 上)。
这一组消融极重要 :它证明了核心创新不是"用了体渲染"这个噱头,而是"密度场"这个表示本身------同样是 2D 预测,密度场就比二值分割好。
九、优势与局限
✅ 优势
| 优势 | 说明 |
|---|---|
| 缝合了两条对立路线 | 分割的好学 + 回归的精确,兼得 |
| decoder 参数量暴跌 ~1000 倍 | 0.015M vs LGT-Net 13M / 92M,精度还更高 |
| 可微,无需后处理启发式 | 端到端,梯度直达 |
| 能直接估计遮挡布局 | secondary views 换视角渲染,回归派做不到 |
| 小骨干打赢大骨干 | HRNet-18 > ResNet-50 的 LGT-Net |
| 四个基准全面第一 | MpLayout 82.83、ZInd 90.73、S2D3D 87.24 |
| LayoutWarp 提升泛化 | 尤其对非曼哈顿(irregular)房型 |
| 系统级贡献 | PanoLayoutStudio 把对手都调到最强再比,公平且可复用 |
❌ 局限
| 局限 | 说明 |
|---|---|
| **没搞清为什么"偏好某些骨干"** | 论文原话:"we have not identified the reasons why the proposed method... seems to favor certain backbones" |
| 加深骨干收益有限 | "Adding more backbone layers... offers limited advantages"------说明瓶颈不在骨干容量 |
| LayoutWarp 的变换函数未充分探索 | "the potential for customization through different layout transformation functions remains largely unexplored" |
| 随机布局扰动会牺牲同数据集精度 | 82.93 < Basic 83.32(换来更好的跨数据集泛化) |
| 依赖等距柱状(ERP)投影 | 公式里的 EqProj 是针对 ERP 设计的 |
| 依赖 secondary view 采样质量 | 测试时内部区域来自自己预测的 primary polygon------预测错了,采样也会错 |
| 依赖曼哈顿/几何假设的部分未明说 | 论文未明确声明对斜墙、圆弧墙的处理能力 |
十、在方法谱系中的位置
| 方法 | 输出表示 | decoder | 遮挡 |
|---|---|---|---|
| HorizonNet | 1D 每列边界 | 大(52M) | ❌ 不管 |
| LED²-Net | 1D + 深度监督 | 大(52M) | ❌ 不管 |
| LGT-Net | 1D 深度 + 高度 | 大(13--92M) | ❌ 不管 |
| DOP-Net | 解耦正交平面 | 大(137M) | 靠多视角 |
| Bi-Layout | 双布局(解歧义) | 102M | --- |
| **Seg2Reg(本篇)** | 2D 密度场 → 体渲染 | 0.015M | ✅ secondary views |
Seg2Reg 的独特价值在于它换了一个"根本性问题":
前人问:"怎么让 decoder 更好地从 2D 特征里解出 1D 几何?"(答案:加大 decoder)
Seg2Reg 问:"如果 2D 表示本身就选对了,是不是根本不需要 decoder?"
答案是:对。用密度场 + 体渲染这个"算出来的 decoder",0.015M 就够,而且更准。
和几篇"同类思想"的对照:
| 方法 | 共同哲学 |
|---|---|
| LED²-Net | 把损失挪到深度空间------**换"账本"** |
| Shape-Net | 用 3D 体积 IoU 当损失------**换"账本"** |
| RGCNet | 背景深度用几何算------能算的别学 |
| **Seg2Reg(本篇)** | decoder 用体渲染公式------能算的别学(且是极致版本) |
十一、一句话总结 + 四条可迁移的思路
Seg2Reg 抓住了这个领域一条持续多年的路线分裂:1D 回归派精度高但 decoder 巨大、且只能输出"相机看得见"的部分;2D 分割派好学、能猜遮挡,却要靠一个不可微的后处理把色块变成多边形,精度就在这步丢光。它的解法极其优雅------把 2D 表示从"逐像素分类"改成"地面密度场",然后借用 NeRF 的体渲染:从相机射出光线,在密度场里采样、算不透明度、用 alpha blending 求出"墙有多远"。整个链条完全可微,于是 decoder 从"学出来的 92M 参数"变成了"算出来的数学公式"------0.015M,精度反而更高。遮挡怎么办?在预测出的房间内部再放几个虚拟相机,各渲染一次,拼起来就补全了。结果:MatterportLayout 82.83、ZInd 90.73、Stanford2D3D 87.24,四个基准全面第一,用的还是 HRNet-18 这个小骨干。
四条可以带走的思路:
- 当两个方案各有一半优点时,别急着二选一------先问"能不能换一个表示,让两边优点自动合并"。 回归 vs 分割吵了好几年。Seg2Reg 没有在两者间做取舍,而是把 2D 表示换成密度场 ,于是"好学"(分割性质)和"精确"(回归性质)同时成立 。遇到"A 好但 X 差、B 好但 Y 差"的两难时,往上追一层:是不是表示本身就选错了?
- 能"算"出来的,就别让网络"学"。 decoder 从 92M 降到 0.015M------不是因为网络被压缩了,而是因为那部分工作本来就有闭式解(体渲染公式)。 这和 RGCNet(背景深度用几何算)、PanoTPS(用 TPS 变形而非分割)是同一个哲学的极致版本:在堆参数之前,先列一列"这部分是不是有数学解"。
- 换视角是解决遮挡的最朴素武器。 主视角看不见的墙角 → 在房间内部再放几个虚拟相机各看一次。当你发现"从当前观测点信息根本不存在"时,别逼模型硬猜------换个观测点。(多视角全景融合那篇的图割方法也是这个思路的另一实现。)
- 增强的"怪"与"同分布精度"之间存在交换------要明确你要哪个。 随机布局扰动让同数据集精度从 83.32 掉到 82.93,却让非曼哈顿子集从 76.14 升到 77.02。增强不是越猛越好。 论文把这两种增强的效果分开报告 而不是只报最好的那个------这种诚实的消融,比单纯刷高分更有价值。
核心贡献
- 提出 Seg2Reg 可微渲染范式 : 首次把 2D 分割到 1D 回归的过程做成可微网络层,架起了分割路线和回归路线的桥梁,兼顾了细节精度和端到端效率。
- 兼顾细节与速度 : 既保留了 2D 分割的边缘细节优势,又有 1D 回归的轻量化、快后处理的优点,在复杂场景下精度优势明显。
- 高度兼容现有生态 : 输出格式和 HorizonNet 完全一致,可直接复用其所有后处理、部署工具,工程落地成本低。
📖 名词小抄
| 名词 | 大白话 |
|---|---|
| Seg2Reg | 把 2D 分割表示可微地渲染成 1D 回归 |
| Primary-view layout | 相机原点直接看得见的那部分布局(回归派只能输出这个) |
| Floor-plan density field | 把布局表示成"地面上的密度图"------空地低密度、墙高密度 |
| **Volume rendering(体渲染)** | 借用 NeRF:沿射线采样、算不透明度、alpha blending 求期望距离 |
|
密度 → 不透明度;Δi 是球面距离(全景是球面) |
|
期望"撞墙距离";Ti = 走到第 i 点还没被挡的概率 |
| Secondary views | 在预测房间内部 再采样虚拟相机,各渲染一次 → 补全遮挡区域 |
| LayoutWarp | 在 3D 空间变换 GT 多边形顶点 + 层高,再反向 warping 图像 |
| Random camera height | 随机调整相机高度的增强(三项全提升) |
| Random layout perturbation | 随机扰动墙角(同数据集略降,非曼哈顿泛化更好) |
|
主视角 + secondary + 二值分割,三项损失 |
| 交叉熵监督权重分布 | 用真值距离推出 ,让模型学出的 Tiαi 去匹配它 |
| HRNet-18 / ResNet-34 | advanced / basic setup 的骨干 |
| SWA | 最后 20% epochs 用随机权重平均稳定训练 |
| **1000 epochs(ZInd 200)** | 训练轮数;Adam lr=1e-4 |
| PanoLayoutStudio | 本文开源 codebase:重实现近期方法 + 现代骨干/训练配方 |
| 0.015M vs 13M / 92M | decoder 参数量对比------少约 867~6000 倍 |
from the interior region to render a set of N(secondary) layout polygons."
落在第 k 和第 k+1 个采样点之间 → 把权重按线性插值分配给这两个点,其余点权重为 0。
,让模型学出的 Tiαi 去匹配它