解读CVPR2024-3DGS论文分享|DNGaussian: Optimizing Sparse-View 3D Gaussian Radiance Fields with .....

论文标题

DNGaussian: Optimizing Sparse-View 3D Gaussian Radiance Fields with Global-Local Depth Normalization

DNGaussian:使用全局-局部深度归一化优化稀疏视图3D高斯辐射场

论文链接:

https://arxiv.org/abs/2403.06912

论文作者

Jiahe Li, Jiawei Zhang, Xiao Bai, Jin Zheng, Xin Ning, Jun Zhou, Lin Gu

内容简介

这篇论文介绍了DNGaussian,这是一个基于3D高斯辐射场的深度正则化框架,用于实现实时、高质量的少样本新视角合成,同时降低成本。

DNGaussian通过深度约束来解决输入视图减少时场景几何退化的问题,并提出了硬深度和软深度正则化以及全局-局部深度归一化技术,以在粗略的单目深度监督下恢复准确的场景几何,同时保持精细的颜色表现。通过在LLFF、DTU和Blender数据集上的广泛实验,DNGaussian在显著降低内存成本、减少训练时间25倍、渲染速度提升3000倍以上的同时,超越了现有最先进方法,实现了可比或更好的结果。

方法

1.3D Gaussian Splatting:

该方法使用一组3D高斯原语来表示场景,并利用可微分的splatting进行渲染。尽管在输入视图较少时仍能部分保留重建一些清晰和详细的局部特征的能力,但视图约束的减少会导致场景几何的大部分错误学习,从而在新视角合成中失败。

2.深度正则化:

论文探索了从预训练的单目深度估计器中提取深度信息,以纠正高斯场中错误学习的几何形状,并提出了深度归一化正则化的稀疏视图3D高斯辐射场(DNGaussian)。

3.硬深度和软深度正则化:

为了在不牺牲细粒度颜色性能的情况下,通过鼓励高斯原语之间的移动来实现粗略深度正则化的空间重塑。

4.全局-局部深度归一化:

引入了全局-局部深度归一化到深度损失函数中,鼓励以尺度不变的方式学习小的局部深度变化,从而改善3D高斯辐射场的详细几何重塑过程。

5.神经颜色渲染器:

为了解决在稀疏视图情况下容易过拟合的问题,论文提出了一个网格编码器和MLP作为神经颜色渲染器来预测每个原色的颜色。

6.训练细节:

论文详细描述了损失函数的构成,包括颜色重建损失、硬深度正则化和软深度正则化,以及如何通过全局和局部深度归一化来计算这些损失。

结论

DNGaussian框架通过深度正则化将3DGS引入到少样本新视角合成任务中,实现了在显著降低训练成本和实时渲染速度的同时,合成具有竞争性的高质量新视角视图。论文还讨论了该方法的局限性和未来的工作方向。 复制再试一次分享

CVPR2024论文合集链接:

https://arxiv.org/abs/2403.06912

希望这些论文能帮到你!如果觉得有用,记得点赞关注哦~ 后续还会更新更多论文合集!!

相关推荐
AI服务老曹2 分钟前
满足不同场景的需求的智慧物流开源了
人工智能·开源·自动化·能源
程序猿阿伟5 分钟前
《开源与合作:驱动鸿蒙Next系统中人工智能技术创新发展的双引擎》
人工智能·开源·harmonyos
earthzhang202115 分钟前
《深入浅出HTTPS》读书笔记(29):TLS/SSL协议
开发语言·网络协议·算法·https·ssl
pchmi18 分钟前
C# OpenCV机器视觉:常用滤波算法
人工智能·opencv·c#·机器视觉·中值滤波
茫茫人海一粒沙30 分钟前
稀疏检索、密集检索与混合检索:概念、技术与应用
人工智能
Victoria.a33 分钟前
二叉树和堆
数据结构·算法
m0_dawn36 分钟前
算法(蓝桥杯)贪心算法7——过河的最短时间问题解析
开发语言·python·算法·职场和发展·蓝桥杯
B站计算机毕业设计超人43 分钟前
计算机毕业设计Python+卷积神经网络租房推荐系统 租房大屏可视化 租房爬虫 hadoop spark 58同城租房爬虫 房源推荐系统
大数据·爬虫·python·机器学习·课程设计·数据可视化·推荐算法
代数狂人44 分钟前
NPC与AI深度融合结合雷鸟X3Pro AR智能眼镜:引领游戏行业沉浸式与增强现实新纪元的畅想
人工智能·游戏·ar
卧式纯绿1 小时前
自动驾驶3D目标检测综述(八)
人工智能·目标检测·3d·目标跟踪·cnn·自动驾驶