3D语义地图(3D Semantic Mapping)研究现状

3D语义地图(3D Semantic Mapping)是近年来机器人感知与理解领域的研究热点,旨在构建不仅包含空间几何信息,还融入语义属性的三维环境模型。这类地图使机器人能够理解环境中的物体类别、功能和相互关系,从而实现更高层次的智能行为,如语义导航、任务规划和人机交互等。

趋势

1 语义图谱与语言模型的融合

传统的语义地图多依赖于几何信息与语义标签的简单融合,近年来,研究者开始探索将知识图谱和语言模型(如GPT、BERT)引入语义地图构建中,实现知识的在线整合和推理能力的增强。
2 多模态与多维度语义地图
随着多模态大语言模型(VLMs)的发展,研究者提出了多维度语义地图(Diverse Semantic Map,DSM)的概念,旨在捕捉环境中物体的外观、物理属性和功能等隐式语义信息,以支持机器人在复杂任务中的视觉定位和理解能力。
3 实时与高精度构建方法
针对室内环境,研究者提出了基于RGB-D图像的高精度3D语义地图构建方法,结合了语义分割、条件随机场(CRF)优化和增量式贝叶斯更新策略,实现了在动态环境中的实时语义地图构建。

核心方法与技术

1 基于深度学习的像素-体素网络(Pixel-Voxel Network)

结合了RGB图像和点云数据,利用PixelNet获取全局上下文信息,使用VoxelNet保留准确的局部形状信息,从而实现高精度的3D语义映射。

2 ElasticFusion与卷积神经网络(CNN)结合

ElasticFusion是一种稠密SLAM系统,通过与CNN结合,可以在室内环境中实现长时间的稠密对应关系,从而将CNN的语义预测融合到地图中。

3 3D高斯点云重建(3D Gaussian Splatting)

这种方法通过提取多级图像金字塔进行高斯点云训练,确保RGB、深度和语义重建的一致性,从而实现高质量的场景重建。

4 基于ORB-SLAM3的实例级语义映射

该方法利用ORB-SLAM3估计图像帧的位姿,提取关键帧,并构建对象级实例地图,以增强机器人对环境的理解。

5 基于深度学习的动态环境语义SLAM

在动态环境中,该方法通过深度学习技术实现对已知和未知动态物体的检测,从而提高SLAM系统在复杂场景中的鲁棒性。

挑战

动态环境中的语义映射:如何在动态环境中实现高精度的语义地图构建,仍是一个挑战。
实时性能优化:在保证高精度的同时,如何提高系统的实时性能,以满足实际应用需求。
多模态数据融合:如何有效地融合RGB图像、深度图像和语义信息,以构建更全面的3D语义地图。
大规模场景的语义映射:在大规模复杂场景中,如何保持语义地图的精度和一致性,是一个值得研究的问题。

论文:

SemanticFusion: Dense 3D Semantic Mapping with Convolutional Neural Networks

An Improved High Precision 3D Semantic Mapping of Indoor Scenes from RGB-D Images

Dense RGB-D Semantic Mapping with Pixel-Voxel Neural Network

相关推荐
程序猿阿伟1 天前
《3D山地场景渲染进阶:GPU驱动架构下细节与性能平衡的6大技术实践》
3d·架构
2401_863801461 天前
Cesium格式模型制作,3dtiles制作B3DM格式文件制作。数字孪生模型制作
3d
fanstering2 天前
腾讯混元P3-SAM: Native 3D Part Segmentation
笔记·学习·3d·点云
渊鱼L2 天前
CAD多面体密堆积_圆柱体试件3D V1.1版本更新
3d
Dave.B2 天前
vtkTubeFilter:让2D线条变3D管子,搞定流场可视化与3D建模线条加粗
3d·vtk
Dave.B2 天前
【VTK实战】vtkDepthImageToPointCloud:从2D深度图到3D点云,手把手教你落地3D扫描/AR场景
算法·计算机视觉·3d·ar·vtk
IT古董2 天前
【第五章:计算机视觉-计算机视觉在工业制造领域中的应用】1.工业缺陷分割-(1)工业品缺陷风格基础知识:割任务定义、数据集介绍
计算机视觉·3d·自动驾驶
wenjie学长2 天前
[3dmax自研插件]——3ds Max 智能材质检查器
3d·3dmax插件·材质·模型材质贴图检查·拖拽使用
xhload3d3 天前
智慧钢厂高炉冶炼仿真分析 | 图扑数字孪生
3d·智慧城市·html5·webgl·数字孪生·可视化·热力图·智慧工厂·工业互联网·工业组态·高炉炼铁·数字工厂·高炉炉体·智慧高炉·高炉
lrh30253 天前
Custom SRP 12 - HDR
3d·unity·srp·render pipeline