gaussian grouping训练自定义数据集

gaussian grouping是一个语义分割3DGS的方法。

它在每个3DGS点云中加入一个叫Identity Encoding的特征向量,

在渲染时把特征向量渲染到2D图像,每个像素位置为一个特征向量,使用额外的线性分类层对每个2D位置的特征向量分类。得到mask。

这个mask和gt mask计算2D损失,同时3D正则化损失利用3D空间一致性,强制执行Identity Encoding在特征距离上接近其最近的3D高斯点。

训练Identity Encoding和线性分类层。

如果训练时有比较完美的mask, 渲染的效果也是很好的。

下面以mip360/kitchen为例训练gaussian grouping. 其他数据集类似。

假设初步只有一些拍摄的图像。放在input文件夹。

用3DGS的convert.py文件处理mip360/kitchen之后,

可得到images和相关下采样图像文件夹,sparse文件夹。

kitchen数据集自带标注好的mask, 如果没有,需要自己标注mask(可以用prepare_pseudo_label.sh),

mask放在kitchen/object_mask文件夹下,格式为png.

train.json设置:

假设mask里面只有2类物体,即前景和背景,前景的像素值取的是255, 背景是0,

那么,在gaussian-grouping/config/gaussian_dataset/train.json中,

"num_classes"要写256.

你会纳闷,为什么只有2类却要写256类?

因为你的前景像素值取的是255,从数字上看,它是第255个类别,想输出类别255,分类器中就要有>=255个类别。如果前景像素值取1,那么"num_classes"可以写2。

类别写小了会报错cuda非法内存访问。

当cuda内存有限时,可以设置较小的"reg3d_max_points"和"reg3d_sample_size"。

train.py

数据集图片过大时可能需要resize,用到images_2, images_4文件夹,

而假设你标注的mask只有一个尺寸。

那么训练的时候就需要把mask调整到和渲染mask一个尺寸。

python 复制代码
logits = classifier(objects)
# Object Loss
if len(viewpoint_cam.objects.shape) > 2:
    gt_obj = viewpoint_cam.objects[:,:,0]  #mask是单通道时不需要这步
    gt_obj_reshaped = gt_obj.unsqueeze(0).unsqueeze(0)
    gt_obj_resized = F.interpolate(gt_obj_reshaped,
                                   size=(logits.shape[1], logits.shape[2]),
                                   mode='nearest')
    gt_obj_resized = gt_obj_resized.squeeze(0).squeeze(0)
    gt_obj = gt_obj_resized.cuda().long()
else:
    gt_obj = viewpoint_cam.objects.cuda().long()

训练很简单,

bash 复制代码
train.py -s data/mip360/kitchen -r 2  -m output/kitchen --config_file config/gaussian_dataset/train.json

渲染时,num_classes要和前面一致:

bash 复制代码
render.py -m output/kitchen --num_classes 256

会在output/kitchen中得到mask等结果。

相关推荐
FlagOS智算系统软件栈40 分钟前
与创新者同频!与FlagOS共赴开源之约
人工智能·ai·开源
加油吧zkf2 小时前
循环神经网络 RNN:从时间序列到自然语言的秘密武器
人工智能·rnn·自然语言处理
START_GAME2 小时前
深度学习Diffusers:用 DiffusionPipeline 实现图像生成
开发语言·python·深度学习
weixin_582985183 小时前
OpenCV cv::Mat.type() 以及类型数据转换
c++·opencv·计算机视觉
koo3644 小时前
李宏毅机器学习笔记30
人工智能·笔记·机器学习
长桥夜波4 小时前
机器学习日报02
人工智能·机器学习·neo4j
Elastic 中国社区官方博客4 小时前
介绍 Elastic 的 Agent Builder - 9.2
大数据·运维·人工智能·elasticsearch·搜索引擎·ai·全文检索
拓端研究室4 小时前
专题:2025年制造业数智化发展白皮书:数字化转型与智能制造|附130+份报告PDF、数据、绘图模板汇总下载
人工智能
就不爱吃大米饭4 小时前
ChatGPT官方AI浏览器正式推出:ChatGPT Atlas浏览器功能及操作全解!
人工智能·chatgpt
牛客企业服务5 小时前
企业招聘新趋势:「AI面试」如何破解在线作弊难题?
人工智能·面试·职场和发展·招聘·ai招聘