基于GS(Gaussian Splatting)的机器人Sim2Real2Sim仿真平台有哪些

目前基于 GS(Gaussian Splatting,高斯点渲染/重建) 技术的机器人 Sim2Real2Sim(或 Real-Sim-Real / Real2Sim2Real)仿真平台 正在成为一个新的研究热点,主要利用高保真重建和渲染 来缩小仿真与现实之间的视觉与感知差距,从而提高策略迁移效果。以下是已公开的主要平台/框架:


🔹 1) RoboGSim --- Real2Sim2Real 高斯点仿真器

  • 一个完整的 闭环机器人仿真平台,专注于 Real → Sim → Real 数据与策略循环。

  • 核心通过 3D Gaussian Splatting 重建场景,并与传统仿真引擎(例如 Nvidia Isaac Sim)结合,实现高保真视觉渲染与物理一致性评估。

  • 包含:

    • Gaussian Reconstructor(基于 GS 重建静态场景)
    • Digital Twins Builder(现实世界资产数字孪生构建与布局对齐)
    • Scene Composer(多视角场景/对象合成)
    • Interactive Engine(闭环策略仿真与评估)
  • 用于生成训练数据、策略评估和 Sim2Real 迁移测试。(技术栈1)

📌 特点:强调 高保真渲染 + 低成本数据合成 + 策略闭环评估。

👉 适合需要 大规模复现真实场景视觉特性 的仿真学习/策略迁移任务。


🔹 2) RoboSimGS --- 基于 Gaussian Splatting 的 Real2Sim2Real 框架

  • 一个 仿真场景自动构建与策略训练框架,融合了:

    • GS 进行场景的 高保真渲染与逼真视觉表现
    • 传统物理对象 mesh + 刚体模型 进行准确的物理交互
    • (可选)使用 多模态大模型(MLLM) 推断物体动力学 & 运动结构,实现更物理合理的仿真对象生成
  • 可用于 训练策略并进行 sim→real 迁移验证。(robosimgs.github.io2)

📌 特点:强调物理系统与高保真视觉联合构建,更适合机械交互任务。


🔹 3) SplatSim --- 高斯渲染驱动的零样本 Sim2Real 平台

  • 针对 基于 RGB 视觉的操作策略 提出的一套仿真系统。
  • 主要思想是用 高斯点渲染替代传统 mesh 渲染 来显著提高视觉质量,从而减少域差,提升 Sim2Real 迁移性能。
  • 可用于 策略训练 + 直接部署到真实机器人(zero-shot)。(splatsim.github.io3)

📌 特点:重点在 渲染质量与视觉域差 而非完整仿真闭环。


🔹 4) GSWorld --- Photo-Realistic 仿真套件(研究方向)

  • 近期提出的一个 闭环机器人仿真系统(结合 Gaussian Splatting 与物理引擎),用于:

    • 零样本 Sim2Real 控制策略
    • 自动高质量 DAgger 数据采集
    • 可重复评估真实策略
    • 通过虚拟遥操作生成数据
  • 实验包含不同机器人平台及丰富交互任务。(arXiv4)

📌 尚处于研究/预发表状态,但展示了未来 Sim2Real2Sim 框架的可能方向。


🧠 总结对比

平台 / 框架 使用 Gaussian Splatting 主要侧重点 是否闭环 ⇄
RoboGSim ✓ 高保真渲染 + 真实/仿真闭环 是
RoboSimGS ✓ 自动化场景重建 + 物理交互 部分
SplatSim ✓ 高质量视觉渲染 + Sim2Real 策略 是(视觉迁移)
GSWorld ✓ Photo-Realistic + 仿真策略评估 研究阶段

相关推荐
数智工坊22 分钟前
视觉SLAM第5讲|相机成像模型:针孔投影、畸变修正与深度感知全拆解
人工智能·深度学习·数码相机·机器人
星创易联1 小时前
无人驾驶通信方案解析:Robotaxi、Robobus与无人矿卡如何选择车载网关?
车载系统·机器人·自动驾驶·信息与通信·无人矿卡
m0_719640871 小时前
机器人开源遥操作设备技术特性与高校科研场景适配研究
经验分享·机器人·开源
音视频牛哥2 小时前
人形机器人的未来发展趋势是什么?从VLA、实时视觉到规模化运营
机器学习·机器人·音视频开发
做个有深度的老李2 小时前
协作机器人选型方法论|基于企业组织形态与生产模式的选型框架
大数据·机器人·自动化·柔性机器人
田里的水稻4 小时前
IL_策略训练---CNN/1D神经网络种类三
人工智能·神经网络·机器学习·cnn·机器人·迁移学习
数智工坊5 小时前
视觉SLAM第13讲|工程落地:双目视觉里程计系统架构设计与性能优化
人工智能·深度学习·线性代数·性能优化·矩阵·系统架构·机器人
2601_9520477913 小时前
单一策略深度教程:用轻易云把集成任务的报错实时推送到钉钉机器人
java·机器人·钉钉
Jason_zhao_MR15 小时前
Linux与实时控制如何兼得
linux·嵌入式硬件·机器人·工业控制
田里的水稻1 天前
EI_策略训练--机器人策略训练的神经网络种类一
人工智能·神经网络·机器人