LiteReality/LiteReality

[NeurIPS 2025] LiteReality: Graphics-Ready 3D Scene Reconstruction from RGB-D Scans

解决的问题

LiteReality 将通过 LiDAR 配备的 iPhone 等设备捕获的原始 RGB-D 扫描数据,转换为高质量、可直接用于图形渲染的 3D 场景。它弥合了现实世界中杂乱的扫描数据与干净、可渲染的 3D 模型之间的差距,通过物理基础渲染(PBR)材质重建场景。

工作原理

该系统通过多阶段流水线处理扫描数据:

  1. 物体重建:识别并重建扫描场景中的各个物体。
  2. 材质贴图:为这些物体分配逼真的 PBR 材质,利用材质数据库和多模态模型(包括 CLIP、DinoV2、Qwen-VL 和 SAM)确保视觉准确性。
  3. 场景整合:最终输出整合为完整的 3D 场景,以 GLB 或原生 Blender 文件格式导出,适用于专业渲染。

适用人群

本工具专为计算机视觉、图形学和机器人领域的研究人员与开发者设计,适用于需要将真实世界室内环境转换为可编辑、高保真的 3D 数字孪生的用户。

核心亮点

  • 图形就绪输出:生成包含完整 PBR 材质的 GLTF/GLB 和 Blender 文件。
  • 多模态集成:利用先进的视觉-语言模型进行材质分配。
  • 移动端兼容:支持通过 Apple RoomPlan 和 3D Scanner App 捕获的扫描数据。
  • 端到端流程:从原始 RGB-D 输入到最终渲染可视化,全程自动化处理。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目