WorldClaw:在大规模下实现智能体驱动的3D开放世界生成

WorldClaw 将单一文本提示转化为可探索、可编辑的3D世界

WorldClaw 是一个完全智能体驱动的粗粒度到细粒度框架,能够将开放式描述(例如“一个中世纪风格的村庄,配有积雪的山脉、平原、水域和沙漠”)转化为大规模3D场景,其中地形和每个物体都是独立、可编辑的实例。


核心贡献:智能体规划在添加局部细节的同时保持全局一致性

  • 意图分析 仅提取提示中明确陈述的约束条件,避免幻觉。
  • 场景规划 解决歧义并生成结构化规范 $P = (R, C_{terrain}, C_{object})$,列出区域、地形约束和物体约束。
  • 全局地形生成 基于语义布局图、可复用的资产原型和程序化生成的材质,构建区域感知的高度场。多频噪声和地貌操作符在不规则边界上混合地貌,同时保留语义一致性。
  • 区域物体生成 选择与地形兼容的区域,渲染相机视图,创建地形条件化的构图图像,分割实例,并重建带纹理的网格。通过向地形进行射线投射恢复放置变换,再由优化智能体迭代修正姿态、缩放和接触关系。
  • 渲染引导的优化循环 在每次编辑后运行,使智能体能直接在图像中检测失败,而非在场景图中检测。

结果是一个世界,其中每个网格都保持为独立、可复用的资产,随时可用于下游编辑、动画或游戏引擎导入。


架构概览

阶段 输入 输出 关键智能体
意图分析与规划 文本提示 $q$ 结构化规范 $P$ LLM 驱动的意图智能体
全局地形生成 语义布局 $I_{layout}$,资产原型 $O_{asset}$,材质集 $M_{terrain}$ 高度场 $H(x)$ 和地形网格 地形规划 + 渲染-检查循环
区域物体生成 区域特定构图 $I_{comp}^r$ 可编辑网格 $M_i$ 及其放置变换 $T_{place}^i$ 物体智能体 + 地形接触智能体
优化 渲染后的场景 更新后的几何、材质和位置 渲染引导智能体

演示展示的内容

四个世界展示了该流程的广泛适用性:

  1. 雪线村庄 – 多生物群落地形,包含山脉、平原、水域和沙漠区域。
  2. 峡谷聚落 – 陡峭悬崖与狭窄山谷。
  3. 热带岛屿 – 茂密植被与海岸线。
  4. 极地前哨站 – 冰原与冻结湖泊。 在每种情况下,地形均为连续的高度场,而每个物体(房屋、岩石、树木、动物)都是独立的带纹理网格,可移动、编辑或替换。

社区在 Hacker News 上的反响

avaer: 该系统并非单一模型,而是一组协调 LLM、图像模型和3D工具的 Python 脚本。其创新之处在于使用图像模型进行构图,再通过 SAM-3D 等方法提取3D物体。

cautiouscat: 程序化生成的世界缺乏《上古卷轴》或《赛博朋克》这类作品中手工打造的叙事感。WorldClaw 对快速原型设计很有用,尤其适用于大规模生产的抽卡类游戏,但可能无法满足追求深度手工打造开放世界的玩家需求。

cobertos: 一些生成的物体摆放显得随意(例如建筑物建在水上),暗示示例可能经过精心挑选,且该系统在无手动调优的情况下也可能产生低质量结果。

2001zhaozhao: 该技术模糊了人类与AI创作之间的界限,引发了关于版权归属以及最终游戏世界背后人类投入程度的讨论。

m00dy 及其他: 源代码尚未公开,限制了可复现性和社区采纳。

这些评论突显了该技术在新颖性与现实感、艺术意图和开放性方面的实际关切。


局限性与待解决挑战

  • 资产层级与参数化控制 – 当前生成模型不输出显式的部件层级或关节结构,限制了下游动画与物理模拟。
  • 引擎集成 – WorldClaw 输出兼容 Blender 的资产,但大规模游戏需要运行时程序化生成、导航网格和物理系统,这些尚未解决。
  • 质量一致性 – 某些区域存在物体错位或卡通化地形,表明需要更强的空间推理能力或生成后验证机制。
  • 可复现性 – 由于脚本未公开,社区无法验证结果,也无法与其他 PCG 流水线进行基准对比。

作者提出的研究未来方向

  1. 原生代码驱动的3D建模 – 将当前 Blender 节点图生成扩展至物体层面,生成可编辑的参数化模型、材质逻辑和运动约束。
  2. 生产级引擎流水线 – 将 WorldClaw 的规划阶段与引擎端工具(如 Unreal 或 Unity 的程序化植被、NavMesh 生成)结合,交付可直接游玩的世界。
  3. 风格多样化 – 探索超越默认“MMO卡通”风格的风格迁移,目标是实现写实风格或特定类型美学,如《巫师》风格的中世纪或赛博朋克风格建筑。

为何 WorldClaw 现在如此重要

WorldClaw 证明,由专用智能体组成的层级结构——LLM 负责意图理解,图像模型负责构图,渲染引导循环负责优化——可以协同解决开放世界生成的三大经典难题:全局空间一致性、丰富的局部内容以及显式可编辑的资产。如果该流程能够开源并集成到实时引擎中,它将有望为独立工作室 democratize(普及)AAA级世界创建能力,并加速大型发行商的内容生成进程。


参考文献

  • Guo, C., Li, J., Li, Y., & Huang, Z. (2026). WorldClaw: Agentic 3D Open‑World Generation at Scale. arXiv preprint arXiv:2608.05248. https://arxiv.org/abs/2608.05248

Sources

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • Dispatch