AI Agent 群体在《我的世界》中未能建立文明,深陷官僚主义泥潭
一个由 50 个 AI Agent 组成的群体被要求“建立一个繁荣的文明”,但最终未能成功,反而陷入了程序化的忙碌中——一度花费 11 分钟任命一个 Agent 去对一块小麦使用一次骨粉。这项由 Y Combinator Labs 和 Olam Labs 的研究人员进行的实验,于 2026 年 11 月 1 日由 Tom's Hardware 报道,是最清晰的公开演示之一,表明多 Agent LLM 系统可能失败的原因不是无法行动,而是过度组织行动。
实验实际测试了什么
该研究将大量由 LLM 驱动的 Agent 放入《我的世界》及相关游戏模式中,观察它们如何合作与竞争。其宣称的动机是利用游戏内的协作与冲突作为沙盒,来理解现实世界中的 AI Agent 事件——文章引用了两个对比鲜明的参考案例:最近“消灭了数百个开放数学问题”的千 Agent 群体,以及“极其危险”的 OpenAI–Hugging Face 事件。
该框架建立在现有开源工作的基础上,特别是 Mindcraft 项目和 Mineflayer 中的脚本工具。Agent 群体本身是开源的,因此可以重新运行和修改这些设置。
Civ50 测试:50 个 Agent,三小时,没有文明
在旗舰协作场景中,50 个 Agent 被给予三小时来建立一个繁荣的文明。Tom's Hardware 报道称,该设置似乎使用了 50 个 GPT-6.1 Sol Agent。
殖民地从未繁荣起来。第一天晚上,僵尸杀死了大量 Agent——几乎没有惩罚——并且“许多雄心勃勃的初始任务被放弃了”。从那时起,Agent 转向了谨慎的生存模式和官僚主义。
最常被引用的漂移例子是:“四个 Agent 花了 11 分钟任命一个‘唯一施肥操作员’,负责对一块小麦使用一次骨粉。”研究人员指出,这种模式“感觉类似于与编码 Agent 合作时看到的模式”。
为什么 Agent 群体会陷入官僚主义
《我的世界》的结果与从业者在生产环境多 Agent 编排中报告的情况一致。被赋予协调权限的 Agent 倾向于生成规则、角色和审批结构,其速度超过了生成工作的速度。
“这正是我在使用多个编排者和工作者开发和改进平台时的经历。AI 倾向于创建大量规则和严格性,这导致了很多遵循问题。” — HN 评论者 tom910
“你可以通过尝试使用类似 paperclip 的工具,并让多个需要相互工作和协调的 Agent 参与其中来看到这一点。它很快就会变成一团官僚主义的混乱,让每个 Agent(和你)都感到困惑,并且只是消耗 token 而不产生任何有用的输出。” — HN 评论者 farhadhf
一位评论者将这种现象视为一种已知的组织病理,而非 AI 特有的缺陷,引用了“行政素”的概念——这是一种讽刺性元素,其质量随着研究时间的增加而增加,而生产力却下降。另一位评论者直截了当地总结道:“我们已经实现了管理咨询的自动化。”
GPT 与 Claude:攻击性、调试以及蜂群与领导者
研究人员还运行了对抗性场景,这些场景产生了比文明测试更明显的行为差异。
床战:10 个 GPT-6.1 Sol Agent 对战 10 个 Claude Opus 5.5 Agent
GPT Agent 产生了“更具攻击性和精心的策略”,而 Claude Agent 则更倾向于防守。更具诊断性的差异出现在一个工具错误禁用了方块破坏时:GPT Agent 诊断了故障并相互分享了解决方法,而几个 Claude Agent 则得出结论,认为破坏方块根本不可能。
Mindustry:GPT 在七场比赛中以 6-1 获胜
在 Mindustry(一种轻量级 RTS/塔防模式)中,GPT Agent 在七场比赛中赢了六场,击败了 Claude Agent。研究人员将 GPT 团队的行为描述为像蜂群一样,而 Claude 团队则采用单一领导者和民主式决策过程。在这种环境下,蜂群结构产生了更一致的获胜策略。
方法论上的反对意见:衡量的是什么?
讨论中最强烈的批评不是 Agent 失败了,而是实验的结论难以推广。
“我觉得这项研究很奇怪,因为我不知道该称之为什么研究领域。这不是计算机科学。这几乎像是行为心理学,但针对的是 AI Agent 而不是人类或动物。话虽如此,我觉得这些研究缺乏很多严谨性……使用不同的提示词,结果会完全不同吗?我们能将这些结果推广到其他模型吗?” — HN 评论者 openasocket
一个相关的批评针对的是框架而非模型。《我的世界》是实时运行的,因此 Agent 必须等待并以缓慢的节奏处理状态,这不太适合协调:
“我们知道,在更像 Unix 虚拟机中的 bash 环境中尝试编程任务时,Agent 的合作要好得多。由此得出结论,认为 Agent 普遍合作不佳并陷入官僚主义,这是一种过度推断。” — HN 评论者 gjskngnf
其他人指出,单 Agent 在《我的世界》中的能力本身就是一个已基本解决的基准,这引发了一个问题:失败是关于协调,还是关于所用 Agent 的基本游戏技能。
反驳观点:在构建群体之前先修复单个 Agent
一份详细的从业者报告认为,群体结果可能是单个 Agent 能力较弱的下游效应。一位评论者使用 Claude 运行 RuneScape rs-sdk 时发现,一个单独的 Agent 最初在无意义的行动上浪费了大量时间——这种行为被明确比作施肥操作员的轶事——但在数小时的人工纠正和指导后,它变得完全自主。
“经过几个小时的纠正和指导 Claude(构建模块化、可重用的有用代码片段,而不是一次性的驾驶脚本,记录你的学习以供未来的 Agent 使用,明确指导如何更优地玩游戏),它现在可以完全自主地玩游戏了……我知道如果我试图在 2004scape 中创建一个群体,而 Agent 本身并不擅长玩游戏,那肯定会惨败。所以,我想知道他们实验中的 Agent 在单独玩《我的世界》时有多好。” — HN 评论者 _vertigo
文明论证:冒险可能是缺失的要素
讨论中反复出现的主题是,失败模式不是非理性,而是过度理性。一个评估每个行动的负面风险并因此永远不会放弃安全位置去追求巨大回报的群体,可能永远不会冒险——而建立文明可能恰恰需要这种无根据的赌博。
“没有冒险,没有非理性的火花,没有神经多样性的‘因为它在那里’的冲动,这些最初让我们走出洞穴。也许一个完全理性的智能不可能建立文明,因为分析瘫痪会在所有决策中呈指数级主导。” — HN 评论者 czep
同一位评论者提出了另一种技术框架:不是具有模糊目标的自主殖民地,而是由知道哪些任务真正有价值的人类指挥的 50 个能干 Agent——建造一个圆石生成器、一个铁农场、确保一个经验修补图书管理员、找到要塞、掠夺末地、建立甘蔗农场和火药供应以用于火箭,然后转向袭击农场和建造围墙。
一个补充性的思想实验问道,如果一个模型的知识中大部分人类制度过程被移除,会发生什么——这意味着官僚主义可能是从人类组织文本中导入的学习行为,而不是 LLM 协调的内在属性。
《我的世界》群体研究展示了什么,又没有展示什么
这项实验最好被解读为一项定性的实地观察,而不是一个基准。它表明,当前的前沿 Agent 在给定模糊的高层目标和协调自由时,会产生治理而不是进展,并且不同的模型家族表现出可测量的不同协调风格——蜂群式与领导者加投票式——在竞争环境中具有不同的胜率。
它并没有表明多 Agent 系统普遍失败。提示词是最小化的,框架施加了实时延迟,并且 Agent 在该环境中的基线单独能力在报道中并未确立。研究人员自己以开放性问题结尾,包括不同模型混合和不同群体规模如何改变结果。
对于今天构建多 Agent 系统的团队来说,实际的要点更窄且更具可操作性:协调开销是一个真实的成本,Agent 会乐意用 token 来支付,而解决方案通常是更少的 Agent、更严格的任务规范,以及在扩展之前验证单个 Agent 的能力。