OpenAI Five 基准结果
OpenAI Five 在与 99.95 百分位 Dota 玩家组成的团队(包括四位职业选手:Blitz、Cap、Fogged、Merlini 和 MoonMeander)的三局两胜系列赛中获胜。该结果展示了朝着能够管理现实环境中固有的高度复杂性和不确定性的 AI 系统迈出的重要一步。
比赛结果与表现
OpenAI Five 根据不同的选人方式和对手技能水平,在三种不同的比赛类型中表现出不同的成功程度:
高水平人类竞争
在与 99.95 百分位人类团队的三局两胜系列赛中,OpenAI Five 赢得了前两局。第一局在 21 分钟 37 秒时获胜,第二局在 24 分钟 53 秒时获胜。第三局在人群为 AI 选择了对抗性的英雄阵容后,由人类团队获胜,OpenAI Five 在 35 分钟 47 秒时失利。
观众志愿者比赛
在与观众志愿者团队的首次公开比赛中,OpenAI Five 在前 14 分钟内获胜,显著快于通常平衡对局的 45 分钟时长。
对抗性选人
在对阵高水平团队的第三局中,观众为 OpenAI Five 选择了一个 “Looney‑Tunes” 阵容,包括 Sven、Axe、Slark、Riki 和 Queen of Pain。这一对抗性选择导致 OpenAI Five 在比赛开始前预测自己的胜率仅为 2.9%。
技术实现与选人
OpenAI Five 使用具有胜率输出的神经网络来评估游戏状态和选人匹配。
自动选人
为了实现系统的英雄选人能力,OpenAI Five 使用树搜索在 1100 万种可能的团队匹配中寻找最优选人。该过程为每种匹配创建一个虚拟帧,并利用网络在首帧上的胜率预测来评估潜在结果。
模型内省
AI 的内部预测常常与人类感知不同。例如,在第一局中,OpenAI Five 预测胜率为 95%,尽管人类观察者认为双方势均力敌。第二局中,它预测的胜率为 76.2%。
训练方法与算力
OpenAI Five 采用在多个系统版本之间持续参数初始化的方式进行训练,而不是对每个版本从头开始训练。
参数手术
OpenAI 开发了 “手术” 工具,将旧参数映射到新网络结构。这使他们能够细化特定行为,例如将用于移动和放眼的单一动作头拆分为两个独立的克隆,以防止 AI 在移动时放下视野。
计算资源
训练各种 Dota 系统所使用的估计算力如下:
- 1v1 模型:8 petaflop/s-days
- 6 月 6 日模型:11 petaflop/s-days
- 8 月 5 日模型:35 petaflop/s-days
模型规划与预测
OpenAI 通过训练输出预测未来游戏状态,提供了对模型规划能力的洞察。这包括预测英雄(例如 Sven)六秒后的位置,以及预测塔数量、最后击杀等其他量化指标。
Sources
- OriginalOpenAI Five Benchmark: Results