Calix-L/DanKS

RL‑Empowered Small‑Scale Competitive Guandan Agent

解决的问题

DanKS 是一个专为复杂合作型卡牌游戏《官丹》设计的 AI 代理,该游戏以隐藏信息和长期战略规划为特征。它解决了不仅做出局部最优决策,还能保留未来选择空间并协同队友赢得整局游戏的挑战。

工作原理

该系统采用多阶段流水线进行决策:

  1. 状态编码:对当前手牌、公开历史、合法动作和团队上下文进行编码。
  2. 结构感知检索:不评估所有可能的动作,而是通过分析残余手牌中剩余的组合,识别出一组有意义的候选动作。
  3. 策略选择:基于状态和候选动作的 Actor-Critic 网络对这些候选动作进行排序,选择最佳动作。
  4. 强化学习:使用近端策略优化(PPO)和广义优势估计(GAE)训练代理,将当前决策与长期结果联系起来。

后续版本(V3Pro)增加了资产保护、等效动作规则以及在剩余牌数为 16 张或更少时的验证终局搜索等推理优化功能。

适用人群

  • 研究合作型游戏与隐藏信息的 AI 研究人员
  • 对实现 PPO 和 Actor-Critic 架构用于游戏 AI 感兴趣的开发者
  • 寻找开源 Web 服务框架以托管卡牌游戏的游戏开发者

主要亮点

  • 进化式 AI 世代:从简单的 NumPy 选择器(V1)演进到使用 PPO 训练的记忆感知神经网络(V3)。
  • 集成 Web 服务:包含两代开源 Web 游戏服务(KSPlay),可用于在浏览器环境中部署 AI。
  • 人类数据整合:提供 KSCB 官丹数据集访问权限,包含近 900 场完整对局,可用于研究人类决策行为。
  • 终局优化:V3Pro 实现了针对游戏末期的专用搜索与优化规则。

相关