Calix-L/DanKS
RL‑Empowered Small‑Scale Competitive Guandan Agent
解决的问题
DanKS 是一个专为复杂合作型卡牌游戏《官丹》设计的 AI 代理,该游戏以隐藏信息和长期战略规划为特征。它解决了不仅做出局部最优决策,还能保留未来选择空间并协同队友赢得整局游戏的挑战。
工作原理
该系统采用多阶段流水线进行决策:
- 状态编码:对当前手牌、公开历史、合法动作和团队上下文进行编码。
- 结构感知检索:不评估所有可能的动作,而是通过分析残余手牌中剩余的组合,识别出一组有意义的候选动作。
- 策略选择:基于状态和候选动作的 Actor-Critic 网络对这些候选动作进行排序,选择最佳动作。
- 强化学习:使用近端策略优化(PPO)和广义优势估计(GAE)训练代理,将当前决策与长期结果联系起来。
后续版本(V3Pro)增加了资产保护、等效动作规则以及在剩余牌数为 16 张或更少时的验证终局搜索等推理优化功能。
适用人群
- 研究合作型游戏与隐藏信息的 AI 研究人员
- 对实现 PPO 和 Actor-Critic 架构用于游戏 AI 感兴趣的开发者
- 寻找开源 Web 服务框架以托管卡牌游戏的游戏开发者
主要亮点
- 进化式 AI 世代:从简单的 NumPy 选择器(V1)演进到使用 PPO 训练的记忆感知神经网络(V3)。
- 集成 Web 服务:包含两代开源 Web 游戏服务(KSPlay),可用于在浏览器环境中部署 AI。
- 人类数据整合:提供 KSCB 官丹数据集访问权限,包含近 900 场完整对局,可用于研究人类决策行为。
- 终局优化:V3Pro 实现了针对游戏末期的专用搜索与优化规则。
相关
- Dispatch
- Dispatch
- 项目
- Dispatch