Calix-L/DanKS

RL‑Empowered Small‑Scale Competitive Guandan Agent

何を解決するか

DanKS は、隠れた情報と長期戦略計画が特徴の複雑なチーム戦カードゲーム『官丹』をプレイするためのAIエージェントです。局所的に最適な手を打つだけでなく、将来の選択肢を維持し、チームメートと連携して手を勝利させるという課題を解決します。

動作方法

このシステムは、意思決定を行うためのマルチステージパイプラインを使用しています:

  1. 状態エンコーディング:現在の手札、公開履歴、合法手、チーム状況をエンコードします。
  2. 構造に配慮したリトリーブ:すべての可能な手を評価するのではなく、残り手札に残っている組み合わせを分析することで、意味のある候補手のコンパクトな集合を特定します。
  3. ポリシー選択:状態と候補手に依存するアクター・クリティックネットワークがこれらの候補をランク付けし、最適な手を選択します。
  4. 強化学習:プロキシマル・ポリシー最適化(PPO)と一般化されたアドバンテージ推定(GAE)を使用して、現在の意思決定と長期的な結果を結びつけるようにエージェントを訓練します。

後続バージョン(V3Pro)では、資産保護、同等手のルール、16枚以下のカードが残った局面における検証済みエンドゲーム探索といった推論の最適化が追加されています。

対象ユーザー

  • チーム戦ゲームと隠れた情報に関するAI研究者
  • PPOおよびアクター・クリティックアーキテクチャをゲームAIに実装したい開発者
  • オープンソースのウェブサービスフレームワークを活用してカードゲームをホスティングしたいゲーム開発者

特徴

  • 進化的なAI世代:V1の単純なNumPyセレクタから、V3のPPOで訓練された記憶を意識したニューラルネットワークへと進化。
  • 統合されたウェブサービス:ブラウザ上でプレイ可能な環境にAIをデプロイするための、2世代のオープンソースウェブゲームサービス(KSPlay)を含む。
  • 人間データの統合:KSCB官丹データセットにアクセス可能。約900試合分の完全な対局データを含み、人間の意思決定を研究するのに役立ちます。
  • エンドゲーム最適化:V3Proはゲームの最終段階に特化した検索と最適化ルールを実装しています。

関連

  • Dispatch
  • Dispatch
  • プロジェクト
  • Dispatch