OpenAI Dota 2 ボット発表

OpenAIは、標準トーナメントルールのもとで1v1マッチにおいて世界のトッププロフェッショナルDota 2プレイヤーを倒すAIボットを作成しました。この成果は、人間の対戦相手を含む複雑で混沌とした環境において、明確に定義された目標を達成するAIシステムの能力を示しています。

技術的アプローチと学習方法

OpenAI Dota 2 ボットは、セルフプレイを通じてゼロからゲームを完全に学習しました。このシステムは、人間のデータを模倣することで学習する模倣学習に依存せず、またツリー探索も利用しません。

なぜならDota 2は隠された情報を含むゲームであるため、ボットは成功するために高レベルの認知戦略を開発する必要がありました。これには以下が含まれます:

  • 予測計画: ボットは相手の動きを予測することを学習しました。
  • 適応性: システムはなじみのない状況に対して即興で対応できます。
  • ** uma Influence**: ボットは味方ユニットに影響を与えて目的を達成する方法を学習しました。
  • 戦略的欺瞞: エージェントは優位性を得るために計画し、攻撃し、だまし、欺くことを学習しました。

パフォーマンスと人間のベンチマーク

ボットの成功は、機械的優位性または高いアクション・パー・ミニット(APM)に基づいていません。OpenAIは、ボットのAPMが平均的な人間プレイヤーと同等であると報告しており、これはDota 1v1におけるプレイヤーのスキルとAPMの相関が強くないことを示しています。

競争的テストにおいて、ボットは1週間にわたっていくつかのトッププロフェッショナルに対して無敗を維持しました。以下を含みます:

  • Dendi: ボットはThe InternationalのメインステージでDendiとのベストオブスリーマッチに勝利しました。
  • SumaiL: ボットは世界トップの1v1プレイヤーとされるSumaiLを倒しました。
  • Arteezy: ボットは世界トッププレイヤーとされるArteezyを倒しました。

今後の目標

現在のマイルストーンは1v1マッチに焦点を当てていますが、Dota 2の完全なゲームは、5人ずつの2チームによるチームベースの競争であり、100を超えるヒーローと数百のアイテムから選択できます。OpenAIの表明された次のステップは、トップの人間チームと競争および協力できるDota 2ボットのチームを開発することです。

Sources