IBM/AssetOpsBench

AssetOpsBench - Industry 4.0: A unified benchmark and framework for building, orchestrating, and evaluating domain-specific AI agents for Industry 4.0 asset operations and maintenance, with 460+ scenarios, 5 specialist agents (IoT, FMSR, TSFM, Work Order,...), and multi-agent orchestration blueprints (MetaAgent, AgentHive) over MCP.

AssetOpsBench – 工業資産運用・保守のためのAIエージェント

何であるか – 実世界の工業データ(センサー配信、作業依頼システム、故障モードカタログなど)と連携する大規模言語モデル(LLM)エージェントを構築・オーケストレーション・評価できる研究用のオープンソースフレームワーク。以下を統合しています:

  • ドメイン固有のMCPサーバー – IoT資産、故障モード知識ベース、時系列基礎モデル、作業依頼管理、振動解析用の準備完了のツールAPI。
  • エージェントバックエンド – ReActパターンに従い、MCPツールを「アクション」として呼び出せる、プラグアンドプレイ型のオーケストレーター(Plan-Execute、Deep Agent、Claudeベース、OpenAIベース)。
  • ベンチマークスイート – 9種類の資産クラスをカバーする141以上の再現可能なシナリオ。各シナリオには明確な複数ステップワークフローと、推論、実行、データ処理の次元でエージェントを評価する評価パイプラインが備わっている。
  • 評価インフラ – リーダーボード、LLMベースのジャッジ、複数次元のメトリクス(推論品質、ツールコールの正確性、レイテンシなど)。

なぜ重要なのか

工業用「インダストリー4.0」サイトは膨大なセンサーデータストリームを生成し、複雑な作業依頼システムを維持しています。このデータを自律的な意思決定(例:異常検出、作業依頼の生成、予測モデルの選択)に変換するには、以下の能力を持つエージェントが必要です:

  1. エンジニアからの自然言語リクエストを理解する。
  2. ドメイン固有のツールを介して構造化データを取得・操作する。
  3. 複数ステップのワークフローを信頼性高く計画・実行する。 AssetOpsBenchは、研究者がインフラの構築から解放され、LLMの推論部分に集中できるよう、包括的なスタックを提供します。

コアコンポーネント

コンポーネント 提供するもの 一般的な用途
MCP(Model Context Protocol)サーバー IoT、Failure-Mode-SR(FMSR)、Time-Series FM(TSFM)、Work-Order(WO)、振動用のRESTスタイルツールAPIに加え、共有ユーティリティ。 エージェントは list_assets、generate_workorder、run_recipe などを呼び出し、リアルな工業データと対話する。
エージェントフレームワーク • plan_execute – 任意のLLM向けのシンプルな計画・実行ループ。
• deep_agent – サブエージェントと仮想ファイルシステムを備えた階層的計画。
• claude_agent / openai_agent – ClaudeまたはOpenAIモデルにツールコールを委任するReActスタイルのオーケストレーター。
必要な複雑さに応じて選択可能。すべて共通のMCPクライアントライブラリを共有。
ベンチマークシナリオ 141以上のカジュアルなタスク(例:「MAINサイトのChiller 6のすべてのセンサーをリストアップ」、「異常に対する作業依頼を生成」)。 python -m assetopsbench.run --scenario "…" を実行するか、Hugging-Faceプレイグラウンドでエージェントの動作を確認。
評価パイプライン エージェントを実行し、ツールコールを記録し、LLMジャッジ(Llama-4-Maverick-17B)で6つの基準(推論、ツール使用、レイテンシなど)でスコアリング。 モデル間で比較可能なリーダーボードテーブルを生成。
データ&プレイグラウンド Hugging-Face上のデータセット、インタラクティブなSpace、Colabノートブック、Kaggleベンチマークページ。 新規ユーザーがローカルインストールなしで簡単に実験可能。

クイックスタート

# パッケージをクローンしてインストール(編集可能モード)
git clone https://github.com/IBM/AssetOpsBench.git
cd AssetOpsBench
pip install -e .

# MCPサーバー起動後にシンプルなデモシナリオを実行
python -m assetopsbench.run --scenario "List all sensors of Chiller 6 in MAIN site"

ゼロインストール体験をご希望の場合は、READMEにリンクされたColabノートブックまたはHFプレイグラウンドを開き、LLMエージェントがIoTサーバーに問い合わせ、応答を生成する様子を観察できます。


使用すべき人

オーディエンス 得られるもの
LLMエージェント、ツール利用、工業AIの研究者 – 実際のデータと公開リーダーボードを備えた即戦力のテストベッド。
工業AIエンジニア – プラントデータをツールAPIとして公開し、LLMプランナーに接続するためのリファレンス実装。
学生 – 実践的なチュートリアル(KDD 2026、AAAI 2026ラボでのMCPチュートリアル)と、エージェントAIの課題用Colabノートブック。
コンペティション主催者 – 同じベンチマークがIJCAI 2026ライブチャレンジとCODS 2025コンペティションを支えている。

ライセンス&コミュニティ

  • ライセンス: Apache 2.0(許容性が高く、商業利用に適している)。
    * 貢献: PRを歓迎。READMEは大学が拡張機能を追加することを呼びかけている。
    * サポートチャネル: GitHub issues、セットアップ用の INSTRUCTIONS.md、リポジトリにリンクされたチュートリアルPDF群。
    * 出版物: KDD、ACL、ICLR、AAAI、EMNLPなど、10本以上の論文が、技術的背景と評価結果を詳細に提供している。

TL;DR

AssetOpsBenchは、実世界の工業保守タスクに向けたLLM駆動エージェントのプロトタイピングと比較を可能にするエンドツーエンドのオープンソースベンチマークです。ドメイン固有のツールサーバー(MCP)、複数のエージェントオーケストレーター、大量の現実的なシナリオ、そして主要AIカンファレンスやコンペティションで既に使用されている評価フレームワークを備えています。

関連

  • Dispatch
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト