ooples/token-optimizer-mcp

Measure token savings per AI coding agent, optimize context, and share a live local knowledge graph across 16 CLI clients.

Token Optimizer MCP – 概要

@ooples/token-optimizer-mcp は、大規模言語モデル(LLM)ワークフローにプラグインし、モデルが読み取らなければならないトークン数を削減しようとする npm パッケージです。これは次の方法で実現します。

  1. 高コストな読み取りのブロック – エージェントが大きなファイルの Read を要求すると、プラグインは要求を拒否し、最後の読み取り以降の変更のみを含む diff を返します。
  2. プロジェクトごとの知識グラフへの結果のキャッシュ – エージェントがすでに導き出した発見は保存され、自動的に再利用され、再導出の必要性を回避します。
  3. 実際のコストの測定 – ツールは各リクエストの 前/後 のトークン数を記録し(「MCP」– 測定されたリクエストごとのコスト)、エージェントごと、操作ごとの節約量のライブダッシュボードを表示します。
  4. トラフィックの属性 – ダッシュボードは、クライアント(Claude、Gemini など)と操作の種類(読み取り、grep、編集など)ごとに節約をグループ化します。

核となる考え方は、ほとんどの LLM エージェントがすでに見たデータに多くのコンテキストを浪費しているということです。これらの読み取りを安価な差分に変換し、以前の推論を記憶することで、オプティマイザーは トークンコストを削減しながら、同じ出力品質を維持できます。


仕組み

  • ブロックエンジン – デフォルトモードは完全にローカルで動作します。リクエストペイロードを圧縮し、削除されたブロックをディスク上のファイルを指す小さなマーカーに置き換え、元のバイトをモデルに送信しません。
  • プロキシモード – オプションのプロキシをモデル(例:Claude Code)の前に配置できます。ブロックエンジンと同様に動作しますが、大きなブロックを一時ファイルに スピル し、マーカー(<<ccr:hash,kind,size>>)を送信します。モデルは必要に応じて後でブロックを取得でき、取得ターンに小さな追加トークンコストを支払います。
  • プリセットモード – ブロックエンジンに設定可能なしきい値(spillWholeBlockBelow)があり、ブロックをファイルにスピルするタイミングを決定します。
  • テレメトリ – オプトインのみ。2 つの環境変数がローカル集計(TOKEN_OPTIMIZER_TELEMETRY=1)とオプションのアップロード(TOKEN_OPTIMIZER_BEACON=1)を制御します。すべてのアップロードは匿名化され、数字/フラグのみを含み、DO_NOT_TRACK=1 で無効にできます。

ベンチマークと結果(README に記載)

リポジトリには、オプティマイザーを一部の LLM プロバイダーが使用する「HeadRoom」コンプレッサーと比較する ベンチマークハーネス が含まれています。主な要点:

ワークロード トークン削減(当社) トークン削減(HeadRoom) コスト係数(当社)
agentic‑conversation 30.8 % 33.4 % 0.52 × (プロキシ)
agent‑loop 59.1 % 54.3 % 0.92 × (プロキシ)
rag‑conversation 83.2 % 0.1 % 0.99 × (プロキシ)
…(合計 18 ワークロード)

18 の実世界ペイロード全体で、オプティマイザーはプロキシモードで実行すると 平均 82% の文字と 91% のトークンを削除し、スピルされたブロックが取得されない場合、すべての行で競合他社を上回ります。ブロックが取得された場合でも、18 行中 17 行で勝利します。

セッションレベルのテストでは、10 ターンおよび 20 ターンの会話で 総トークンコストが 5〜9% 削減され、エンドツーエンドのタスクスイート(16 タスク)では、中央値コスト係数 0.926× で 品質の低下なし(平均スコア 0.994 対 0.994)を示しています。


はじめに

# パッケージをインストール
npm i @ooples/token-optimizer-mcp

# 組み込みのドクターを実行して設定を確認
npx token-optimizer-mcp doctor

一般的な使用方法は、使用している LLM クライアント(Claude、Gemini など)にオプティマイザーを プラグイン として追加することです。README は、アクティブなテレメトリフラグとキューに入っているイベント数を出力する install_doctor スクリプトを指しています。


ライセンスと商用利用

コードは MIT ライセンス の下でリリースされており、商用利用を明示的に許可しています。ホスト型サービスやアカウントは不要です – オプティマイザーを自分の環境でローカルに実行します。


誰が恩恵を受けるか?

  • 大きなコードベースやログを繰り返し読み取る 自律エージェント を構築する開発者。
  • 長時間実行される LLM セッション(例:コードアシスタント、データ分析ボット)を実行し、トークンコストを低く抑えたいチーム。
  • キャッシュと差分ベースの読み取りによって節約されたトークン数を 透明で再現可能な測定 を望む人。

結論

Token Optimizer MCP は、LLM 駆動エージェントの具体的な非効率性、つまり変更されていないデータの不必要な再読み取りを対象とした 実際のオープンソースツール です。完全な読み取りを小さな差分に置き換え、知識グラフに結果をキャッシュし、公開コストダッシュボードを提供することで、典型的なエージェントワークロードでトークンコストを約 10%〜30% 削減し、出力品質を維持できます。このプロジェクトは積極的にベンチマークされ、CI テストされ、MIT ライセンスで無制限に使用できます。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • Dispatch
  • Dispatch