juyterman1000/entroly
Cut AI context cost without trusting the compressor. Every reduction is reversible, byte-exact recoverable, and carries an auditable receipt. Local-first, works through proxy, MCP, SDK, or agent wrapper.
Entroly – 監査可能で可逆的なAIコーディングツール向けコンテキスト圧縮
動作概要(平易な英語)
Entrolyは、エディタ/IDEと大規模言語モデル(LLM)プロバイダーの間に位置します。リクエストが送信される前に、以下を実行します:
- 選択 – 設定したトークン予算内に収まる、コード、ドキュメント、その他のファイルの中で最も有用な部分を選択します。
- 圧縮 – 残りを圧縮しますが、レシート(省略された正確なバイトを指す暗号化ハッシュ)を保持します。
- 記録 – 何が保持され、何が削除され、その理由を記録し、後でモデルが意図したコンテキストを正確に確認したことを証明できるようにします。 モデルが後で省略された資料を必要とする場合(例:長いセッションがコンテキストを使い果たした場合)、Entrolyはプロバイダーに再度連絡することなく、レシートから元のバイトを復元できます。
なぜ重要か
| 目標 | Entrolyの支援方法 |
|---|---|
| コスト削減 – トークン削減 = API料金削減 | プロンプトを最も関連性の高い断片に絞り込み、予算内に収めます。 |
| 証拠を失わない – 削除されたものを常に取り戻せる | レシートはコンテンツアドレス型(ハッシュベース)で、ローカルに保存された正確な元バイトを指します。 |
| 監査可能性 – モデルに送信された内容を証明 | 各実行で検査可能なレシートが生成されます(entroly verify-claims)。 |
| コード変更ゼロ – 既存ツールと連携 | サポートされているエディタ(VS Code、Cursor、Claude Codeなど)にフックするか、任意のアプリが指すことができるローカルプロキシとして実行します。 |
使用方法
| 状況 | コマンド | 結果 |
|---|---|---|
| Pythonユーザー – フル機能セットが必要な場合 | pip install -U entroly && entroly go |
ローカルプロキシとダッシュボードを起動し、アプリを表示されたURLに向けます。 |
| Node / WASMファン | npm install -g entroly && entroly init |
CLIとMCPパスを提供します。よりリッチなSDKにはPythonプロキシを呼び出すことも可能です。 |
| Rust専用バイナリ | cargo build --release --bin entroly-rs --features proxy |
Python/Node不要の自己完結型実行ファイル1つで動作します。 |
| VS Code / Claude Code / Cursor | Entroly拡張機能をインストール / entroly activation install --host <host> を実行 |
モデルが計画する前にプロンプトフックが自動的に実行されます。entroly activation statusで確認できます。 |
| プログラムでの使用 | from entroly import compress, compress_messages, optimize |
ライブラリを直接呼び出して、レスポンス、メッセージリスト、任意のフラグメントを圧縮します。 |
| 簡単な健全性チェック | entroly verify-claims && entroly simulate |
ローカルで実行され、APIキー不要で、自分のリポジトリのトークン削減数を表示します。 |
なぜ重要か
| 目標 | Entrolyの支援方法 |
|---|---|
| コスト削減 – トークン削減=API料金削減 | プロンプトを最も関連性の高い断片に絞り込み、予算内に収めます。 |
| 証拠を失わない – 削除されたものを常に取り戻せる | レシートはコンテンツアドレス型(ハッシュベース)で、ローカルに保存された正確な元バイトを指します。 |
| 監査可能性 – モデルに送信された内容を証明 | すべての実行で検査可能なレシートが生成されます(entroly verify-claims)。 |
| コード変更ゼロ – 既存ツールと連携 | サポートされているエディタ(VS Code、Cursor、Claude Codeなど)にフックするか、任意のアプリが指すことができるローカルプロキシとして実行します。 |
使用方法
| 状況 | コマンド | 結果 |
|---|---|---|
| Pythonユーザー – フル機能セットが必要な場合 | pip install -U entroly && entroly go |
ローカルプロキシとダッシュボードを起動し、アプリを表示されたURLに向けます。 |
| Node / WASMファン | npm install -g entroly && entroly init |
CLIとMCPパスを提供します。よりリッチなSDKのためにPythonプロキシを呼び出すことも可能です。 |
| Rust専用バイナリ | cargo build --release --bin entroly-rs --features proxy |
Python/Node不要の自己完結型実行ファイル1つ。 |
| VS Code / Claude Code / Cursor | Entroly拡張機能をインストール / entroly activation install --host <host> を実行 |
モデルが計画する前にプロンプトフックが自動的に実行されます。entroly activation statusで確認できます。 |
| プログラムでの使用 | from entroly import compress, compress_messages, optimize |
ライブラリを直接呼び出して、レスポンス、メッセージリスト、または任意のフラグメントを圧縮します。 |
| 簡単な健全性チェックを実行 | entroly verify-claims && entroly simulate |
ローカルで実行され、APIキー不要で、自分のリポジトリのトークン節約数を表示します。 |
中核概念と用語
- レシート – 省略されたバイトを一意に識別する暗号化ハッシュ(例:
sha256:…)。レシートにより、後でentroly recover <hash>で正確な元のコンテンツを取得できます。 - MCP(モデル制御プレーン) – リクエストをインターセプトし、Entrolyの選択/圧縮を実行し、削減されたプロンプトをプロバイダーに転送する統合レイヤー。
- プロキシ – OpenAI/Anthropic/Geminiエンドポイントを模倣したローカルHTTPサーバー(デフォルトでは
localhost:9377)。OPENAI_BASE_URL、ANTHROPIC_BASE_URLなどをこのプロキシに向けることで、任意のクライアントで圧縮を有効にできます。 - シミュレーション(
entroly simulate) – モデルに接続せずにサンプルクエリで選択アルゴリズムを実行し、節約されるトークン数と保持スコアを報告します。 - 修復 / 自己修復 – 高速パスエンジンが欠落している場合に、ネイティブエンジンバイナリをダウンロードするオプションのステップです。
ベンチマーク(リポジトリで報告されている通り)
ベンチマーク(gpt-4o-miniで実行) |
ベースライン精度 | Entroly精度 | 保持率 | トークン削減 |
|---|---|---|---|---|
| NeedleInAHaystack | 100 % | 100 % | 100 % | 99.5 % |
| LongBench (HotpotQA) | 64 % | 66 % | 103 % | 85.3 % |
| Berkeley Function Calling | 100 % | 100 % | 100 % | 79.3 % |
| SQuAD 2.0 | 80 % | 72 % | 90 % | 43.8 % |
| GSM8K | 85 % | 85 % | 100 % | パススルー |
保持率 = (Entroly精度 ÷ ベースライン精度) × 100 %。 正の値は、プロンプトが小さくてもモデルが同様に機能したことを意味し、負の値(例:SQuAD 2.0)はトレードオフを示します。
統合エコシステム
Entrolyは、多くの人気スタック向けのアダプタを提供します:
- SDK – OpenAI、Anthropic、LangChain、LiteLLM、Vercel AI SDKなど。
- IDE / MCPホスト – VS Code、Cursor、Claude Code、Kiro、OpenClaw、OpenCode、Grokなど。
- エージェントフレームワーク – CrewAI、AutoGen、Strands Agents、Agnoなど。
ドキュメントには完全なマトリクス(
docs/integration-hub.md)が含まれています。アダプタを使用しても、トークン節約が自動的に保証されるわけではありません。リクエストはEntrolyプロキシまたは検証済みプロンプトフックを経由する必要があります。
導入チェックリスト
- インストール – 好みのランタイムをインストールします(Python
pip install -U entrolyが最も完全です)。 - ローカルで健全性チェックを実行: 対象のリポジトリ内で
entroly verify-claims && entroly simulateを実行します。 - 必要な統合を有効化 – 例:
entroly activation install --host vscodeまたはAPIベースURLをhttp://localhost:9377に設定します。 - レシートを検査 – リクエスト後に
entroly value --jsonまたはentroly activation status --jsonで確認します。 - 復元 –
entroly recover <hash> --out restored.jsonで省略されたフラグメントを復元します。
ライセンスとコミュニティ
- ライセンス: Apache 2.0
- スター / CI: 活発にメンテナンスされています(READMEにGitHubスター数バッジ、CIバッジ表示)。
- 貢献: 歓迎します – 開発環境、スタイルガイド、テスト手順は
CONTRIBUTING.mdを参照してください。 - ダウンロード: PyPI、npm、Homebrew、Dockerイメージがすべて提供されています。
TL;DR
Entrolyは、ローカルファーストでプラグアンドプレイのレイヤーであり、LLMプロンプトを縮小し、削除された内容の検証可能な記録を保持し、後でそのデータを取得できます。既存のコードを変更する必要はありません。多くのエディタ、SDK、エージェントフレームワークで動作し、リポジトリにはベンチマーク、CLI、Pythonライブラリ、Rustバイナリ、VS Code拡張機能が含まれています。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- Dispatch