ranxianglei/billion-context

解決する課題

billion-context は、長期的なAIコーディングセッションがモデルのコンテキストウィンドウを超過することを防ぐコンテキスト圧縮プロキシです。トークン使用量を削減し（最大5倍の削減）、消費された会話履歴を階層化された高忠実度の要約に圧縮することで、セッションの劣化や中断を防ぎます。

仕組み

このツールは、AIエージェント（Claude Code、Aider、Cursorなど）とモデルAPI（Anthropic、OpenAIなど）の間のプロキシとして機能します。リクエストとレスポンスを解析し、acp-kernel 圧縮ロジックを適用します。

単純な切り捨てを行うのではなく、モデル自身が呼び出せる4つの特定のコンテキスト管理ツールを会話に注入します：

• compress: メッセージの範囲を詳細な要約に折り畳みます。
• decompress: 正確な詳細が必要な場合に、圧縮された範囲を復元します。
• search_context: 要約および表示されているメッセージ全体でキーワード検索を実行します。
• acp_status: コンテキストの使用状況と圧縮可能な範囲の概要を提供します。

対象ユーザー

会話履歴がすぐにコンテキストウィンドウを使い果たし、コストの増加やモデルの整合性の低下を招くような長期プロジェクトでAIコーディングエージェントを使用している開発者。

ハイライト

• 増分および可逆的: 要約は小さな範囲で記述され、必要に応じて解凍可能です。
• Prefix-Cache フレンドリー: パフォーマンスを維持するためにキャッシュプレフィックスを保持するように設計されています。
• 幅広い互換性: ネイティブプラグイン、ランチャー、または単純なURL書き換えを通じて、多様なクライアントをサポートします。
• モデル駆動型: 固定された制限に依存するのではなく、いつ何を圧縮するかをモデル自身が決定します。