canwhite/Krebs

何を解決するか

Krebs は、長期間の対話や複雑なタスクを処理する際に、元の目的を失うことなく管理できる自己ホスト型AIゲートウェイです。LLMにおける「コンテキストのずれ」とトークン制限の枯渇問題を、積極的なコンテキスト圧縮、永続的メモリ、自律的なサブエージェントを実装することで解決します。

動作方法

Krebs はユーザーとLLM（DeepSeekやClaudeなど）の間に中間層として機能します。一貫性を維持するための多層アプローチを採用しています：

• 注目管理：トークン使用量を監視し、会話が長くなるにつれて、要約、削除、圧縮といった異なる圧縮レイヤーをトリガーします。
• メモリとRAG：2段階のメモリシステム（要約をMEMORY.mdファイルに統合）とBM25ベースのRAGを使用して、過去のセッションから関連情報を取得します。
• 目的制約：会話の核心的な目的を抽出し、ハイブリッドスコアリングでエージェントがタスクから逸脱したかを検出。自動的に修正メッセージを注入します。
• 自己検証：応答後に、エージェント自身の出力を元のタスクと照合し、不一致が検出された場合は再試行します。
• 実行環境：ファイルシステムへの書き込み操作を安全に隔離するため、WASMベースのサンドボックスを提供。読み取り専用シェルアクセスは許可されます。
• サブエージェント：メインエージェントは特定のタスクを処理する自律的なサブエージェントを起動でき、タスクキューを管理し、定期的なジョブをスケジュールできます。

対象ユーザー

複雑なマルチターン対話や自律的なタスク実行を高信頼性で行い、コンテキストの損失を最小限に抑えたい開発者やパワーユーザー向けです。

特徴

• 多層コンテキスト圧縮：トークンのしきい値に基づく自動的な削除と要約。
• 目的のずれ検出：会話のずれを積極的に監視・修正。
• 自律的なサブエージェント：並列タスク管理用のエージェント群を起動可能。
• WASMサンドボックス：ファイルシステムへの書き込み操作を安全に隔離。
• 拡張可能なツールキット：カスタムLuaスクリプトとスキルファイルのサポート。
• セッションの永続化：SQLiteとファイルストレージを用いた完全なセッション履歴管理。