Fergana-Labs/stash

Open-source infrastructure for agents that learn from experience. Capture production traces and turn lessons into reusable knowledge and skills.

Stash とは

Stash は、AI エージェントが行うことを記録し、それらのインタラクションの有用な部分を保持し、将来のエージェント実行が呼び出せる再利用可能な「スキル」に変換できるオープンソースプラットフォームです。提供される機能は次のとおりです。

トレース収集 – 実行中に発生したプロンプト、ツール呼び出し、応答、および人間による修正をキャプチャするフックまたは API。
キュレーションされた知識ストア – 生のトレースを永続的で検索可能な「メモリ Wiki」ページに変換するバックグラウンドサービス。
スキル生成 – 保存された教訓は SKILL.md ファイル（一連の指示とアセット）としてパッケージ化でき、エージェントがインストールして自動的に最新の状態に保つことができます。
報酬モデルループ – トレースから好みのペアを抽出し、報酬モデルをトレーニングし、そのモデルを使用してプロンプト改善を提案したり、新しいスキルを生成したりするオプション機能（GEPA システム経由）。

これらはすべて、Python SDK、REST API、コマンドラインクライアント、および「MCP」（おそらくモデルコントロールプレーン）を通じて公開されているため、既存のエージェントパイプラインに組み込むことができます。

なぜ重要か

本番環境から学ぶ – 実際のエージェントは多くの暗黙のフィードバック（成功、失敗、人間による編集）を生成します。Stash はそのデータを破棄せずにキャプチャします。
人間参加型ループ – レビュー担当者は応答をハイライトしてコメントを追加できます。Stash はコメントを元のトレースと一緒に記録し、アドホックな修正を正式な知識に変換します。
再利用可能でバージョン管理された指示 – 教訓を SKILL.md ファイルに変換することで、基盤モデルを再トレーニングせずに、同じガイダンスを複数のエージェントや実行間で共有できます。
クローズドループ改善 – 報酬モデルコンポーネントは、トレース由来の好みを自動的にプロンプト最適化やスキル生成を駆動するシグナルに変換し、継続的な改善を可能にします。

誰が使うか

対象	利点
LLM 搭載製品チーム	サポートチャットエージェントの失敗をキャプチャし、再利用可能なトラブルシューティングガイドに変換し、プロンプトを実際のメトリクスに合わせて調整し続けます。
自律エージェントを構築する研究開発ラボ	ツール呼び出し履歴と人間による修正を保存し、キュレーションされた知識や報酬シグナルとしてフィードバックして、迅速な反復を実現します。
DevOps / MLOps エンジニア	バックエンドサービスをデプロイし、CLI を使用してエージェントにスキルをインストールし、報酬モデルトレーニングパイプラインを監視します。
RLHF / 選好学習の研究者	トレース由来の選好ペアと組み込みの報酬モデルトレーニングワークフローを実験します。

始め方

スタックを実行 – docs/running-stash.md に従ってバックエンドサービス（Docker compose など）を起動するか、joinstash.ai のホスト版を使用します。
エージェントを計測 – 提供された SDK フック（または REST API）を追加して、各実行がプロンプト、ツール呼び出し、応答、および人間による修正を Stash に送信するようにします。
キュレーションとレビュー – Web UI を使用して問題のある応答をハイライトし、レビュー担当者のコメントを追加し、選好ペアを承認します。
報酬モデルをトレーニング（オプション） – トレースを選択し、報酬モデルを作成し、バックグラウンドワーカーにトレーニングさせます。UI はどの選好が人間からのものか、AI の判断からのものかを示します。
スキルを生成 – トレーニングされた報酬モデルから、GEPA を呼び出して SKILL.md ファイルを生成します。stash skills install でインストールすると、将来の実行が自動的に新しい指示セットを読み込みます。
反復 – エージェントが再実行されると、新しいトレースがキャプチャされ、キュレーションされ、ループにフィードバックされ、プロンプトとスキルが継続的に改善されます。

制限と未解決の問題

問題	詳細
セルフホスティングの複雑さ	完全なバックエンド（トレースストア、キュレーター、報酬モデルワーカー、MCP）を実行するには複数のサービスが必要です。ドキュメントにはガイドがありますが、エンジニアリングの労力が必要になる場合があります。
報酬モデルの成熟度	報酬モデル機能は実験的な製品として説明されています。パフォーマンスは抽出された選好ペアの品質に依存し、慎重な検証が必要になる場合があります。
スキル形式	スキルは単純な `SKILL.md` フォルダーです。標準スキーマはまだないため、カスタムエージェントとの統合にはアダプターが必要になる場合があります。
トレースストレージのスケーラビリティ	大規模な本番エージェントは大量のログを生成する可能性があります。リポジトリにはシャーディングや長期アーカイブ戦略の詳細はありません。

TL;DR

Stash は、エージェントのインタラクションを記録し、人間による修正を検索可能な知識に変換し、その知識を再利用可能なスキルとしてパッケージ化するためのオープンソースシステムです。また、これらのトレースから選好を抽出して報酬モデルをトレーニングし、プロンプトを自動的に改善できる実験的なループも含まれています。エージェントが基本 LLM を再トレーニングせずに実世界の経験から学習できるようにしたいチームに最適です。