sympozium-ai/sympozium
The Coordination Layer for Multi-Agent AI
Sympozium – KubernetesネイティブなマルチエージェントAI向け調整レイヤー
概要
- Kubernetes上で動作するオープンソースのコントロールプレーンで、K8sがコンテナをオーケストレーションするように、多数のLLM駆動エージェントをオーケストレーションできます。
- エージェントは分離されたワークロード(ポッド、Cellnと呼ばれるマイクロVM)としてデプロイされます。すべてのポリシー(エージェントが参照できるもの、使用できるモデル、触れることができるシークレット)は、**Custom Resource Definitions(CRD)**として表現されます。
主要なアイデア
| 機能 | 重要性 |
|---|---|
| Synthetic Membrane | 細かい共有ルール(トラストグループ、可視性タグ、フィールドレベルのゲーティング)により、エージェントのチームがすべてを漏洩させることなく共通の状況認識を得られます。 |
| Ensembles | 一連のエージェント、スケジュール、メモリを、単一のCRDでアクティブ化できるHelmライクなパッケージにまとめます。 |
| Shared Workflow Memory | SQLiteベースのメモリプール(FTS5対応)で、エージェントが読み書きでき、エージェントごとのアクセス制御と自動減衰を備えます。 |
| Model Endpoints as CRDs | モデル(GGUFファイル、HuggingFaceリポジトリなど)を一度宣言すると、Sympoziumが推論サーバー(vLLM、llama.cpp、TGIなど)を起動し、OpenAI互換のエンドポイントを公開します。キーは仲介されるため、エージェントのポッドがプロバイダーのシークレットを参照することはありません。 |
| Skill Sidecars | 各「スキル」は最小特権のサイドカーコンテナで実行され、タスク完了後にガベージコレクションされます。 |
| Celln fleet | /dev/kvmを持つノードでは、プラットフォームが長時間実行エージェント向けにハードウェア分離されたマイクロVM(Celln)を起動し、ウォームプールにより強力な分離と高速起動を実現します。 |
| Multi-Channel adapters | NATS JetStreamを利用したTelegram、Slack、Discord、WhatsApp向けの組み込みDeploymentsがあり、チャットメッセージをエージェントイベントに変換します。 |
| Policy & Governance CRDs | SympoziumPolicyにより、オペレーターは各エージェント実行で許可/拒否リスト、ネットワーク出力ルール、イメージレジストリのホワイトリスト、シークレットアクセス制御を強制できます。 |
| Observability | OpenTelemetryトレース、Prometheusメトリクス、実行ごとのトークン使用コスト見積もり。 |
| CLI / TUI / Web UI | sympoziumコマンドでスタックをインストールし、ターミナルUIを起動するか、ブラウザダッシュボードで視覚的なワークフローキャンバスを提供します。 |
使用方法
- インストール – Homebrew、シェルスクリプト、またはHelmを使用(CRDを最初に、次にコントロールプレーン)。インストーラーはKVM対応ノードをチェックし、Cellnフリートをセットアップします。
- リソースの定義 – モデル、エージェント、アンサンブル、ポリシーなどのCRDを作成します。
- エージェントの実行 – エージェントは、単発のジョブ、長時間実行のHTTPサービス、またはセキュアなアダプターを介してプラットフォームと通信する外部ハーネスにできます。
- 観察と反復 – UIはエージェントパイプラインのライブキャンバスを表示し、メトリクスでコストとパフォーマンスを監視できます。
しないこと
- 実際のLLM推論をホストしません。モデルを要求し、それらを別の能力レイヤー(例:
llmfit-dra、vLLM、SGLang)に渡します。 - サービングエンジンを置き換えるものではありません。トークンルーティングはプラグインする推論サーバーに任されます。
必要な人
- 複数の専門エージェントがコンテキストを渡し、セキュリティを強制し、共有のKubernetesインフラストラクチャで実行する必要がある複雑なAIワークフローを構築するチーム。
- オンプレミスまたはクラウドクラスター全体で監査対応、ポリシー駆動のAIオーケストレーションを望む企業。
ステータス
- 活発に開発中。APIは変更される可能性があります。CIバッジと最近のリリースは動作するコードベースを示しています。
ライセンス
- MIT。
上記の詳細はすべて、リポジトリのREADMEから直接取得されています。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト