Consilium: Multi-LLM Collaboration Platform
Consiliumは、構造化された議論とリサーチを通じて、複数のAIモデルが合意形成(コンセンサス)に達することを可能にするマルチLLMプラットフォームです。Gradio Agents & MCP Hackathon期間中に開発されたこのシステムは、視覚的なGradioインターフェースとModel Context Protocol (MCP) サーバーの両方として統合されており、AIエキスパートが複雑な問題に対してリアルタイムで協力することを可能にします。
Technical Architecture and Visual Foundation
Consiliumは、カスタムのGradioコンポーネントを使用して「ポーカー形式のラウンドテーブル」のような視覚的インターフェースを作成します。このインターフェースは、参加者、吹き出し、思考ステータス、およびリサーチ活動を表示し、コラボレーションプロセスのリアルタイムな視覚的フローを提供します。
Session State Management
インタラクションのフローを維持するために、Consiliumはセッションベースの辞書システムを採用しています。各ユーザーには user_sessions[session_id] を介して隔離された状態ストレージが割り当てられ、以下のパラメータを追跡します:
- Participants: 議論におけるアクティブなモデルのリスト。
- Messages: 会話の履歴。
- Current Speaker: 現在入力を提供しているエージェント。
- Thinking/ShowBubbles: 思考インジケーターと吹き出しの視覚的状態を管理する配列。
状態の更新は update_visual_state() コールバックを介して処理され、フロントエンドに増分的なJSON状態の変更をプッシュして同期されたレンダリングを行います。
Multi-Agent Debate Dynamics
モデル同士が単に同意し合うだけになるのを防ぐため、Consiliumは生産的な議論を促進するために明確な役割を割り当てます。各エージェントには、多様な視点を提供するために特定のペルソナが割り当てられます:
- Standard: 推論と証拠に基づいた専門的な分析を提供します。
- Expert Advocate: 特定の立場を情熱的に、確信を持って主張します。
- Expert Critic: 欠陥、リスク、および弱点を特定する厳格な批評家です。
- Strategic Advisor: 実用的な実装と実行可能な洞察に焦点を当てます。
- Research Specialist: 権威ある、証拠に基づいた洞察を提供します。
- Innovation Catalyst: 従来の考え方に挑戦し、画期的なアプローチを提案します。
Consensus and Communication Modes
ユーザーは、エージェント間の情報の流れを制御するために、通信構造を構成できます:
- Full-Context: すべてのエージェントが同じコンテキストを共有するデフォルトモード。
- Ring: 各LLMは、直前の参加者のレスポンスのみを受け取ります。
- Star: すべてのメッセージは、中央のコーディネーターとして機能するリードアナリストを介して流れます。
最終的な結論に達するために、システムはリードアナリストLLMを使用して最終結果を合成し、合意形成に達したかどうかを評価します。議論のラウンド数(1から5まで設定可能)を増やすことで、合意形成の可能性を高めることができます。
Model Selection and Research Integration
Consiliumは現在、Mistral Large、DeepSeek-R1、Meta-Llama-3.3-70B、および QwQ-32B を含むモデルの選択肢をサポートしています。
Research Agent Integration
関数呼び出し(function calling)をサポートするモデルの場合、Consiliumは、別のラウンドテーブルの参加者として機能する専用のリサーチエージェントを統合しています。このエージェントは、統一された関数呼び出しハンドラーを介して、すべての関数呼び出し対応モデルに対して外部リソースへの一貫したアクセスを提供します。リサーチエージェントは、以下の5つの特定のソースにアクセスできます:
- Web Search
- Wikipedia
- arXiv
- GitHub
- SEC EDGAR
リサーチの品質は、BaseTool クラスのアーキテクチャを使用して、最新性、権威性、具体性、および関連性に基づいてスコアリングされます。
Interoperability and Future Directions
Consiliumは、クロスプラットフォームのエージェント間通信のための標準化されたJSONメッセージフォーマットシステムである Open Floor Protocol (OFP) を統合するために進化しています。これにより、エージェントは常に会話の状況を把握し続け、フロアマネージャーがエージェントを動的に招待または削除することが可能になります。
プラットフォームのアーキテクチャは、いくつかの OFP インタラクションパターンにマッピングされます:
- Delegation: エージェント間の制御の移譲。
- Channeling: メッセージを修正せずに通過させること。
- Mediation: バックグラウンドでの調整。
- Orchestration: 複数のエージェントによる協調。
開発者は、特化型でより小さな言語モデル(SLM)と専用のリサーチエージェント間の効果的な協調を可能にするシステムが、AIの未来であると強調しています。これは、汎用的な大規模言語モデル(LLM)に代わる選択肢となる可能性があります。
Sources
関連
- プロジェクト
- プロジェクト
- プロジェクト
- Dispatch
- プロジェクト