Consilium：多LLM协作平台

Consilium 是一个多LLM平台，旨在通过结构化辩论和研究，使多个 AI 模型达成共识。该系统在 Gradio Agents & MCP Hackathon 中开发，既可作为可视化的 Gradio 界面，也可作为 Model Context Protocol (MCP) 服务器，允许 AI 专家实时协作解决复杂问题。

技术架构与可视化基础

Consilium 使用自定义 Gradio 组件创建了一个“扑克式圆桌”可视化界面。该界面展示参与者、对话气泡、思考状态和研究活动，提供协作过程的实时可视化流。

会话状态管理

为了保持交互流程，Consilium 采用基于会话的字典系统。每个用户通过 user_sessions[session_id] 获得独立的状态存储，用于跟踪以下参数：

  • 参与者：讨论中活跃模型的列表。
  • 消息：对话的历史记录。
  • 当前发言者：当前提供输入的代理。
  • Thinking/ShowBubbles：管理思考指示器和对话气泡可视状态的数组。

状态更新通过 update_visual_state() 回调处理，这些回调将增量的 JSON 状态变更推送到前端，以实现同步渲染。

多代理辩论动态

为防止模型之间仅仅相互同意，Consilium 实施了不同的角色以促进富有成效的辩论。每个代理被分配一个特定的人格，以确保视角的多样性：

  • Standard：提供带有推理和证据的专家分析。
  • Expert Advocate：热情地为特定立场辩护，充满信念。
  • Expert Critic：严格的批评者，识别缺陷、风险和弱点。
  • Strategic Advisor：关注实际实施和可操作的洞见。
  • Research Specialist：提供权威的、基于证据的洞见。
  • Innovation Catalyst：挑战传统思维，提出突破性方法。

共识与通信模式

用户可以配置通信结构，以控制信息在代理之间的流动方式：

  • Full-Context：默认模式，所有代理共享相同上下文。
  • Ring：每个 LLM 仅接收前一个参与者的回复。
  • Ring：每个 LLM 仅接收前一个参与者的回复。
  • Star：所有消息通过一位首席分析师流转，充当中心协调者。

为了得出最终结论，系统使用首席分析师 LLM 合成最终结果并评估是否已达成共识。讨论轮数（可配置 1 到 5 轮）可增加，以提升达成共识的可能性。

模型选择与研究集成

Consilium 目前支持包括 Mistral Large、DeepSeek‑R1、Meta‑Llama‑3.3‑70B 和 QwQ‑32B 在内的多种模型。

研究代理集成

对于支持函数调用的模型，Consilium 集成了专用的研究代理，作为圆桌的另一位参与者。该代理通过统一的函数调用处理器，为所有函数调用模型提供一致的外部资源访问。研究代理可以访问以下五类特定来源：

  • Web Search
  • Wikipedia
  • arXiv
  • arXiv
  • GitHub
  • SEC EDGAR

研究质量依据新颖性、权威性、特异性和相关性进行评分，采用 BaseTool 类架构实现。

互操作性与未来方向

Consilium 正在演进以集成 Open Floor Protocol (OFP)，这是一套用于跨平台代理通信的标准化 JSON 消息格式系统。它使代理能够保持持续的对话感知，并允许楼层管理者动态邀请或移除代理。

平台架构映射到多种 OFP 交互模式：

  • Delegation：在代理之间转移控制。
  • Channeling：不做修改地转发消息。
  • Mediation：在幕后进行协调。
  • uma Orchestration：多个代理协作。

开发者强调，AI 的未来在于能够实现专门化小型语言模型（SLM）与专用研究代理之间高效协作的系统，这可能为通用大型语言模型提供一种替代方案。

Sources