Emiyaaaaa/HiveMind

A Python-first runtime layer for multi-agent systems, with persistent run state, streaming execution events, and a pluggable orchestration interface.

Hivemind – 多智能体应用的运行时层

是什么 – Hivemind 是一个以 Python 为优先的生产级运行时,位于 LLM 导向的智能体框架(LangGraph、AutoGen、CrewAI 等)与外部世界之间。它为每个 运行 提供持久、可查询的状态,支持执行事件流式传输,并允许你在不重写持久化或 API 代码的前提下更换底层编排框架。

为何存在 – 多数开源智能体库专注于 提示到工具 的流程,并假设所有内容都在进程内运行。当你需要将智能体作为服务运行时,还需要:

  • 重启后仍能存活的数据库,
  • 用于调试和审计的有序步骤/消息日志,
  • 供 UI 或 SDK 使用的实时事件流,
  • 取消/重试/恢复语义,
  • 可与任何编排后端协同工作的稳定 API。

Hivemind 正好提供了这些运行时需求,同时将编排框架的选择权交给了你。


核心功能(如 README 所述)

功能 你将获得
编排器适配器 可插拔系统;默认适配器封装 LangGraph,你可通过简单的 Python 插件添加对 AutoGen、CrewAI 或自定义框架的支持。
持久执行模型 数据库表(Run、Step、Message、ToolCall、Checkpoint)存储每个运行的完整生命周期,使其可观测且可重放。
服务器发送事件(SSE) 运行状态变更通过 SSE 端点推送给客户端,前端无需轮询即可监控进度。
出站 Webhook 当运行完成(成功、失败、取消或等待人工输入)时,会调用可配置的 Webhook,支持可选 HMAC 签名和重试逻辑。
管理控制台 轻量级 Next.js UI 可列出运行、显示逐步详情,并订阅实时 SSE 流。
多语言栈 Java 21 + Spring Boot 3 用于 HTTP/SSE API,Python 3.12 工作器(asyncio,uv),PostgreSQL 16 用于持久状态,Redis 用于作业队列和实时事件,TypeScript/Next.js 用于控制台。

架构概览

Next.js 控制台  <--SSE/REST-->  Java Spring Boot API  <--Redis 作业/事件-->  Python 工作器 (uv)  <--适配器-->  LangGraph / Echo / …
                                            |
                                            ▼
                                      PostgreSQL (状态)
  • API 层(Java) – 暴露版本化的 /v1/* REST API 和 SSE 桥接,通过 API 密钥或 OIDC 令牌处理 RBAC,并将作业排队到 Redis。
  • 工作器层(Python) – 消费作业,运行选定的编排器适配器,将步骤/消息记录写入 Postgres,并将实时事件发布回 Redis,供 API 转发。
  • 持久化 – SQLAlchemy 模型与 Alembic 迁移用于存储不可变的运行历史。
  • 事件总线 – Redis 流/发布-订阅提供作业、取消和实时更新的至少一次交付保证。
  • 控制台 – 使用 React Query 获取运行并监听 SSE 的 Next.js 15 应用。

快速入门(来自 README 的步骤)

  1. 前置条件 – Docker、uv(Python 包管理器)、Node 20+、JDK 21、Maven 3.9。
  2. 启动基础设施 – docker compose up -d postgres redis。
  3. 创建数据库模式 – cd backend && uv sync && uv run alembic upgrade head。
  4. 运行 Python 工作器 – AGENTFLOW_WORKER_MODE=queue uv run python -m app.worker。
  5. 运行 Java API – cd backend-java && mvn spring-boot:run。
  6. 运行控制台 – cd frontend && npm install && npm run dev。
  7. 打开 http://localhost:3000 – UI 与 API 通信,API 再调度作业给工作器。

README 还展示了如何通过 curl 调用创建智能体并启动运行,然后使用 curl -N …/events/<run_id> 监听实时事件流。


典型用例

  • 生产级智能体服务 – 将 LangGraph 或 AutoGen 图的原型转化为具有审计日志和实时监控的持久化微服务。
  • 多租户 SaaS 平台 – API 支持租户范围的 RBAC,适用于托管 AI 智能体平台。
  • 可观测性与调试 – 由于每个步骤/消息/工具调用都被持久化,你可以重放运行、构建仪表板或导出日志以满足合规要求。
  • 混合编排 – 无需更改客户端 API,即可在不同编排后端之间切换(例如,LangGraph 用于 LLM 流程,Echo 用于简单回声机器人)。

许可证

Apache 2.0 – 允许商业使用的宽松开源许可证。


总结 – Hivemind 并非 LLM 模型或新的智能体框架;它是使多智能体系统在生产环境中可靠、可观测且易于运维的 运行时。如果你已使用基于 Python 的智能体库,并需要持久化、流式传输和稳定 API,Hivemind 可为你提供开箱即用的粘合层。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目