Emiyaaaaa/HiveMind
A Python-first runtime layer for multi-agent systems, with persistent run state, streaming execution events, and a pluggable orchestration interface.
Hivemind – 多智能体应用的运行时层
是什么 – Hivemind 是一个以 Python 为优先的生产级运行时,位于 LLM 导向的智能体框架(LangGraph、AutoGen、CrewAI 等)与外部世界之间。它为每个 运行 提供持久、可查询的状态,支持执行事件流式传输,并允许你在不重写持久化或 API 代码的前提下更换底层编排框架。
为何存在 – 多数开源智能体库专注于 提示到工具 的流程,并假设所有内容都在进程内运行。当你需要将智能体作为服务运行时,还需要:
- 重启后仍能存活的数据库,
- 用于调试和审计的有序步骤/消息日志,
- 供 UI 或 SDK 使用的实时事件流,
- 取消/重试/恢复语义,
- 可与任何编排后端协同工作的稳定 API。
Hivemind 正好提供了这些运行时需求,同时将编排框架的选择权交给了你。
核心功能(如 README 所述)
| 功能 | 你将获得 |
|---|---|
| 编排器适配器 | 可插拔系统;默认适配器封装 LangGraph,你可通过简单的 Python 插件添加对 AutoGen、CrewAI 或自定义框架的支持。 |
| 持久执行模型 | 数据库表(Run、Step、Message、ToolCall、Checkpoint)存储每个运行的完整生命周期,使其可观测且可重放。 |
| 服务器发送事件(SSE) | 运行状态变更通过 SSE 端点推送给客户端,前端无需轮询即可监控进度。 |
| 出站 Webhook | 当运行完成(成功、失败、取消或等待人工输入)时,会调用可配置的 Webhook,支持可选 HMAC 签名和重试逻辑。 |
| 管理控制台 | 轻量级 Next.js UI 可列出运行、显示逐步详情,并订阅实时 SSE 流。 |
| 多语言栈 | Java 21 + Spring Boot 3 用于 HTTP/SSE API,Python 3.12 工作器(asyncio,uv),PostgreSQL 16 用于持久状态,Redis 用于作业队列和实时事件,TypeScript/Next.js 用于控制台。 |
架构概览
Next.js 控制台 <--SSE/REST--> Java Spring Boot API <--Redis 作业/事件--> Python 工作器 (uv) <--适配器--> LangGraph / Echo / …
|
▼
PostgreSQL (状态)
- API 层(Java) – 暴露版本化的
/v1/*REST API 和 SSE 桥接,通过 API 密钥或 OIDC 令牌处理 RBAC,并将作业排队到 Redis。 - 工作器层(Python) – 消费作业,运行选定的编排器适配器,将步骤/消息记录写入 Postgres,并将实时事件发布回 Redis,供 API 转发。
- 持久化 – SQLAlchemy 模型与 Alembic 迁移用于存储不可变的运行历史。
- 事件总线 – Redis 流/发布-订阅提供作业、取消和实时更新的至少一次交付保证。
- 控制台 – 使用 React Query 获取运行并监听 SSE 的 Next.js 15 应用。
快速入门(来自 README 的步骤)
- 前置条件 – Docker、
uv(Python 包管理器)、Node 20+、JDK 21、Maven 3.9。 - 启动基础设施 –
docker compose up -d postgres redis。 - 创建数据库模式 –
cd backend && uv sync && uv run alembic upgrade head。 - 运行 Python 工作器 –
AGENTFLOW_WORKER_MODE=queue uv run python -m app.worker。 - 运行 Java API –
cd backend-java && mvn spring-boot:run。 - 运行控制台 –
cd frontend && npm install && npm run dev。 - 打开
http://localhost:3000– UI 与 API 通信,API 再调度作业给工作器。
README 还展示了如何通过 curl 调用创建智能体并启动运行,然后使用 curl -N …/events/<run_id> 监听实时事件流。
典型用例
- 生产级智能体服务 – 将 LangGraph 或 AutoGen 图的原型转化为具有审计日志和实时监控的持久化微服务。
- 多租户 SaaS 平台 – API 支持租户范围的 RBAC,适用于托管 AI 智能体平台。
- 可观测性与调试 – 由于每个步骤/消息/工具调用都被持久化,你可以重放运行、构建仪表板或导出日志以满足合规要求。
- 混合编排 – 无需更改客户端 API,即可在不同编排后端之间切换(例如,LangGraph 用于 LLM 流程,Echo 用于简单回声机器人)。
许可证
Apache 2.0 – 允许商业使用的宽松开源许可证。
总结 – Hivemind 并非 LLM 模型或新的智能体框架;它是使多智能体系统在生产环境中可靠、可观测且易于运维的 运行时。如果你已使用基于 Python 的智能体库,并需要持久化、流式传输和稳定 API,Hivemind 可为你提供开箱即用的粘合层。
相关
- 项目
- 项目
- 项目
- 项目
- 项目