Atmosphere/atmosphere
Portable AI agent runtime for the JVM. One @Agent class runs on Spring AI, LangChain4j, Anthropic, or 9 more behind one SPI. Token streaming, tool calls, human approvals, and governance over WebSocket, SSE, gRPC, or WebTransport/HTTP3. Speaks MCP, A2A, and AG-UI.
解决的问题
Atmosphere 为在 JVM 上部署 AI 代理作为生产级服务提供了一个实时引擎。它解决了将代理从简单演示迁移到企业环境的挑战,提供了内置的流传输、严格的治理(如 PII 隐私脱敏和成本上限)、适用于长时间运行任务的持久会话管理,以及无需重写端点即可切换 AI 框架的能力。
工作原理
Atmosphere 作为一个服务层,封装在 AI 运行时之上。它使用广播器管道,通过 WebSocket、SSE、gRPC 或长轮询,将 LLM 的令牌流式传输给客户端。开发者使用 @Agent 注解定义代理,这些代理可以是具备内置记忆、规划工具和虚拟文件系统的“深度代理”。它采用 Runtime SPI(服务提供者接口),并支持多种适配器(例如 Spring AI、LangChain4j、Anthropic),从而在不同 AI 框架之间保持可移植性。
适用人群
专为在现有 JVM 堆栈(如 Spring Boot、Quarkus 或 Netty)中构建人机协同、多渠道、受治理的 AI 代理的团队设计,这些团队需要生产级别的稳定性和监督能力。
主要亮点
- 多传输流式支持:原生支持 WebSocket、SSE、gRPC 和长轮询,开箱即用。
- 企业级治理:包含策略准入、
@AgentScope用于提示词阻断、PII 重写以及管理员强制关闭开关。 - 持久化人机协同:人机协同审批可在不占用线程的情况下休眠,并通过 REST 端点恢复。
- 广泛集成:提供 12 个不同框架的运行时适配器,以及 Anthropic 和 Cohere 的原生客户端。
- 深度代理功能:内置对记忆、规划(
write_todos)和虚拟文件系统的支持。 - 广泛的协议支持:通过 MCP、A2A、AG-UI 以及 Slack、Telegram、Discord 等多种聊天渠道暴露代理。
相关
- 项目
- 项目
- 项目
- 项目
- 项目