Atmosphere/atmosphere

解決的問題

Atmosphere 為在 JVM 上部署 AI 代理作為生產級服務提供了一個即時引擎。它解決了將代理從簡單示範遷移至企業環境的挑戰，提供內建的串流傳輸、嚴格的治理（如 PII 隱私去識別與成本上限）、適用於長時間執行任務的持久會話管理，以及無需重寫端點即可切換 AI 框架的能力。

工作原理

Atmosphere 作為一個服務層，包裝在 AI 執行環境之上。它使用廣播器管道，透過 WebSocket、SSE、gRPC 或長輪詢，將 LLM 的令牌串流傳送到客戶端。開發者使用 @Agent 標註來定義代理，這些代理可以是具備內建記憶、規劃工具與虛擬檔案系統的「深度代理」。它採用 Runtime SPI（服務提供者介面），並支援多種適配器（例如 Spring AI、LangChain4j、Anthropic），以在不同 AI 框架之間保持可移植性。

適用對象

專為在現有 JVM 堆疊（如 Spring Boot、Quarkus 或 Netty）中建構人機協同、多管道、受治理的 AI 代理的團隊設計，這些團隊需要生產級的穩定性與監督能力。

主要亮點

• 多傳輸串流支援：原生支援 WebSocket、SSE、gRPC 與長輪詢，開箱即用。
• 企業級治理：包含策略准入、@AgentScope 用於提示詞阻斷、PII 重寫以及管理員強制關閉開關。
• 持久化人機協同：人機協同審核可在不佔用執行緒的情況下休眠，並透過 REST 端點恢復。
• 廣泛整合：提供 12 種不同框架的執行時適配器，以及 Anthropic 和 Cohere 的原生客戶端。
• 深度代理功能：內建對記憶、規劃（write_todos）與虛擬檔案系統的支援。
• 廣泛的協定支援：透過 MCP、A2A、AG-UI 以及 Slack、Telegram、Discord 等多種聊天管道公開代理。