Atmosphere/atmosphere

Portable AI agent runtime for the JVM. One @Agent class runs on Spring AI, LangChain4j, Anthropic, or 9 more behind one SPI. Token streaming, tool calls, human approvals, and governance over WebSocket, SSE, gRPC, or WebTransport/HTTP3. Speaks MCP, A2A, and AG-UI.

何を解決するか

Atmosphere は JVM 上で AI エージェントをプロダクションレベルのサービスとして展開するためのリアルタイムエンジンを提供します。単純なデモから企業環境への移行という課題を解決し、組み込みのストリーミングトランスポート、厳格なガバナンス(PIIのマスキングやコスト上限など)、長時間実行タスク向けの永続的セッション管理、そしてエンドポイントの再実装なしにAIフレームワークを切り替える能力を備えています。

動作方法

Atmosphere は AI ランタイムの上にサービス層として機能します。ブロードキャスター・パイプラインを使用して、LLM から WebSocket、SSE、gRPC、またはロングポーリング経由でクライアントにトークンをストリーミングします。開発者は @Agent アノテーションを使ってエージェントを定義でき、メモリ、計画ツール、仮想ファイルシステムを内蔵した「ディープエージェント」も作成可能です。Runtime SPI(Service Provider Interface)と複数のアダプタ(例:Spring AI、LangChain4j、Anthropic)を用いることで、異なるAIフレームワーク間でのポータビリティを維持しています。

対象ユーザー

既存の JVM スタック(Spring Boot、Quarkus、Netty など)内で人間が関与する(HITL)、マルチチャネル、ガバナンス対応のAIエージェントを開発しているチームに最適です。プロダクションレベルの安定性と監視機能を必要とする方々に向けられています。

主な特徴

  • マルチトランスポートストリーミング:WebSocket、SSE、gRPC、ロングポーリングをネイティブでサポート。出荷時から利用可能。
  • エンタープライズガバナンス:ポリシー承認、@AgentScope によるプロンプトブロッキング、PIIの書き換え、管理者による強制停止スイッチを含む。
  • 永続的HITL:スレッドを保持せずにスリープ状態にできる人間の承認処理で、RESTエンドポイントから再開可能。
  • 豊富な統合:12種類のランタイムアダプタと、AnthropicおよびCohere用のネイティブクライアントを提供。
  • ディープエージェント機能:メモリ、計画(write_todos)、仮想ファイルシステムの内蔵サポート。
  • 広範なプロトコル対応:MCP、A2A、AG-UI、Slack、Telegram、Discord などのさまざまなチャットチャネルを介してエージェントを公開。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト