nullpointexception-i/agent-sphere

This project is an AI Agent orchestration platform. It uses an LLM-driven decision engine, combined with capabilities (built-in tools, MCP protocol, CLI execution, browser operations, etc.), to achieve a basic closed loop from perception → planning → execution → feedback.本项目是一个面向 AI Agent 编排平台。它通过 LLM 驱动的决策引擎，结合能力（内置工具、MCP 协议、CLI 执行、浏览器操作等）

What it solves

AgentSphere 是一個 AI 代理協調平台，讓 LLM 超越單純聊天，透過感知、規劃、執行與回饋的閉環整合。它解決了將 LLM 連接到真實世界工具與環境（如網頁瀏覽器、命令列介面與外部 API）的挑戰，同時管理自主任務完成所需的複雜狀態、記憶與錯誤處理。

How it works

平台使用 ReAct（Reasoning + Acting） 引擎 SessionRunner。此引擎管理一個迴圈，LLM 針對目標進行推理、選擇工具執行、觀察結果，並從觀察中學習以規劃下一步。

關鍵技術元件包括：

  • Capability Layer：模組化系統，將代理連接至 MCP（Model Context Protocol）伺服器、內建 Java 工具、用於瀏覽器自動化的 Chrome 擴充功能，以及用於 Shell 執行的 CLI。
  • Multi-level Memory：分層儲存系統（從快速記憶體快取到永久 PostgreSQL 記錄），負責上下文組合與長對話歷史的自動「壓縮」以符合 LLM 令牌上限。
  • Model Routing：容錯系統，可在不同供應商（OpenAI、DeepSeek、智譜 AI 等）之間路由請求，並具備自動回退機制。
  • Human-in-the-Loop："User Clarification" 機制，允許代理暫停執行，向使用者請求確認或缺失資訊後再繼續。

Who it’s for

  • 開發者：想要構建能與網路與本機系統互動的複雜 AI 代理。
  • 企業使用者：需要協調層來管理多個 LLM 供應商與工具整合。
  • 系統架構師：對以穩健記憶管理與可觀測性實作 ReAct 模式感興趣。

Highlights

  • Browser Automation：整合的 Chrome 擴充功能，可執行 DOM 操作並即時視覺回饋。
  • MCP Support：相容 Model Context Protocol，方便連接 Jira、GitHub、Slack 等工具。
  • Context Compaction：基於令牌預算的智慧壓縮工具結果與歷史，以最佳化 LLM 輸入。
  • High Concurrency：使用 Java 21 虛擬執行緒，能高效處理數百個同時串流的 LLM 工作階段。
  • Observability：透過 SSE 實時事件串流，追蹤推理步驟與工具執行狀態。