nullpointexception-i/agent-sphere

This project is an AI Agent orchestration platform. It uses an LLM-driven decision engine, combined with capabilities (built-in tools, MCP protocol, CLI execution, browser operations, etc.), to achieve a basic closed loop from perception → planning → execution → feedback.本项目是一个面向 AI Agent 编排平台。它通过 LLM 驱动的决策引擎，结合能力（内置工具、MCP 协议、CLI 执行、浏览器操作等）

What it solves

AgentSphere 是一个 AI 代理编排平台，使 LLM 超越简单聊天，通过感知、规划、执行和反馈的闭环进行整合。它解决了将 LLM 连接到真实世界工具和环境（如网页浏览器、命令行界面和外部 API）的挑战，同时管理自主任务完成所需的复杂状态、记忆和错误处理。

How it works

平台使用 ReAct（Reasoning + Acting） 引擎 SessionRunner。该引擎管理一个循环，LLM 对目标进行推理、选择工具执行、观察结果，并从观察中学习以规划下一步。

关键技术组件包括：

  • Capability Layer：模块化系统，将代理连接到 MCP（Model Context Protocol）服务器、内置 Java 工具、用于浏览器自动化的 Chrome 扩展，以及用于 Shell 执行的 CLI。
  • Multi-level Memory：分层存储系统（从快速内存缓存到永久 PostgreSQL 记录），负责上下文组装与长对话历史的自动“压缩”，以符合 LLM 令牌限制。
  • Model Routing：容错系统，可在不同供应商（OpenAI、DeepSeek、智谱 AI 等）之间路由请求，并具备自动回退机制。
  • Human-in-the-Loop："User Clarification" 机制，允许代理暂停执行，向用户请求确认或缺失信息后再继续。

Who it’s for

  • 开发者：希望构建能够与网页和本地系统交互的复杂 AI 代理。
  • 企业用户：需要编排层来管理多个 LLM 提供商和工具集成。
  • 系统架构师：对实现具有稳健记忆管理和可观测性的 ReAct 模式感兴趣。

Highlights

  • Browser Automation：集成的 Chrome 扩展，实现 DOM 操作和实时视觉反馈。
  • MCP Support：兼容 Model Context Protocol，便于连接 Jira、GitHub、Slack 等工具。
  • Context Compaction：基于令牌预算的智能压缩工具结果和历史，以优化 LLM 输入。
  • High Concurrency：使用 Java 21 虚拟线程，高效处理数百个并发流式 LLM 会话。
  • Observability：通过 SSE 实时事件流，跟踪推理步骤和工具执行状态。