nullpointexception-i/agent-sphere

This project is an AI Agent orchestration platform. It uses an LLM-driven decision engine, combined with capabilities (built-in tools, MCP protocol, CLI execution, browser operations, etc.), to achieve a basic closed loop from perception → planning → execution → feedback.本项目是一个面向 AI Agent 编排平台。它通过 LLM 驱动的决策引擎，结合能力（内置工具、MCP 协议、CLI 执行、浏览器操作等）

What it solves

AgentSphere는 AI 에이전트 오케스트레이션 플랫폼으로, LLM이 단순 채팅을 넘어 인식, 계획, 실행, 피드백의 폐쇄 루프에 통합될 수 있게 합니다. 웹 브라우저, 명령줄 인터페이스, 외부 API와 같은 실제 도구와 환경에 LLM을 연결하고, 자율 작업 완료에 필요한 복잡한 상태, 메모리, 오류 처리를 관리하는 문제를 해결합니다.

How it works

플랫폼은 ReAct(Reasoning + Acting) 엔진 SessionRunner를 사용합니다. 이 엔진은 LLM이 목표를 추론하고, 실행할 도구를 선택하고, 결과를 관찰하며, 그 관찰을 통해 다음 단계를 계획하는 루프를 관리합니다.

주요 기술 구성 요소는 다음과 같습니다:

Capability Layer: 에이전트를 MCP(Model Context Protocol) 서버, 내장 Java 도구, 브라우저 자동화를 위한 Chrome 확장, 셸 실행을 위한 CLI에 연결하는 모듈식 시스템.
Multi-level Memory: 빠른 인메모리 캐시부터 영구 PostgreSQL 레코드까지 계층형 저장 시스템으로, 컨텍스트 조합과 긴 대화 기록을 자동 "압축"(토큰 제한 내 유지)합니다.
Model Routing: 장애 허용 시스템으로, OpenAI, DeepSeek, Zhipu AI 등 다양한 제공자 간에 요청을 라우팅하고 자동 폴백 메커니즘을 제공합니다.
Human-in-the-Loop: 에이전트가 실행을 일시 중지하고 사용자에게 확인이나 누락된 정보를 요청할 수 있는 "User Clarification" 메커니즘.

Who it’s for

개발자: 웹 및 로컬 시스템과 상호 작용할 수 있는 복잡한 AI 에이전트를 구축하고자 하는 분.
엔터프라이즈 사용자: 여러 LLM 제공자와 도구 통합을 관리할 오케스트레이션 레이어가 필요한 분.
시스템 아키텍트: 견고한 메모리 관리와 가시성을 갖춘 ReAct 패턴 구현에 관심이 있는 분.

Highlights

Browser Automation: DOM 작업 및 실시간 시각 피드백을 제공하는 통합 Chrome 확장.
MCP Support: Jira, GitHub, Slack 등 도구와 쉽게 연결할 수 있도록 Model Context Protocol을 지원.
Context Compaction: 토큰 예산 기반의 지능형 압축으로 도구 결과와 히스토리를 최적화하여 LLM 입력을 효율화.
High Concurrency: Java 21 가상 스레드를 사용해 수백 개의 동시 스트리밍 LLM 세션을 효율적으로 처리.
Observability: SSE를 통한 실시간 이벤트 스트리밍으로 추론 단계와 도구 실행 상태를 추적.