JoshuaC215/agent-service-toolkit

Full toolkit for running an AI agent service built with LangGraph, FastAPI and Streamlit

해결하는 문제

이 툴킷은 AI 에이전트를 구축하고 배포하기 위한 완성된 프로덕션용 템플릿을 제공합니다. 백엔드 서비스, API 레이어 및 사용자 인터페이스를 위한 보일러플레이트를 수동으로 설정할 필요가 없어 개발자가 에이전트의 로직과 도구를 정의하는 데 집중할 수 있습니다.

작동 방식

이 프로젝트는 네 가지 주요 구성 요소로 구성된 풀스택 아키텍처를 구현합니다:

  1. Agent Logic: LangGraph 프레임워크를 사용하여 구축되었으며, human-in-the-loop 중단, 장기 메모리(Store) 및 supervisor 패턴과 같은 고급 기능을 지원합니다.
  2. Backend Service: 스트리밍 및 비스트리밍 엔드포인트를 통해 에이전트를 노출하는 FastAPI 서버로, CopilotKit과 같은 프론트엔드와의 호환성을 위한 AG-UI 프로토콜 지원을 포함합니다.
  3. Client Library: 다른 애플리케이션이 에이전트 서비스와 프로그래밍 방식으로 상호 작용할 수 있도록 하는 Python AgentClient.
  4. Frontend: 음성 입력 및 출력 기능을 갖춘 채팅 인터페이스를 제공하는 Streamlit 애플리케이션.

대상

인프라를 처음부터 구축하지 않고도 전문적인 API와 기능적인 웹 인터페이스를 갖춘 LangGraph 기반 AI 에이전트를 빠르게 프로토타입하거나 배포하려는 개발자.

주요 특징

  • 풀스택 템플릿: 에이전트 정의부터 Streamlit UI 및 Docker 배포까지 모든 것을 포함합니다.
  • 고급 LangGraph 통합: interrupt(), Command 및 langgraph-supervisor를 구현합니다.
  • 유연한 스트리밍: 토큰 기반 및 메시지 기반 스트리밍을 모두 지원합니다.
  • 멀티 에이전트 지원: 고유한 URL 경로를 통해 여러 개의 서로 다른 에이전트를 호스팅하고 호출할 수 있습니다.
  • 내장 RAG: ChromaDB를 사용한 기본 RAG 구현이 포함되어 있습니다.
  • 엔터프라이즈급 도구: 통합된 콘텐츠 모더레이션(Safeguard를 통해), 피드백 시스템(LangSmith를 통해) 및 강력한 단위/통합 테스트를 제공합니다.