JoshuaC215/agent-service-toolkit

Full toolkit for running an AI agent service built with LangGraph, FastAPI and Streamlit

해결하는 문제

이 툴킷은 AI 에이전트를 구축하고 배포하기 위한 완벽한 프로덕션 준비 완료 템플릿을 제공합니다. 에이전트의 로직 정의와 기능적인 사용자 대면 애플리케이션 제공 사이의 간극을 메워주며, 개발자가 백엔드 서비스, API 엔드포인트, 프론트엔드 인터페이스를 수동으로 연결할 필요가 없도록 합니다.

작동 방식

이 프로젝트는 LangGraph를 사용하여 에이전트 로직을 정의하고, FastAPI를 사용하여 HTTP 엔드포인트를 통해 에이전트를 서비스하며, Streamlit을 사용하여 채팅 인터페이스를 제공합니다. 서비스와 상호 작용하기 위한 유연한 클라이언트 라이브러리가 포함되어 있으며, 비동기 요청 처리를 지원하고 데이터 구조 관리를 위해 Pydantic을 사용합니다. 개발자는 src/agents 디렉토리에 사용자 지정 에이전트를 추가하여 서비스를 통해 자동으로 노출할 수 있습니다.

대상 사용자

이 툴킷은 인프라를 처음부터 구축하지 않고도 LangGraph 기반 에이전트를 구축하고 실행하려는 개발자를 위한 것입니다. 스트리밍, 채팅 기록, Docker 기반 배포를 포함하는 강력한 설정이 필요한 사용자에게 적합합니다.

주요 특징

  • LangGraph 에이전트, FastAPI 백엔드, Streamlit 프론트엔드를 포함한 풀스택 설정.
  • human-in-the-loop 인터럽트, 장기 기억, 흐름 제어와 같은 고급 LangGraph 기능 지원.
  • 에이전트 서비스 위에 사용자 지정 애플리케이션을 구축하기 위한 범용 클라이언트 라이브러리 포함.
  • CopilotKit과 같은 호환 가능한 프론트엔드와 통합하기 위한 AG-UI 프로토콜 지원.
  • Docker Compose, 콘텐츠 조정, ChromaDB를 사용한 RAG 구현에 대한 내장 지원.
  • 강력한 단위 테스트 및 통합 테스트 스위트 포함.

관련

  • 프로젝트
    langchain-ai/agent-chat-ui

    Agent Chat UI는 어떤 LangGraph 서버와도 대화할 수 있는 Next.js 프론트엔드입니다. 서버 URL, 어시스턴트 ID, 선택적 LangSmith 키를 구성한 후 웹 UI를 사용해 메시지를 전송하고, LLM 응답을 스트리밍으로 받으며, 특수 태그로 원하지 않는 출력을 숨기고, 사이드패널에 추가 "아티팩트"를 표시할 수 있습니다. 리포지토리는 빠른 시작(`npx create-agent-chat-app`), 환경 변수 단축키, 프로덕션 가이드(예: API-패스스루 프록시 또는 커스텀 인증)를 포함합니다.

  • 프로젝트
    Shy2593666979/AgentChat

    AgentChat은 오픈소스 풀스택 대화형 AI 플랫폼입니다. Vue 3 프론트엔드와 FastAPI + LangChain 백엔드를 결합하여 LLM 기반 채팅, 멀티 에이전트 협업, 3단계 메모리(단기, 요약 기록, 장기 사용자 설정), 벡터 저장소를 통한 RAG, 도구 호출(사용자 정의 OpenAPI 도구 포함) 및 Model-Context-Protocol 통합을 제공합니다. Docker-compose를 통한 원클릭 배포를 지원하며 MIT 라이선스로 제공됩니다.

  • 프로젝트
    lhh737/LangChain-ReAct-Agent

    추론, 도구 호출, RAG를 결합한 LangChain 기반 ReAct 에이전트. Streamlit UI, 모듈식 YAML 설정, Alibaba DashScope 모델 지원.

  • 프로젝트
    vstorm-co/full-stack-ai-agent-template

    AI 에이전트 런타임, RAG 파이프라인, 인증, 청구, 관찰성, Docker/K8s 배포 도구가 내장된 프로덕션 준비된 FastAPI + Next.js 웹앱을 생성하는 CLI 생성기입니다.

  • 프로젝트
    GiovanniPasq/agentic-rag-for-dummies

    튜토리얼 스타일의 오픈소스 Python 프로젝트로, LangGraph, 계층적 청킹, 대화 메모리, 쿼리 명확화, 다중 에이전트 맵-리듀스, 자기 수정, RAGAS를 통한 평가를 사용하여 모듈형 에이전트 기반 검색 증강 생성 시스템을 구축하는 방법을 보여줍니다. Ollama, OpenAI, Anthropic, Google Gemini, Qdrant 벡터 저장소 및 선택적 Langfuse 관찰 가능성과 함께 작동합니다.