Shy2593666979/AgentChat

AgentChat – 현대적인 AI 기반 대화형 플랫폼

개요 – AgentChat은 대규모 언어 모델(LLMs)을 중심으로 구축된 오픈소스 웹 채팅 시스템입니다. 풀스택 UI(Vue 3)와 FastAPI 백엔드를 제공하여 LLM 추론, 검색 증강 생성(RAG), 도구 호출 및 멀티 에이전트 조정을 통합합니다.

주요 기능

• 스마트 에이전트 – 하위 에이전트는 협업, 추론 및 의사결정이 가능하며, 사용자 정의 도구(Swagger/OpenAPI 사양 업로드)와 점진적 프롬프트를 로드하는 Skills를 장착할 수 있습니다.
• 3단계 메모리 –
  1. 단기: 최근 약 3000 토큰을 유지하여 즉각적인 컨텍스트 제공.
  2. 기록 요약: 오래된 대화를 자동으로 요약.
  3. 장기: 사용자 선호도와 습관을 영구 저장하여 개인화된 대화 지원.
• RAG / 지식 베이스 – 벡터 저장소(ChromaDB, Milvus) 및 Elasticsearch를 통한 의미론적 검색을 지원하여 정확한 문서 기반 Q&A를 가능하게 합니다.
• MCP 서버 통합 – Model-Context-Protocol을 구현하여 외부 서비스가 LLM 컨텍스트와 상호작용할 수 있도록 합니다.
• Human-in-the-loop (HITL) MCP 생성 – 사용자는 대화형 UI를 통해 OpenAPI 설명을 반복적으로 개선할 수 있으며, 시스템이 MCP 서버 설정을 생성하고 의사결정 지점에서 수동 승인이 가능합니다.
• 도구 생태계 – 10개 이상의 내장 유틸리티(날씨 조회, 이미지 생성 등)와 사용자 정의 도구 추가 기능을 제공합니다.
• 관리 및 분석 – 사용자 인증, 역할 기반 권한 관리, 에이전트별 사용량, 토큰 소비량 및 호출 횟수를 보여주는 대시보드.

기술 스택

• 백엔드: Python 3.12+, FastAPI, LangChain 1.0, MySQL, Redis, ChromaDB (또는 Milvus/Elasticsearch). Poetry/uv를 통한 의존성 관리.
• 프론트엔드: Vue 3.4+, Element Plus, Pinia, Vite 5, TypeScript.
• 배포: Docker 및 Docker-Compose 스크립트를 통한 원클릭 프로덕션 배포 지원; 로컬 개발 환경도 지원.

시작하기

1. 저장소를 클론합니다.
2. docker/docker_config.yaml을 편집합니다(데이터베이스 자격 증명, 벡터 저장소 선택 등).
3. docker-compose up --build -d를 실행하여 전체 컨테이너 스택을 시작하거나, 백엔드(uv sync && uv run uvicorn ...)와 프론트엔드(npm install && npm run dev)를 개별적으로 시작합니다.
4. 웹 UI에 접속하여 로그인한 후 에이전트 생성, 지식 베이스 업로드 또는 사용자 정의 도구 연결을 시작합니다.

대상 사용자 – 사내 AI 어시스턴트를 구축하는 개발자, 사용자 정의 가능한 채팅 UI가 필요한 SaaS 팀, 또는 멀티 에이전트 워크플로우 및 RAG 파이프라인을 프로토타이핑하는 연구자.

라이선스 – MIT 라이선스로, AgentChat을 자유롭게 수정, 재배포하거나 상용 제품에 포함할 수 있습니다.