GitHamza0206/simba

OpenSource Production ready Customer service with built in Evals and monitoring

해결하는 문제

Simba는 고효율 오픈소스 고객 서비스 어시스턴트를 제공하여 많은 AI 솔루션의 "블랙박스" 특성을 없앱니다. 데이터, RAG 파이프라인, 내장 평가 지표를 통해 AI 품질을 측정할 수 있게 함으로써 일반적인 AI 응답과 벤더 종속 문제를 해결합니다.

작동 방식

Simba는 Retrieval‑Augmented Generation(RAG) 아키텍처를 사용합니다. FastAPI 백엔드가 웹사이트( npm 채팅 위젯을 통해)와 벡터 스토어(Qdrant 또는 FAISS 등) 및 LLM(OpenAI 또는 로컬 모델)을 연결합니다. 문서 비동기 수집에는 Celery와 Redis를 사용합니다. 임베딩 모델, 청크 전략, 재정렬기 등 파이프라인의 모든 부분을 사용자가 자유롭게 커스터마이징할 수 있습니다.

대상

자체 호스팅이 가능하고 맞춤형 AI 고객 서비스 어시스턴트를 웹사이트에 배포하며, 특정 검색·생성 메트릭으로 성능을 측정하고자 하는 팀을 위해 설계되었습니다.

주요 특징

  • Evaluation‑First Design: 검색 정확도, 생성 품질, 지연 시간을 추적하는 내장 기능.
  • Easy Integration: 즉시 웹사이트에 배포할 수 있는 npm 패키지(simba-chat-widget) 포함.
  • Highly Customizable: LLM, 벡터 스토어, 임베딩 모델, 재정렬기를 자유롭게 교체 가능.
  • Production‑Ready: 스트리밍 응답, 비동기 처리, 문서 및 대화 관리 대시보드 제공.