GitHamza0206/simba

OpenSource Production ready Customer service with built in Evals and monitoring

它解決了什麼問題

Simba 提供高效能、開源的客服助理，消除許多 AI 解決方案的「黑箱」特性。它透過讓團隊完整掌控資料、RAG 流程，以及內建評估指標來衡量 AI 品質，解決了通用 AI 回應與供應商鎖定的問題。

工作原理

Simba 採用 Retrieval‑Augmented Generation（RAG）架構。它由一個 FastAPI 後端組成，將網站（透過 npm 聊天小工具）連接到向量資料庫（如 Qdrant 或 FAISS）與大型語言模型（OpenAI 或本地模型）。文件的非同步擷取使用 Celery 與 Redis。使用者可以自訂管線的每個環節，包括嵌入模型、切塊策略與重新排序器。

目標對象

此方案適合想在網站上部署自行託管、可自訂的 AI 客服助理，且需要透過特定檢索與生成指標來衡量效能的團隊。

重點特色

  • 以評估為先的設計：內建檢索準確度、生成品質與延遲的追蹤。
  • 輕鬆整合：提供即插即用的 npm 套件（simba-chat-widget），可快速部署於網站。
  • 高度可客製化：支援替換 LLM、向量資料庫、嵌入模型與重新排序器。
  • 可投入生產：具備串流回應、非同步處理與文件與對話管理儀表板。