GitHamza0206/simba
OpenSource Production ready Customer service with built in Evals and monitoring
解決する課題
Simba は高効率なオープンソースのカスタマーサービスアシスタントを提供し、多くの AI ソリューションに見られる「ブラックボックス」的な性質を排除します。データ、RAG パイプライン、組み込み評価指標による AI 品質測定をチームが完全にコントロールできるようにすることで、汎用的な AI 応答やベンダーロックインの問題を解決します。
仕組み
Simba は Retrieval‑Augmented Generation(RAG)アーキテクチャを採用しています。FastAPI バックエンドがウェブサイト(npm チャットウィジェット経由)とベクトルストア(Qdrant や FAISS など)および LLM(OpenAI またはローカルモデル)を接続します。ドキュメントの非同期取り込みには Celery と Redis を使用します。埋め込みモデル、チャンク戦略、リランカーなど、パイプラインのすべての部分をユーザーがカスタマイズ可能です。
対象ユーザー
自己ホスト型でカスタマイズ可能な AI カスタマーサービスアシスタントをウェブサイトに導入し、特定の検索・生成指標でパフォーマンスを測定したいチーム向けに設計されています。
ハイライト
- Evaluation‑First Design: 検索精度、生成品質、レイテンシを追跡する組み込み機能。
- Easy Integration: 即座にウェブサイトへデプロイできる npm パッケージ(
simba-chat-widget)を同梱。 - Highly Customizable: LLM、ベクトルストア、埋め込みモデル、リランカーの入れ替えが可能。
- Production‑Ready: ストリーミング応答、非同期処理、ドキュメントと会話の管理ダッシュボードを備えています。