deepsense-ai/ragbits

Building blocks for rapid development of GenAI applications

What it solves

Ragbitsは、生成AIアプリケーションの迅速な開発のためのモジュール式ビルディングブロックを提供します。LLMとのインタラクション、データのインジェクション、検索拡張生成 (RAG)、およびマルチエージェントの調整を標準化されたツールで提供することで、信頼性が高く、拡張性のあるGenAIアプリの構築プロセスを簡素化します。

How it works

Ragbitsは、開発者が組み合わせて、または個別に使用できるいくつかの専門化されたパッケージに構成されています：

  • Core: プロンプト、LLM呼び出し (LiteLLMを介して100以上のモデルに対応)、およびベクトルデータベース接続 (例：Qdrant, PgVector) を処理します。

  • Document Search: 20以上のファイル形式のインジェクション・パイプライン (DoclingまたはUnstructuredを使用) と検索プロセスを管理します。

  • Agents: エージェント・システムの構築のための抽象化を提供します。これには、A2Aプロトコルによる役割ベースのコラボレーションや、Model Context Protocol (MCP) を使用したリアルタイム・データ統合が含まれます。

  • Chat: チャットUIとAPIを提供し、会話型AIをデプロイするためのフルスタック・インフラストラクチャを提供します。

  • Evaluate & Guardrails: プロンプトの検証 (promptfooを介して) およびレスポンスの安全性を確保するためのツールを提供します。

Who it’s for

柔軟で型安全なフレームワークを必要とするGenAIアプリケーション開発者。LLMを簡単に切り替え、データのインジェクションを拡張し、ゼロからすべてを構築することなくマルチエージェント・ワークフローをデプロイできます。

Highlights

  • Model Flexibility: 100以上のLLMを切り替え、またはLiteLLMを介してローカルモデルを使用できます。
  • Type Safety: Python genericsを使用して、モデルとのインタラクションにおける厳格な型安全性を強制します。
  • Scalable Ingestion: 大規模なデータセットに対して、Ray-basedの並列処理を支持します。
  • Multi-Agent Coordination: A2Aプロトコルを使用した役割ベースのコラボレーション。
  • Observability: OpenTelemetryによるリアルタイム・トラッキングおよびCLIによるインサイト。
  • Comprehensive Tooling: プロンプトのテストやベクトルストアの管理のためのCLI、および組み込みのChat UI。