rig: 20 以上のモデルプロバイダーと 10 以上のベクトルストア向けに統一インターフェースを提供する、モジュラー LLM アプリケーション構築用 Rust ライブラリ

rig: 20 以上のモデルプロバイダーと 10 以上のベクトルストア向けに統一インターフェースを提供する、モジュラー LLM アプリケーション構築用 Rust ライブラリ

解決する課題

Rig は、Rust で LLM を活用したアプリケーションを構築するための統一的で使いやすいインターフェースを提供します。複数の AI モデルプロバイダーやベクトルストアを統合する際に必要となる繰り返しのボイラープレートコードを書かずに済むため、プロバイダーを切り替えてもコアロジックを変更する必要がありません。

仕組み

Rig はさまざまな AI サービスの上に抽象化レイヤー(ファサード)として機能します。LLM の補完、埋め込み、エージェントワークフローに対して単一の統一インターフェースを提供し、マルチターンのストリーミングやプロンプトにも対応しています。また、観測性のための GenAI Semantic Convention と互換性があります。

対象者

最小限のボイラープレートでスケーラブルかつモジュラーな AI エージェントや LLM アプリケーションを構築したい Rust 開発者向けです。異なるモデルプロバイダーやベクトルデータベースを柔軟に利用したい方に最適です。

ハイライト

  • 統一インターフェース: 1 つの API で 20 以上のモデルプロバイダーと 10 以上のベクトルストア統合にアクセス可能。
  • エージェント機能: マルチターンストリーミング、プロンプト、エージェントワークフローを組み込みでサポート。
  • 幅広いモダリティ対応: テキスト補完、埋め込み、文字起こし、音声生成、画像生成に対応。
  • WASM 互換性: コアライブラリは WebAssembly と完全に互換性があります。
  • 豊富な統合: AWS Bedrock、Google Gemini などのプロバイダーや、Qdrant、MongoDB、PostgreSQL といったベクトルストアへのネイティブサポートを含む。

Sources