0xPlaygrounds/rig
⚙️🦀 Build modular and scalable LLM Applications in Rust
解決する課題
Rigは、スケーラブルでモジュール化されたLLM駆動型アプリケーションの開発を簡素化するために設計されたRustライブラリです。さまざまなAIモデルやベクトルストアを統合するために必要なボイラープレートを削減し、開発者が特定のプロバイダーに縛られることなくエージェントワークフローを構築できる統一されたインターフェースを提供します。
仕組み
Rigは、そのアーキテクチャを2つの主要コンポーネントに分離しています。メッセージ、補完モデル、ベクトルストアに対してプロバイダーに依存しない契約を提供するrig-coreと、プロンプト、ストリーミング、状態管理を含むエージェントのオーケストレーションを処理するrig-agentです。このモジュール方式により、開発者はルートのrigファサードを使用して、コア抽象化とハイレベルなエージェントビルダーの両方にアクセスできます。
対象者
複数のモデルプロバイダーとベクトルデータベースにわたって一貫したAPIを必要とする、AIエージェント、チャットボット、およびRAGベースのアプリケーションを構築するRust開発者。
ハイライト
- 統一されたインターフェース: 単一のAPIを通じて20以上のモデルプロバイダーと10以上のベクトルストア統合にアクセス可能。
- エージェントワークフロー: マルチターン・ストリーミング、プロンプト、およびエージェント実行のためのシリアライズ可能な状態マシンをサポート。
- 幅広い機能サポート: LLMの補完、埋め込み、文字起こし、音声生成、および画像生成を処理。
- WASM互換性: ポータブルなコアとクラシックなランタイムは、WebAssemblyと完全に互換性があります。
- 標準化されたオブザーバビリティ: OpenTelemetryのGenAI Semantic Conventionと完全な互換性。