0xPlaygrounds/rig
⚙️🦀 Build modular and scalable LLM Applications in Rust
何を解決するか
Rig は、Rust で LLM ベースのアプリケーションを構築するための統一的で使いやすい方法を提供し、複数のモデルプロバイダーおよびベクトルストアを統合するために必要なボイラープレートを削減します。開発者は特定のプロバイダーの API に縛られることなく、スケーラブルでモジュール式の AI エージェントを構築できます。
動作方法
Rig は、2 つの主要なコンポーネントにアーキテクチャを分離しています:rig-core はメッセージ、コンプリーションモデル、ベクトルストアに関するプロバイダー非依存の契約を処理し、rig-agent はプロンプトストリーミング、型安全なフック、状態管理を備えたエージェントのオーケストレーション層を提供します。この構造により、基本的なニーズにはポータブルなコアを使用したり、複雑なワークフローにはフルエージェントランタイムを使用したりと、柔軟に選択できます。
対象ユーザー
モジュール式アーキテクチャで、幅広い LLM プロバイダーとベクトルデータベースをサポートする本格的な AI エージェント、チャットボット、RAG アプリケーションを構築したい Rust 開発者。
特徴
- 統一インターフェース:1 つの API から 20 以上のモデルプロバイダーと 10 以上のベクトルストアにアクセス可能。
- エージェントワークフロー:複数ターンのストリーミング、プロンプティング、シリアル化可能な状態機械をサポート。
- ブラウザ対応:ポータブルコアおよびクラシックランタイムで Browser-WASM(
wasm32-unknown-unknown)に対応。 - 広範な機能サポート:LLM コンプリーション、埋め込み、音声認識、音声生成、画像生成をすべて対応。
- 標準化:完全に GenAI Semantic Convention と互換性あり。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト