Abraxas-365/langchain-rust
🦜️🔗LangChain for Rust, the easiest way to write LLM-based programs in Rust
何を解決するか
LangChain Rustは、Rustプログラミング言語を使用して、大規模言語モデル(LLM)で駆動される複雑なアプリケーションを構築する方法を提供します。オリジナルのLangChainフレームワークの構成可能性とオーケストレーションパターンを、高性能で型安全な環境に持ち込みます。
動作方法
このライブラリは、複雑なAIワークフローを作成するために「チェーン」でつなげられるモジュール式のコンポーネントを実装しています。以下の標準化されたインターフェースを提供します:
- LLMと埋め込み: OpenAI、Azure OpenAI、Ollama、Anthropic Claude、MistralAIなどのプロバイダーとの統合。
- ベクトルストア: OpenSearch、Postgres、Qdrant、Sqlite、SurrealDBなどのデータベースをサポートし、埋め込みの効率的な取得を可能にします。
- チェーン: LLMチェーン、会話チェーン、Q&A、SQLベースのインタラクションのための事前構築されたロジック。
- エージェント: Google Search(Serpapi)、DuckDuckGo、コマンドラインなどの外部サービスと対話できるツールを使用するエージェント。
- ドキュメントローダー: PDF、HTML、CSV、Gitコミット、ソースコードからデータをインジェストするためのツール。
対象ユーザー
PythonやJavaScriptではなく、Rustのパフォーマンス、安全性、並行処理の利点を活かしてLLM駆動アプリケーションを構築したい開発者。
特徴
- 広範なプロバイダーサポート: OllamaやFastEmbedなどのローカルオプションを含む、多数のLLMおよび埋め込みプロバイダーに対応。
- 拡張可能なツールキット: ウェブ検索、数学(Wolfram)、テキスト読み上げのための組み込みツールを備えています。
- 意味ベースルーティング: 静的および動的ルーティングをサポートし、意味に基づいてクエリを振り分けることができます。
- 多様なデータインジェスト: 複数のファイル形式およびソースコードリポジトリ用の組み込みローダーを備えています。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト