Abraxas-365/langchain-rust

🦜️🔗LangChain for Rust, the easiest way to write LLM-based programs in Rust

何を解決するか

LangChain Rustは、Rustプログラミング言語を使用して、大規模言語モデル(LLM)で駆動される複雑なアプリケーションを構築する方法を提供します。オリジナルのLangChainフレームワークの構成可能性とオーケストレーションパターンを、高性能で型安全な環境に持ち込みます。

動作方法

このライブラリは、複雑なAIワークフローを作成するために「チェーン」でつなげられるモジュール式のコンポーネントを実装しています。以下の標準化されたインターフェースを提供します:

  • LLMと埋め込み: OpenAI、Azure OpenAI、Ollama、Anthropic Claude、MistralAIなどのプロバイダーとの統合。
  • ベクトルストア: OpenSearch、Postgres、Qdrant、Sqlite、SurrealDBなどのデータベースをサポートし、埋め込みの効率的な取得を可能にします。
  • チェーン: LLMチェーン、会話チェーン、Q&A、SQLベースのインタラクションのための事前構築されたロジック。
  • エージェント: Google Search(Serpapi)、DuckDuckGo、コマンドラインなどの外部サービスと対話できるツールを使用するエージェント。
  • ドキュメントローダー: PDF、HTML、CSV、Gitコミット、ソースコードからデータをインジェストするためのツール。

対象ユーザー

PythonやJavaScriptではなく、Rustのパフォーマンス、安全性、並行処理の利点を活かしてLLM駆動アプリケーションを構築したい開発者。

特徴

  • 広範なプロバイダーサポート: OllamaやFastEmbedなどのローカルオプションを含む、多数のLLMおよび埋め込みプロバイダーに対応。
  • 拡張可能なツールキット: ウェブ検索、数学(Wolfram)、テキスト読み上げのための組み込みツールを備えています。
  • 意味ベースルーティング: 静的および動的ルーティングをサポートし、意味に基づいてクエリを振り分けることができます。
  • 多様なデータインジェスト: 複数のファイル形式およびソースコードリポジトリ用の組み込みローダーを備えています。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト