Abraxas-365/langchain-rust

解決的問題

LangChain Rust 提供了一種使用 Rust 程式語言建構由大型語言模型（LLMs）驅動的複雜應用程式的方法。它將原始 LangChain 框架的可組合性與編排模式帶入高效率、類型安全的環境中。

如何運作

此函式庫實作了一組模組化元件，可「串接」起來建立複雜的 AI 工作流程。它提供以下標準化介面：

• LLMs 與嵌入：與 OpenAI、Azure OpenAI、Ollama、Anthropic Claude、MistralAI 等提供者整合。
• 向量儲存：支援 OpenSearch、Postgres、Qdrant、Sqlite 與 SurrealDB 等資料庫，以高效檢索嵌入資料。
• 鏈：預先建構的 LLM 鏈、對話鏈、問答與基於 SQL 的互動邏輯。
• 代理：可與 Google Search（Serpapi）、DuckDuckGo 及命令列等外部服務互動的工具型代理。
• 文件載入器：用於從 PDF、HTML、CSV、Git 提交與原始碼中擷取資料的工具。

適用對象

希望利用 Rust 的效能、安全性與並行優勢，而非使用 Python 或 JavaScript 建構 LLM 驅動應用的開發者。

主要特色

• 廣泛的提供者支援：支援多種 LLM 與嵌入提供者，包含 Ollama 與 FastEmbed 等本地選項。
• 可擴充的工具集：內建用於網路搜尋、數學計算（Wolfram）與文字轉語音的工具。
• 語意路由：支援靜態與動態路由，可根據語意方向查詢。
• 多樣化的資料擷取：內建多種檔案格式與原始碼倉儲的載入器。