patterns-ai-core/langchainrb
Build LLM-powered applications in Ruby
解决的问题
Langchain.rb 为 Ruby 开发者提供了一个统一的框架来构建由 LLM 驱动的应用程序。它抽象了不同 AI 提供商之间的差异,使开发者无需重写核心应用逻辑即可在不同模型或向量数据库之间切换。
工作原理
该项目充当中间件层,为聊天补全、提示词管理和嵌入生成等 LLM 操作提供一致的接口。它包含用于构建检索增强生成 (RAG) 管道的模块——连接文档加载、解析与向量搜索数据库——以及一个用于管理对话线程、工具执行和系统指令的 Assistant 类。
适用人群
专为希望将 AI 功能集成到现有应用程序中,且无需切换到基于 Python 生态系统的 Ruby 和 Ruby on Rails 开发者设计。
亮点
- 统一的 LLM 接口: 支持包括 OpenAI、Anthropic、Google Gemini、Mistral AI 在内的主要提供商,以及通过 Ollama 运行的本地模型。
- 广泛的 RAG 支持: 内置对 Pinecone、Weaviate、Chroma 和 Pgvector 等多种向量数据库的集成。
- 结构化输出: 包含解析器以强制 LLM 返回特定 JSON 模式的数据,并具备自动错误修复功能。
- 提示词管理: 用于创建、保存和加载提示词模板的工具,包括对少样本提示 (few-shot prompting) 的支持。
- 助手框架: 用于管理多轮对话和自动化工具调用的高级抽象。
相关
- 项目
- 项目
- 项目
- 项目
- 项目