crmne/ruby_llm

它解决了什么问题

RubyLLM 是一个原生 Ruby 框架，旨在简化将 AI 功能集成到 Ruby 和 Rails 应用程序中的过程。它提供了一个统一的 API 来与 19 个不同的 AI 提供商交互，使开发人员无需重写应用程序逻辑即可在托管模型和本地模型之间切换。

它的工作原理

该框架充当各种 AI 提供商（如 OpenAI、Anthropic、Gemini 和 Ollama）之上的抽象层。它允许开发人员使用单一一致的接口来执行聊天、图像和视频生成、音频转录和 OCR 等任务。它支持高级 AI 模式，包括工具使用（函数调用）、代理循环以及通过 Ruby 模式实现的结构化输出。

适用人群

希望构建 AI 驱动功能（如对话代理、文档分析和多模态 AI）的 Ruby 和 Rails 开发人员，而无需受限于特定提供商的 SDK。

亮点

• 统一提供商 API： 支持 19 个提供商，包括 OpenAI、Azure、xAI、Anthropic、Gemini、VertexAI、Bedrock、Cohere、DeepSeek 和 Ollama。
• 多模态能力： 内置对图像、视频和音频分析的支持，以及图像和视频生成。
• 代理框架： 用于创建具有特定指令和工具的可重用代理的工具，包括人工参与审批工作流。
• Rails 集成： 与 Active Record 深度集成以实现持久化，与 Active Storage 集成以处理附件，与 Hotwire 集成以实现流式响应。
• 评估套件： 使用数据集和基于模型的评估器来测试代理正确性的系统。
• 开发者工具： 包括提示模板（ERB）、成本跟踪、令牌计数和提示缓存。