crmne/ruby_llm

解决的问题

RubyLLM 是一个原生 Ruby 框架，旨在简化将 AI 功能集成到 Ruby 和 Rails 应用程序中的过程。它提供了一个单一且一致的 API，用于与多个 AI 提供商（如 OpenAI、Anthropic、Google 以及通过 Ollama 的本地模型）交互，而无需为每个功能编写特定于提供者的代码。

工作原理

该框架作为一个抽象层，使开发者能够使用相同的 Ruby 方法在不同提供者之间执行各种 AI 任务。它与 Ruby on Rails 深度集成，支持 Active Record 用于持久化、Active Storage 用于文件附件，以及 Hotwire 用于流式响应。它在后台自动处理模型注册表、工具调用、使用量跟踪和批量处理等复杂任务。

适用人群

适用于希望使用简洁、原生 Ruby 语法，将 AI 功能（如聊天机器人、智能体和多模态 AI）集成到现有应用中的 Ruby 和 Rails 开发者。

主要亮点

• 多模态支持： 通过统一接口处理文本、图像、音频、视频和 PDF。
• 智能体功能： 支持创建具有特定指令和工具的可重用智能体，包括工具执行的人工审核（人机协同）。
• 广泛的提供者生态： 内置支持 17+ 个提供者，包括 OpenAI、Azure、xAI、Anthropic、Gemini、Bedrock 和 DeepSeek。
• Rails 集成： 提供安装生成器、数据库迁移和可选的开箱即用聊天 UI。
• 高级 AI 工具： 包含嵌入、重排序、OCR、内容审核和通过 Ruby 模式生成结构化输出等功能。
• 运维工具： 内置成本跟踪、令牌计数、提示词缓存和基于纤维的异步并发处理。