0xPlaygrounds/rig

解决的问题

Rig 为在 Rust 中构建 LLM 驱动的应用程序提供了一种统一且易用的方法，减少了集成多个模型提供商和向量存储所需的样板代码。它使开发者能够在不被特定提供商 API 锁定的情况下，构建可扩展且模块化的 AI 代理。

工作原理

Rig 将其架构分为两个主要组件：rig-core 负责处理消息、完成模型和向量存储的提供商无关契约，而 rig-agent 提供了构建代理的编排层，支持提示流式传输、类型安全的钩子和状态管理。这种结构允许开发者根据需求选择使用便携式核心或完整的代理运行时。

适用人群

希望使用模块化架构构建生产级 AI 代理、聊天机器人和 RAG 应用的 Rust 开发者，该架构支持广泛的 LLM 提供商和向量数据库。

主要亮点

• 统一接口：通过单一 API 访问 20+ 模型提供商和 10+ 向量存储。
• 代理工作流：支持多轮流式传输、提示处理以及可序列化的状态机用于代理运行。
• 浏览器支持：兼容 Browser-WASM（wasm32-unknown-unknown）的便携核心和经典运行时。
• 广泛功能支持：支持 LLM 完成、嵌入、转录、音频生成和图像生成。
• 标准化：完全兼容 GenAI 语义约定。