rig：一个用于构建模块化 LLM 应用的 Rust 库，提供统一接口，支持 20 多个模型提供商和 10 多个向量存储

它解决了什么问题

Rig 提供了一个统一且人性化的接口，用于在 Rust 中构建基于 LLM 的应用。它消除了在集成多个 AI 模型提供商和向量存储时编写重复样板代码的需求，使开发者能够在不更改核心应用逻辑的情况下在不同提供商之间切换。

工作原理

Rig 充当各种 AI 服务的抽象层（外观模式）。它为 LLM 完成、嵌入和代理工作流提供单一统一的接口。它支持多轮流式传输和提示，并兼容 GenAI 语义约定以实现可观测性。

适用人群

希望以最少的样板代码构建可扩展、模块化 AI 代理和 LLM 应用，并且需要灵活使用不同模型提供商和向量数据库的 Rust 开发者。

亮点

• 统一接口：通过一个 API 访问 20 多个模型提供商和 10 多个向量存储集成。
• 代理能力：内置对多轮流式传输、提示和代理工作流的支持。
• 广泛的模态支持：支持文本完成、嵌入、转录、音频生成和图像生成。
• WASM 兼容性：核心库完全兼容 WebAssembly。
• 丰富的集成：原生支持 AWS Bedrock、Google Gemini 等提供商，以及 Qdrant、MongoDB、PostgreSQL 等向量存储。