rig：一個 Rust 函式庫，用於構建模組化 LLM 應用，提供 20 多個模型供應商與 10 多個向量儲存的統一介面

它解決了什麼問題

Rig 提供一個統一且人性化的介面，讓 Rust 開發者能夠構建以 LLM 為核心的應用。它消除了在整合多個 AI 模型供應商與向量儲存時必須撰寫的重複樣板程式碼，使開發者能在不改變核心應用邏輯的前提下，輕鬆切換不同供應商。

工作原理

Rig 作為各種 AI 服務的抽象層（Facade），提供單一統一的介面來執行 LLM 文字補全、向量嵌入與代理工作流程。它支援多輪串流與提示，並相容於 GenAI Semantic Convention 以實現可觀測性。

目標對象

想要以最少樣板程式碼構建可擴展、模組化 AI 代理與 LLM 應用，且需要靈活切換不同模型供應商與向量資料庫的 Rust 開發者。

重點特色

• 統一介面：透過單一 API 即可存取 20 多個模型供應商與 10 多個向量儲存整合。
• 代理能力：內建支援多輪串流、提示與代理工作流程。
• 廣泛模態支援：支援文字補全、向量嵌入、轉錄、音訊生成與影像生成。
• WASM 相容性：核心函式庫完全相容於 WebAssembly。
• 豐富整合：原生支援 AWS Bedrock、Google Gemini 等供應商，以及 Qdrant、MongoDB、PostgreSQL 等向量儲存。