liquidos-ai/AutoAgents

What it solves

AutoAgents 提供一個生產級的框架，用於構建多代理系統。它解決了需要高效能、類型安全環境的問題，讓多個 AI 代理能協同工作、使用工具，並在不同的 LLM 後端（無論是雲端託管還是本地邊緣運行）之間保持記憶。

How it works

框架以 Rust 實作，採用模組化架構，將代理的推理邏輯與底層模型解耦。它使用類型安全的代理模型，支援結構化工具呼叫，並提供可插拔的記憶體與 LLM 提供者系統。支援多種執行模式，如 ReAct 與 Chain-of-Thought，並內建沙箱式 WASM 執行環境，以安全執行工具。

Who it’s for

此框架設計給需要構建可擴展、安全且高效能 AI 代理的開發者，這些代理可以在伺服器與邊緣裝置上運行，同時適合偏好 Rust 安全與速度的開發者（同時提供 Python 綁定）。

Highlights

• Broad LLM Support: 統一介面支援雲端提供者（OpenAI、Anthropic、Google 等）與本地執行環境（Ollama、LlamaCpp、Mistral-rs）。
• Production Tooling: 包含用於結構化工具輸入/輸出的 derive 宏，以及用於工具執行的 WASM 沙箱。
• Agent Orchestration: 提供型別化的 pub/sub 通訊，用於多代理協調。
• Built-in Guardrails: 整合 LLM 防護機制，進行輸入/輸出消毒與稽核。
• Multimodal Capabilities: 支援視覺、多模態輸入，以及本地 TTS/STT 語音處理。
• Observability: 整合 OpenTelemetry 以提供追蹤與指標。