liquidos-ai/AutoAgents

What it solves

AutoAgents 提供一个生产级的框架，用于构建多代理系统。它解决了需要高性能、类型安全环境的问题，让多个 AI 代理能够协同工作、使用工具，并在不同的 LLM 后端（无论是云端托管还是本地边缘运行）之间保持记忆。

How it works

框架使用 Rust 实现，采用模块化架构，将代理的推理逻辑与底层模型解耦。它使用类型安全的代理模型，支持结构化工具调用，并提供可插拔的记忆体与 LLM 提供者系统。支持多种执行模式，如 ReAct 与 Chain-of-Thought，并内置沙箱式 WASM 运行时，以安全执行工具。

Who it’s for

此框架面向需要构建可扩展、安全且高性能 AI 代理的开发者，这些代理可以在服务器和边缘设备上运行，同时适合偏好 Rust 安全与速度的开发者（同时提供 Python 绑定）。

Highlights

• Broad LLM Support: 统一接口支持云提供商（OpenAI、Anthropic、Google 等）和本地运行时（Ollama、LlamaCpp、Mistral-rs）。
• Production Tooling: 包含用于结构化工具输入/输出的 derive 宏，以及用于工具执行的 WASM 沙箱。
• Agent Orchestration: 提供类型化的 pub/sub 通信，用于多代理协同。
• Built-in Guardrails: 集成 LLM 防护机制，进行输入/输出消毒与审计。
• Multimodal Capabilities: 支持视觉、多模态输入，以及本地 TTS/STT 语音处理。
• Observability: 集成 OpenTelemetry 以提供追踪和指标。