future-agi/future-agi

它是什么

Future AGI 是一个可自托管、Apache-2.0 许可的平台，用于构建和运营可靠的 AI 代理。它用一个集成系统取代了典型的零散工具组合（Langfuse 用于追踪、Braintrust 用于评估、Guardrails AI 用于安全、Helicone 用于网关等）。

核心主张：代理会产生幻觉，而 Future AGI 通过闭环帮助您更快地解决这个问题——模拟边缘情况 → 评估质量 → 防范攻击 → 监控实时行为 → 将真实追踪反馈到优化中。

关键能力（六大支柱）

• 模拟 — 使用逼真的人物角色、对抗性输入和边缘情况生成数千次多轮对话。支持文本和语音（LiveKit、VAPI 等）。
• 评估 — 一次调用即可获得 50 多个指标：接地性、幻觉、工具使用正确性、PII、语气、自定义评分标准。使用 LLM 作为评判者、启发式方法和机器学习。
• 防护 — 18 个内置扫描器（PII、越狱、注入）以及 15 个供应商适配器（Lakera、Presidio、Llama Guard）。可以在网关内联运行，也可以作为独立 SDK 运行。
• 监控 — 面向 50 多个框架（LangChain、LlamaIndex、CrewAI、DSPy）的 OpenTelemetry 原生追踪。跨度图、延迟、成本、实时仪表板——零配置。
• 代理指挥中心 — 一个兼容 OpenAI 的网关，支持 100 多个提供商、15 种路由策略、语义缓存、虚拟密钥、MCP、A2A。声称的性能：约 29k 请求/秒，启用防护时 P99 ≤ 21 毫秒。
• 优化 — 六种提示优化算法（GEPA、PromptWizard、ProTeGi、Bayesian、Meta-Prompt、Random）。生产追踪作为训练数据反馈。

架构

• 边缘：traceAI（OpenTelemetry 插桩）和 Agent Command Center（网关代理）。
• 平台：tracer（OTLP 摄取）、agentic_eval（指标）、simulate（场景生成）、model_hub（LLM 路由）、accounts（认证、计量）。
• 数据：PostgreSQL（元数据）、ClickHouse（跨度）、Redis（状态）、Temporal（作业）。
• 接口：一切都是开放的——追踪使用 OTLP，网关使用兼容 OpenAI 的 HTTP，存储使用 SQL。您可以替换组件。

快速开始

• 需要 Docker（独立版需要 2+ vCPU、4 GB RAM）。
• 一条命令：git clone + ./bin/install（Windows 上使用 PowerShell 脚本）。
• 启动后，登录、复制 API 密钥，并通过 pip install fi-instrumentation-otel 发送您的第一条追踪。
• 提供 Python、TypeScript、Java、C# 的 SDK。

部署选项

• Docker Compose（独立或分布式）、生产覆盖层、Kubernetes/Helm 图表、云虚拟机，以及使用 FUTURE_AGI_TELEMETRY_DISABLED=true 的隔离/本地部署。

许可

Apache 2.0 核心；各个 SDK 独立许可（Apache/MIT）。该平台是开源的、可自托管的，并提供托管云选项。