AgentEra/Agently

解决的问题

Agently 是一个旨在将 AI 服务从实验性提示推进到可靠生产后端的 AI 应用运行时框架。它通过提供结构化输出的稳定契约、可观测的动作执行以及可恢复的工作流，解决了输出漂移和模型不稳定性问题，确保即使在更换模型或提供方时，业务逻辑依然保持完整。

工作原理

Agently 通过统一的请求/运行时契约，标准化应用程序与 AI 模型之间的交互。它使用「提示槽」来组合请求，并采用契约优先的结构化输出方法，其中模式以提示形式定义，并由框架进行验证。在编排方面，它包含 TriggerFlow，一个信号驱动的工作流引擎，支持暂停/恢复功能和基于事件的执行。它还管理一个专用的 Action Runtime 用于工具调用，支持本地函数、MCP 服务器以及沙箱执行环境（如 gVisor 或 Landlock）。

适用人群

• 产品工程师：构建 AI 助手、内部协作者或 AI 驱动的 API，需要可靠性和结构化数据的人。
• 平台团队：需要清晰的扩展点以集成模型提供方、工具和可观测性的人。
• 技术负责人：希望使用一个可维护的框架，优先考虑显式控制和可调试性，而非“提示胶水”式开发的人。

主要亮点

• 契约优先输出：通过模式即提示、必填字段提取和验证处理器，保证结构化输出。
• 结构化流式处理：instant 模式允许应用在模型仍在流式输出时，对特定结构化字段做出即时响应。
• 可观测动作：提供专用的 Action Runtime 用于工具调用，内置支持 Python、Shell、Node.js、SQLite 和 MCP 服务器。
• 信号驱动工作流：TriggerFlow 支持事件驱动的 DAG、扇出和状态快照，实现可恢复执行。
• 模型无关性：标准化提供方设置和响应解析，无需重写业务逻辑即可轻松切换模型。