AgentEra/Agently

[GenAI Application Development Framework] 🚀 Build GenAI application quick and easy 💬 Easy to interact with GenAI agent in code using structure data and chained-calls syntax 🧩 Use Event-Driven Flow *TriggerFlow* to manage complex GenAI working logic 🔀 Switch to any model without rewrite application code

它解决了什么

Agently 是一个 AI 应用运行时框架,旨在将 AI 服务从实验性提示移动到可靠的生产后端。它通过在模型和应用代码之间提供稳定的契约来解决“输出漂移”和不稳定的问题,确保模型更改或提供商替换不会破坏业务逻辑。

它是如何工作的

Agently 作为执行基底,将模型提供者、提示槽和响应解析归一化为单一的请求/运行时契约。它采用“契约优先”的方法来处理结构化输出,其中模式被定义为提示并由框架进行验证。它还具备 TriggerFlow,用于信号驱动的编排,使工作流能够在不等待完整模型响应的情况下,通过“即时”模式对部分结构化输出做出反应,或对操作结果做出反应。

适用人群

  • 产品工程师 构建 AI 助手、内部副驾驶或 AI 支持的 API,需要可靠性和可维护性。
  • 平台团队 需要明确的扩展点来支持模型提供者、MCP 服务器和可观测性。
  • 技术负责人 寻找一个框架,该框架优先考虑显式控制和可调试性,而不是广泛的预构建代理集成。

亮点

  • 结构化输出保证:框架级验证、必填字段提取以及独立于提供者原生功能的重试机制。
  • 即时流式传输:在模型仍在流式传输令牌时,能够对特定结构化字段做出反应。
  • 可观测操作:支持本地函数、MCP 服务器以及托管执行资源(Python、Shell、SQLite),并提供结构化日志和工件引用。
  • 信号驱动的工作流:TriggerFlow 支持事件驱动编排、暂停/恢复功能以及状态快照,以实现可恢复的工作流。
  • 模型不可知:规范化提供者设置和响应解析,使模型切换变得无缝。

摘要

一个提供结构化输出保证、可观测操作和信号驱动工作流的 AI 应用运行时框架,用于构建可靠的生产级 AI 服务。

TITLE: