AgentEra/Agently

[GenAI Application Development Framework] 🚀 Build GenAI application quick and easy 💬 Easy to interact with GenAI agent in code using structure data and chained-calls syntax 🧩 Use Event-Driven Flow *TriggerFlow* to manage complex GenAI working logic 🔀 Switch to any model without rewrite application code

What it solves

Agently 是一個設計用來將 AI 服務從實驗性提示移至可靠生產後端的 AI 應用程式執行時框架。它透過在模型與應用程式代碼之間提供穩定的合約，解決了「輸出漂移」和不穩定的問題，確保模型變更或提供者切換不會破壞業務邏輯。

How it works

Agently 作為執行基底，將模型提供者、提示槽位和回應解析正規化為單一請求/執行時合約。它採用「合約優先」的結構化輸出方法，其中結構定義為提示並由框架驗證。它還具備 TriggerFlow，用於信號驅動的編排，允許工作流程在「即時」模式下對部分結構化輸出作出反應，或對動作結果作出反應，而無需等待完整的模型回應。

Who it’s for

  • Product Engineers 建構 AI 助理、內部副駕駛或 AI 支援的 API，需要可靠性和可維護性的人員。
  • Platform Teams 需要明確擴展點以支援模型提供者、MCP 伺服器和可觀測性的團隊。
  • Technical Leads 尋找一個優先考慮顯式控制和可除錯性，而非廣泛預建代理整合的框架。

Highlights

  • Structured Output Guarantees: 框架層級驗證、必填欄位提取以及與提供者原生功能無關的重試機制。
  • Instant Streaming: 能夠在模型仍在串流 token 時，對特定結構化欄位作出反應。
  • Observable Actions: 支援本地函數、MCP 伺服器和受管理的執行資源（Python、Shell、SQLite），附帶結構化日誌和工件參考。
  • Signal-Driven Workflows: TriggerFlow 支援事件驅動編排、暫停/恢復功能以及狀態快照，以實現可恢復的工作流程。
  • Model Agnostic: 正規化提供者設置和回應解析，使模型切換變得無縫。