AgentEra/Agently

解決的問題

Agently 是一個專為將 AI 服務從實驗性提示轉換為可靠生產後端而設計的 AI 應用執行時框架。它透過提供結構化輸出的穩定契約、可觀測的動作執行以及可恢復的工作流程，解決了輸出漂移與模型不穩定的問題，確保即使更換模型或提供者，業務邏輯依然完整無損。

如何運作

Agently 透過統一的請求/執行時契約，標準化應用程式與 AI 模型之間的互動。它使用「提示槽」來組合請求，並採用契約優先的結構化輸出方法，其中模式以提示形式定義，並由框架進行驗證。在編排方面，它內建 TriggerFlow，一個信號驅動的工作流程引擎，支援暫停/恢復功能與事件驅動執行。同時也管理專用的 Action Runtime 用於工具調用，支援本地函數、MCP 伺服器以及沙箱執行環境（如 gVisor 或 Landlock）。

適用對象

• 產品工程師：建構 AI 助手、內部協作者或 AI 驅動的 API，需要可靠性和結構化資料的人。
• 平台團隊：需要明確的擴展點以整合模型提供者、工具與可觀測性的人。
• 技術負責人：尋找可維護框架，優先考慮明確控制與可調試性，而非「提示膠水」式開發的人。

主要特色

• 契約優先輸出：透過模式即提示、必填欄位提取與驗證處理器，確保結構化輸出。
• 結構化串流：instant 模式允許應用在模型仍在串流時，對特定結構化欄位即時回應。
• 可觀測動作：提供專用的 Action Runtime 用於工具調用，內建支援 Python、Shell、Node.js、SQLite 與 MCP 伺服器。
• 信號驅動工作流程：TriggerFlow 支援事件驅動的 DAG、扇出與狀態快照，實現可恢復執行。
• 模型無關性：標準化提供者設定與回應解析，無需重寫業務邏輯即可輕鬆切換模型。