ace-agent/ace

它解決的問題

ACE（代理式上下文工程）解決了大型語言模型中的「上下文崩潰」和「簡潔偏見」問題。傳統的迭代提示重寫方式往往會隨著時間推移逐漸損失詳細且領域特定的知識。ACE 讓 LLM 能夠透過將系統提示（上下文）視為一個持續進化的「作戰手冊」，自行改進，累積並精煉策略，同時不遺失先前的資訊。

如何運作

ACE 使用三角色代理架構來管理上下文的演進：

1. 生成器：為查詢產生推理路徑，識別有效的策略與反覆出現的錯誤。
2. 反思者：評估這些路徑，提取洞察，並更新特定策略的「有益/有害」計數器。
3. 策展者：將這些洞察轉化為結構化的差異更新——基於語義相似性和使用統計資料，進行局部編輯，以新增、合併或刪除資訊。

此過程讓模型能從自然執行反饋中學習，無論是離線模式（使用訓練/驗證集）還是線上模式（即時適應）。

適用對象

致力於 LLM 代理與領域特定推理任務（例如財務分析或數位環境互動）的開發者與研究人員，希望在不需微調的高昂成本與複雜性下提升模型表現。

特色

• 自監督學習：利用執行反饋而非標註監督來提升性能。
• 增量差異更新：透過局部編輯而非完整重寫，防止上下文崩潰。
• 高效率：與其他適應方法相比，顯著降低適應延遲與 token 成本。
• 結構化作戰手冊：將演進後的上下文組織為可追蹤的策略、公式與常見錯誤，並附上使用計數器。