truefoundry/trueforge
The open-source agent harness - the runtime layer that turns an LLM into a working agent.
解決的問題
TrueForge 解決了從基本的 LLM 提示詞過渡到完全運作的 AI 代理的困難。雖然建立提示詞很簡單,但管理營運需求——例如串流、會話持久化、工具整合、沙箱程式碼執行,以及使用者審核工作流程——卻很複雜。TrueForge 提供一個標準化的執行時層(即「代理 harness」),可開箱即用處理這些基礎設施需求。
工作原理
TrueForge 作為一個執行迴圈,管理 LLM 與其環境之間的互動。它連接到模型提供者(OpenAI、Anthropic、Gemini 等),並整合 Model Context Protocol (MCP) 伺服器以取得工具,以及基於 Git 的「技能」來取得指示。它利用 Daytona 提供的沙箱進行隔離的程式碼與檔案執行。系統可使用 SQLite 部署在輕量級本機模式下,或使用 Postgres 和 Redis 部署在可擴展的主機模式下。使用者可透過內建聊天 UI、具備 TypeScript SDK 的 HTTP API,或可嵌入的 UI SDK 與代理互動。
適用對象
專為希望建構和部署生產就緒的 AI 代理,而無需手動實作底層執行時基礎設施、會話管理及工具呼叫迴圈的開發者設計。
主要亮點
- 全面的執行時:處理模型呼叫、MCP 工具、會話狀態和上下文管理。
- 沙箱整合:作為工具提供隔離的程式碼執行,確保密鑰在 harness 內部安全。
- 人機協同:支援人類檢查點,用於工具審核和向使用者提問。
- 彈性部署:提供零設定本機模式和透過 Docker Compose 或 Helm 實現的可擴展主機模式。
- 上下文工程:包含子代理、延遲工具載入和上下文壓縮等進階功能。
寫過它的文章
相關
- 專案
- 專案
- 專案
- 專案
- 專案