truefoundry/trueforge

The open-source agent harness - the runtime layer that turns an LLM into a working agent.

解决的问题

TrueForge 解决了从基础 LLM 提示词过渡到完全运行的 AI 代理的困难。虽然创建提示词很简单,但管理运营需求——如流式传输、会话持久化、工具集成、沙箱代码执行以及用户审批工作流——却很复杂。TrueForge 提供了一个标准化的运行时层(即“代理 harness”),可开箱即用地处理这些基础设施需求。

工作原理

TrueForge 作为一个执行循环,管理 LLM 与其环境之间的交互。它连接到模型提供商(OpenAI、Anthropic、Gemini 等),并集成 Model Context Protocol (MCP) 服务器以获取工具,以及基于 Git 的“技能”来获取指令。它利用 Daytona 提供的沙箱进行隔离的代码和文件执行。系统可以使用 SQLite 部署在轻量级本地模式下,或使用 Postgres 和 Redis 部署在可扩展的托管模式下。用户可以通过内置聊天 UI、带有 TypeScript SDK 的 HTTP API,或可嵌入的 UI SDK 与代理进行交互。

适用人群

专为希望构建和部署生产就绪的 AI 代理,而无需手动实现底层运行时基础设施、会话管理及工具调用循环的开发者设计。

主要亮点

  • 全面的运行时:处理模型调用、MCP 工具、会话状态和上下文管理。
  • 沙箱集成:作为工具提供隔离的代码执行,确保密钥在 harness 内部安全。
  • 人机协同:支持人类检查点,用于工具审批和向用户提问。
  • 灵活部署:提供零配置本地模式和通过 Docker Compose 或 Helm 实现的可扩展托管模式。
  • 上下文工程:包含子代理、延迟工具加载和上下文压缩等高级功能。

写过它的文章

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目