truefoundry/trueforge

해결하는 문제

TrueForge는 기본적인 LLM 프롬프트에서 완전히 운영 가능한 AI 에이전트로 전환하는 어려움을 해결합니다. 프롬프트를 만드는 것은 간단하지만, 스트리밍, 세션 지속성, 도구 통합, 격리된 코드 실행, 사용자 승인 워크플로우와 같은 운영 요구사항을 관리하는 것은 복잡합니다. TrueForge는 표준화된 런타임 계층("에이전트 허치")을 제공하여 이러한 인프라 요구사항을 기본적으로 처리합니다.

작동 방식

TrueForge는 LLM과 환경 간의 상호작용을 관리하는 실행 루프로 작동합니다. OpenAI, Anthropic, Gemini 등 모델 제공업체에 연결하고, 도구용 Model Context Protocol(MCP) 서버 및 Git 기반의 "스킬"(지침)에 통합합니다. 코드와 파일 실행을 위해 Daytona을 통한 사전(샌드박스)을 활용합니다. 시스템은 SQLite를 사용하는 가벼운 로컬 모드 또는 Postgres와 Redis를 사용하는 확장 가능한 호스팅 모드로 배포할 수 있습니다. 사용자는 내장된 채팅 UI, TypeScript SDK가 있는 HTTP API, 또는 임베디드 가능한 UI SDK를 통해 에이전트와 상호작용할 수 있습니다.

대상 사용자

기본적인 런타임 인프라, 세션 관리, 도구 호출 루프를 수동으로 구현하지 않고도 프로덕션 준비된 AI 에이전트를 구축하고 배포하고자 하는 개발자들을 위한 것입니다.

주요 기능

• 포괄적인 런타임: 모델 호출, MCP 도구, 세션 상태, 컨텍스트 관리를 처리합니다.
• 샌드박스 통합: 도구로서 격리된 코드 실행을 제공하여 비밀 정보를 허치 내부에서 안전하게 유지합니다.
• 사람이 개입하는 루프: 도구 승인 및 사용자 질문을 위한 인간 체크포인트를 지원합니다.
• 유연한 배포: 설정 없이 사용 가능한 로컬 모드와 Docker Compose 또는 Helm을 통한 확장 가능한 호스팅 모드를 제공합니다.
• 컨텍스트 엔지니어링: 서브에이전트, 지연 도구 로딩, 컨텍스트 압축과 같은 고급 기능을 포함합니다.