evalstate/fast-agent

해결하는 문제

fast-agent는 고도화된 다중 모달 AI 에이전트 및 워크플로우를 구축하고 상호작용하기 위한 프레임워크입니다. 프롬프트를 선언적으로 조합하고 Model Context Protocol (MCP) 서버에 연결하기 위한 간결한 구문을 제공함으로써, 코딩 에이전트, 개발 툴킷, 평가 플랫폼을 만드는 과정을 간소화합니다.

작동 방식

이 프레임워크는 Python 기반의 선언적 접근 방식을 사용하며, 에이전트는 데코레이터(@fast.agent 등)를 통해 정의됩니다. 개발자는 에이전트를 시퀀스로 연결하거나, 병렬 실행 경로를 생성하거나, Evaluator-Optimizer 루프 및 Orchestrators와 같은 고급 패턴을 사용할 수 있습니다. MCP와 깊이 통합되어 있으며, STDIO 및 Streamable HTTP 전송 방식(보안 서버 연결을 위한 OAuth 포함)을 지원합니다. CLI 중심 설계로, 실시간 스트리밍 응답을 위한 인터랙티브한 TUI 스타일 터미널도 제공합니다.

대상 사용자

AI 에이전트 애플리케이션을 개발하는 개발자, 코딩 에이전트용 유연한 툴킷이 필요한 사용자, 구조화된 오케스트레이션과 도구 사용이 필요한 복잡한 LLM 워크플로우를 구현하는 팀에게 적합합니다.

주요 특징

• 포괄적인 MCP 지원: Sampling, Elicitations, Streamable HTTP 전송 진단을 포함한 MCP 기능의 엔드투엔드 테스트 완료 지원.
• 다양한 워크플로우 패턴: Chaining, Parallel fan-out/fan-in, Evaluator-Optimizer 루프, Routers, Orchestrators의 내장 지원.
• MAKER (K-voting): 간단한 단계의 긴 체인에서 오류를 줄이기 위해 반복적으로 응답을 샘플링하는 투표 메커니즘 구현.
• 에이전트를 도구로 사용: 주 에이전트가 다른 에이전트를 도구로 호출하여 라우팅 및 병렬화를 수행할 수 있도록 복잡한 작업을 하위 작업으로 분할.
• 광범위한 모델 호환성: TensorZero를 통해 Anthropic, OpenAI, Google, Azure, Ollama, Deepseek 등에 대한 네이티브 지원.
• 사람이 중간에 개입하는 방식: 작업 완료 중 추가적인 컨텍스트를 얻기 위해 에이전트가 사람의 입력을 요청하도록 구성 가능.