docker/compose-for-agents

Build and run AI agents using Docker Compose. A collection of ready-to-use examples for orchestrating open-source LLMs, tools, and agent runtimes.

해결하는 문제

이 리포지토리는 AI 에이전트의 배포와 오케스트레이션을 단순화하는 자체 포함형 데모 모음입니다. Docker Compose를 사용하여 다중 에이전트 프레임워크 및 Model Context Protocol (MCP) 서버를 포함한 복잡한 에이전트 시스템을 빠르게 구동할 수 있으며, 로컬 또는 클라우드 환경에서의 설정 부담을 줄입니다.

작동 방식

각 데모는 Docker Compose 프로젝트로 구성되어 있습니다. 사용자는 GPU를 활용하는 Docker Model Runner를 통해 로컬에서 실행하거나, OpenAI와 같은 리모트 API를 통해 실행할 수 있습니다. 데모는 CrewAI, LangGraph, Agno와 같은 다양한 에이전트 프레임워크를 통합하고, DuckDuckGo, GitHub, Wikipedia 등의 MCP를 통해 외부 도구 및 데이터 소스에 연결합니다.

대상 사용자

기본 인프라, 모델, 도구 통합을 수동으로 구성하지 않고도 에이전트 워크플로우와 다중 에이전트 시스템을 탐색, 테스트, 배포하고자 하는 개발자 및 AI 엔지니어.

주요 특징

  • 다중 프레임워크 지원: CrewAI, LangGraph, Agno, ADK, Vercel AI-SDK의 예제 포함.
  • 유연한 모델 실행: Docker Model Runner를 통한 로컬 모델 실행과 OpenAI와 같은 리모트 API 기반 모델을 모두 지원.
  • MCP 통합: 웹 검색, 데이터베이스 접근, 이메일 전송과 같은 실세계 기능을 제공하는 Model Context Protocol (MCP) 서버 사용 예시.
  • 빠른 배포: 다양한 에이전트 사용 사례에 대한 환경 설정을 자동화하기 위해 docker compose up --build를 사용.

관련

  • 프로젝트
  • 프로젝트
  • 프로젝트
  • 프로젝트