victordibia/designing-multiagent-systems

해결하는 문제

이 프로젝트는 멀티 에이전트 AI 시스템을 구축하기 위한 실용적이고 기초 중심적인 접근 방식을 제공합니다. 단순한 LLM 프롬프트에서 정교한 멀티 에이전트 아키텍처로 전환할 때 발생하는 복잡성을 해결하기 위해, 추상화보다는 투명성과 교육을 위해 설계된 PicoAgents라는 맞춤형 프레임워크를 제공합니다.

작동 방식

이 프로젝트는 에이전트 개발의 전체 수명 주기를 다루는 완전한 멀티 에이전트 프레임워크를 처음부터 구현합니다:

• Agent Core: 추론 루프, 도구 호출, 메모리 및 스트리밍을 구현합니다.
• Orchestration: 순차적(round-robin), LLM 기반 화자 선택, 계획 기반 오케스트레이션을 포함한 다양한 조정 전략을 제공합니다.
• Workflows: 스트리밍 관측성을 갖춘 DAG 기반 실행 경로를 구축하기 위한 타입 안전 엔진입니다.
• Specialized Agents: 컴퓨터 사용(브라우저 자동화) 및 소프트웨어 엔지니어링 에이전트 구현을 포함합니다.
• Infrastructure: OpenAI, Azure, Anthropic 및 로컬 LLM을 지원하는 통합 모델 클라이언트 인터페이스와 자동 검색, 디버깅 및 평가를 위한 Web UI를 제공합니다.

대상

멀티 에이전트 시스템의 내부 메커니즘을 이해하고, 특정 서드파티 프레임워크에 종속되지 않고 조정 패턴, 평가 프레임워크 및 프로덕션 수준의 에이전트 워크플로우를 구현하는 방법을 배우고자 하는 개발자 및 AI 엔지니어.

하이라이트

• PicoAgents Framework: 에이전트 추론 및 오케스트레이션의 내부 작동 방식을 공개하기 위해 처음부터 구축된 풀 기능 프레임워크.
• 다양한 오케스트레이션 패턴: GroupChat, LLM 기반 및 계획 기반 조정을 구현합니다.
• Computer Use: 멀티모달 추론 및 브라우저 자동화에 대한 내장 지원.
• 포괄적인 툴링: 실시간 스트리밍 채팅, 디버그 레일 및 MCP (Model Context Protocol) 플레이그라운드를 위한 Web UI를 포함합니다.
• 평가 스위트: LLM-as-judge 메트릭 및 배치 실행 평가를 위한 통합 도구.