heaven999b/hello-agent-system
👋 Hello Agent System — learn enterprise AI agent system design by building every production layer from scratch. 17 bilingual lessons (EN/中文) with tested exercises: tools, architectures, reliability, security, evals, distributed execution, cost, RAG, release ops. 企业级 Agent 系统设计训练营
해결하는 문제
대부분의 에이전트 튜토리얼은 LLM을 호출하고 도구를 사용하는 간단한 루프를 작성하는 방법만 보여줍니다. 그러나 수천 명이 사용하는 회사에 에이전트를 배포하면 실제 문제가 발생합니다: 모델이 속도 제한 오류를 반환하고, 에이전트가 무한 루프에 빠져 비용을 낭비하고, 사용자가 문서에 프롬프트 인젝션 지침을 숨기고, 한 테넌트의 데이터가 다른 테넌트의 답변에 누출되고, 프롬프트 변경이 다른 시나리오를 깨뜨리거나, 프로세스가 실행 중에 충돌합니다. 이 프로젝트는 데모를 만드는 방법뿐만 아니라 이러한 모든 프로덕션 문제를 해결하는 방법을 가르치는 구조화된 교육 시스템입니다.
작동 방식
이 프로젝트는 32개 레슨의 이중 언어(중국어/영어) 부트캠프입니다. 에이전트 프레임워크를 피하고 대신 프로덕션 에이전트의 모든 레이어를 처음부터 직접 작성합니다. 파트 1은 핵심 비동기 런타임을 구축합니다: 에이전트 루프, 도구, 컨텍스트 관리, 아키텍처, 오케스트레이션. 파트 2는 엔터프라이즈 문제 카드를 다루며 각 문제에 대해 2~5개의 솔루션 옵션을 제공합니다: 신뢰성, 보안, 관찰 가능성, 평가, 프로덕션 아키텍처, 높은 동시성, 비용, RAG, 릴리스 운영. 파트 3은 검색 품질, 메모리 시스템, MCP, 프레임워크 비교, 에이전트 데이터, 평가 방법론, 최적화, 코딩 에이전트, 능동적 에이전트를 더 깊이 다룹니다. 파트 4는 동일한 내부 인터페이스를 Postgres, Redis, Temporal, OpenTelemetry, LiteLLM, Cedar와 같은 성숙한 구성 요소로 교체하여 실제 배포를 수행합니다.
각 레슨은 동일한 흐름을 따릅니다: 강의를 읽고, 데모를 실행하고, 연습 문제를 작성하고, 자동화된 오프라인 결정적 테스트를 통과합니다. 레슨 02부터 코드는 비동기식이며, 하나의 프로세스가 수백 개의 세션을 처리합니다. 레슨 12부터는 임대 큐, 펜싱 토큰, kill -9 인수, SIGSTOP 좀비 감지, 정상 종료를 갖춘 실제 다중 프로세스 실행을 사용하며, 모두 실제 프로세스와 신호로 검증됩니다. 마지막에는 모든 것을 통합하여 캡스톤 IT 서비스 데스크 에이전트를 조립하고 docker-compose 또는 Kubernetes로 배포할 수도 있습니다.
대상 독자
코드에서 LLM API를 호출하는 방법은 이미 알고 있지만 실제 엔터프라이즈 환경에서 안정적이고 안전하며 제어 가능한 에이전트 시스템을 설계, 구축, 운영하는 방법을 배우고 싶은 개발자를 위한 것입니다. 데모 수준의 예제를 넘어 에이전트의 모든 레이어(장애 모드 및 복구 방법 포함)를 이해하려는 엔지니어에게 적합합니다.
하이라이트
- 32개 레슨, 이중 언어(중국어/영어), 각 레슨에 연습 문제와 자동화된 오프라인 결정적 테스트 포함.
- 직접 작성한 에이전트 런타임: 약 3,800줄의 핵심 비동기 코드와 2,000줄의 분산 모듈, 에이전트 프레임워크 없이 구축.
- 실제 다중 프로세스 실행: 임대 큐, 펜싱, 충돌 인수, 좀비 워커 복구, 정상 종료—모두 실제 프로세스와 신호로 입증.
- 엔터프라이즈 문제 카드: 모든 주요 문제에 대해 장점, 단점, 적용 규모를 비교한 2~5개의 솔루션 옵션.
- 마이그레이션 경로: SQLite와 프로세스 내 상태로 시작한 다음 에이전트 코드를 변경하지 않고 Postgres, Redis, Temporal, OpenTelemetry, LiteLLM, Cedar로 교체.
- 캡스톤 프로젝트(ITBuddy)로 모든 것을 통합하고, 10개의 보안 케이스를 포함한 24개 케이스 평가 스위트 제공.
- 광범위한 참조 문서: 79개의 장애 모드, 199개의 설계 검토 체크리스트 항목, 76개의 인터뷰 질문, 246개의 용어집 항목, 프로덕션 준비 가이드.
- OpenAI 호환 엔드포인트(OpenAI, DeepSeek, Qwen, vLLM 등)와 함께 작동하며, 스크립트된 LLM을 사용하는
--offline모드로 무료 학습 가능.
관련
- 프로젝트
- 프로젝트
- 프로젝트
- 프로젝트