IsuruMaduranga/harness-engineering-101

해결하는 문제

LLM API는 상태가 없습니다: 매 턴마다 전체 대화를 JSON 배열로 보내고 텍스트를 받습니다. 이로 인해 에이전트 구축이 혼란스러워집니다. 이 책은 '에이전트'라고 불리는 모든 것이 그 루프에 대한 패치 집합에 불과하다는 것을 명확히 합니다. 모델이 컨텍스트를 잃는 것, 도구 호출이 제한되는 것, 배열이 너무 커지는 것과 같은 일반적인 실패를 다루고, 프레임워크가 왜 존재하는지와 실제로 무엇을 하는지 설명합니다.

작동 방식

이 시리즈는 16개 장을 통해 진행되며, 각 장은 같은 형태를 따릅니다: 실패, 최소 패치, 그 패치의 비용. 진행하면서 순수 Python으로 약 300줄의 장난감 에이전트를 키웁니다. 책은 여러 부분으로 나뉩니다: The Wire(기본), Running Long(긴 컨텍스트 처리), The Ecosystem(프레임워크 및 확장), Trust, Domains, and Data(가드레일, 코딩 에이전트, RAG). 또한 모델 라우팅, 워크트리, 플랜 모드, 재시도/스트리밍과 같은 고급 주제에 대한 부록도 포함합니다. 전체 소스 챕터는 src/*.md에 있으며, 실행 가능한 장난감 하네스는 src/harness/에, 다이어그램 생성기도 있습니다.

대상 독자

고수준 프레임워크를 사용하는 것보다 AI 에이전트를 근본적으로 이해하려는 개발자. 에이전트 프레임워크의 마법에 혼란을 느끼거나 컨텍스트 관리, 도구 호출, 프롬프트 디버깅에 어려움을 겪은 LLM 애플리케이션을 구축하는 모든 사람을 위한 것입니다. 저자가 WSO2 코파일럿과 One Code 코딩 에이전트를 구축한 실무 경험이 설명을 실제 세계의 교훈에 기반하게 합니다.

하이라이트

• 순수 Python으로 장난감 에이전트를 처음부터 키우며 각 증분 단계를 보여줍니다.
• 각 장은 일관된 패턴을 따릅니다: 실패, 최소 패치, 비용.
• 도구, 캐싱, 하위 에이전트, 컨텍스트 예산, 스티어링, 가드레일, RAG 등 필수 주제를 다룹니다.
• 모델 라우팅, 워크트리 격리, 플랜 모드, 재시도, 속도 제한, 스트리밍에 대한 부록을 포함합니다.
• 이중 라이선스: 본문은 CC BY-NC-ND 4.0, 코드는 MIT로, 코드를 자유롭게 재사용할 수 있습니다.