oxbshw/LLM-Agents-Ecosystem-Handbook

One-stop handbook for building, deploying, and understanding LLM agents with 60+ skeletons, tutorials, ecosystem guides, and evaluation tools.

解決的問題

本專案提供一套全面且面向生產環境的作業手冊,用於建構與部署現代 LLM 代理系統。它超越簡單的提示詞與工具,將代理視為具備身分、記憶、技能、安全性與可觀測性的完整系統。

如何運作

本手冊以模組化堆疊結構組織,涵蓋代理的整個生命週期:

  • 提供者生態系: 抽象層(LLMProvider)與路由器,支援 24+ 個 LLM 提供者(前沿模型、快速推論、本地執行環境等),讓開發者無需更動代理程式碼即可切換模型。
  • 代理作業系統概念: 一種結構化方法,涵蓋代理身分、記憶,以及用於標準化工具整合的模型上下文協定(MCP)。
  • 技能與記憶: 用於建立可重複使用的多步驟工作流程(技能)與跨會話持久化狀態(記憶)的分類法與成熟度模型。
  • 工程實務: 專門指南涵蓋代理專用的提示工程、安全防護(風險等級審核)以及可觀測性(追蹤與評估)。
  • 設計與部署: 機器可讀的設計規格(DESIGN.md)、架構決策紀錄(ADRs)與生產就緒檢查清單。

適用對象

需要以標準化方式組織其代理身分、工具與提供者策略的生產級 AI 代理開發者與架構師,以及使用編碼代理(如 Cursor 或 Claude Code)來管理程式碼庫的人。

主要亮點

  • 多提供者路由器: 支援 24+ 個 LLM 提供者的統一介面,具備備援鏈功能。
  • 全面的範本: 可直接複製貼上的系統提示詞、代理身分(SOUL.md)與記憶索引(MEMORY.md)範本。
  • 編碼代理優化: 包含 llms.txt 與特定提示詞,使倉儲本身易於被 AI 編碼工具導航。
  • 框架對比: 以詳細矩陣對比 LangGraph、CrewAI 與 Pydantic AI 等主流代理框架。
  • 風險等級安全: 基於風險等級(低至嚴重)的工具權限管理結構化框架。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • Dispatch