vercel-labs/knowledge-agent-template

解决的问题

本项目提供了一个构建 AI 代理的模板，该代理无需复杂的嵌入管道或向量数据库，即可访问和搜索自定义知识库。通过直接使用文件系统搜索，消除了传统 RAG（检索增强生成）相关的基础设施开销。

工作原理

系统将来自各种来源（如 GitHub 仓库和 YouTube 字幕）的内容同步到快照仓库中。当用户提出问题时，代理在隔离的 Vercel Sandbox 中运行。它不使用向量搜索，而是使用标准的 bash 工具（如 grep、find 和 cat）直接搜索和读取文件。此外，系统还具备复杂度路由功能，可将简单问题发送到成本较低的模型，将复杂问题发送到更强大的 LLM，以优化成本。

适用人群

希望快速在多个平台（Web、GitHub、Discord）上部署基于知识的 AI 代理的开发者，且希望采用确定性、可解释的搜索方法，而非基于向量的方法。

主要亮点

• 无向量 RAG：使用文件搜索（grep、find、cat）实现确定性和即时结果，无需嵌入。
• 多平台部署：一个代理可同时部署为 Web 聊天应用、GitHub 机器人和 Discord 机器人。
• AI 驱动的管理面板：包含专用代理的管理面板，可通过自然语言回答关于使用情况、错误和性能的运营问题。
• Shannon Sandbox Pool：使用共享的只读沙箱池，确保启动时间极快（低于 100ms）且资源高效。
• 复杂度路由：根据问题的难度自动将查询路由到不同 LLM 模型，以降低使用成本。