get-convex/agent

解决的问题

该项目提供了一个框架，用于构建能够维护持久聊天线程、处理工具调用并集成 RAG（检索增强生成）的 AI 代理。它解决了将长时间运行的代理工作流与 UI 分离，同时确保客户端能够实时接收响应式更新的问题。

如何工作

该组件管理代理在静态或动态工作流中使用的线程和消息。它使用 LLM 的抽象来处理特定的提示、模型和工具调用。为了保持客户端同步，它通过 WebSocket 而非传统的 HTTP 流式传输来传输文本和对象。它自动包含对话上下文，包括线程内消息的混合向量/文本搜索，并支持从外部源进行提示增强的 RAG 技术。

适用人群

在 Convex 平台上构建 AI 驱动应用，需要一种持久、可靠的方式来管理代理工作流、对话历史和实时更新的开发者。

主要亮点

• 持久线程： 管理用户与代理（包括人类代理）之间的共享消息。
• 响应式流式传输： 使用 WebSocket 从异步函数高效流式传输文本和对象。
• 集成 RAG： 支持混合向量/文本搜索，并与 RAG 组件集成以实现提示增强。
• 持久工作流： 支持跨越代理和用户的多步骤操作。
• 开发者工具： 包含用于提示迭代的代理沙盒、用于计费的使用量跟踪，以及用于管理 LLM 提供商限制的速率限制。