Human-Agent-Society/reef
Infrastructure for continually self‑improving agents
解决的问题
Reef 提供了自动化 AI 智能体持续改进的基础设施。它不再依赖静态部署,而是创建了一个反馈循环,使智能体能够从自身的交互中学习,从而在无需人工干预的情况下随时间推移优化其性能。
工作原理
Reef 通过四个步骤的循环运行:
- Serve(服务):托管智能体并记录所有交互。
- Observe(观察):收集反馈(如评分或修正)并将其与特定的智能体响应相关联。
- Grow(成长):使用“配方”(recipes)处理这些反馈并生成更新,无论是通过训练新的模型权重,还是优化智能体的“框架”(提示词、规则和技能)。
- Commit(提交):评估这些更新并将其发布到版本化历史记录中,使智能体在保持在线的同时实现改进。
适用对象
该项目面向希望实现自我改进能力的自主智能体开发者和研究人员。它特别适用于从事科学发现、任务流学习或需要根据真实世界使用反馈进行调整的智能体开发工作。
亮点
- 双重演进机制:支持模型权重训练(使用 GPU 堆栈)和框架优化(使用模型 API)。
- 版本管理:自动跟踪和管理智能体更新的版本,确保学习过程中的稳定性。
- OpenAI 兼容:提供与标准 OpenAI 和 Anthropic API 格式兼容的推理端点。
- 配方驱动:包含一系列针对不同任务(如科学发现和持续学习)的预构建配方。
相关
- Dispatch
- 项目
google-deepmind/reverbReverb 是一个仅支持 Linux、对 Python 友好的库(带有 C++ 后端),为强化学习研究提供基于 gRPC 的分布式经验回放服务。它允许你定义具有可配置采样/移除策略(如均匀、优先级、FIFO 等)的表,支持速率限制器和容量限制,并支持跨多个服务器的检查点和分片。通过 `pip install dm-reverb[tensorflow]` 安装,并使用 `reverb.Server`/`reverb.Client` API 插入和采样数据。专为研究设计,不适用于生产环境,且与特定 TensorFlow 版本紧密耦合。
- 项目
bytedance/deer-flowDeerFlow 是一个开源框架,让你能够构建自主 AI 智能体,这些智能体能够编排子智能体、使用工具(网络搜索、沙箱代码执行、RAG)并管理记忆。它支持许多 LLM 提供商,提供 Web UI、终端 UI,并集成追踪服务,全部可通过 Docker 部署。
- 项目
Tencent/WeSmartFlowWeSmartFlow 是一个开源自适应学习平台,使用 AI 代理进行辅导、生成课程并在个人知识图谱中跟踪进度,具有 Vue 前端、FastAPI 后端和可选的微信集成。
- 项目
WeaveMindAI/weftWeft 是一种编译式、基于图形的语言和运行时,用于编排 AI 工作流程。它让您可以将 LLM 调用、代理、API、数据库和人工介入步骤连接为类型化图形中的节点,在执行前验证设计、持久化长时间运行的任务,并记录所有数据流的日志。它与 AI 助手“Tangle”集成,支持自动代码生成、测试和版本化运行。虽然处于早期阶段但已可用,提供基于 Docker 的安装程序、VS Code 扩展,以及 WhatsApp 支持机器人等示例。