InternLM/lagent
A lightweight framework for building LLM-based agents
解决的问题
Lagent 是一个用于构建多智能体应用的框架。它借鉴了 PyTorch 的设计哲学，简化了智能体的创建以及它们之间通信和消息传递的定义过程，使开发人员能够直观地使用工作流。
如何工作
Lagent 将智能体和工具视为网络中的层，通过 AgentMessage 对象处理通信。它通过一个记忆系统来管理智能体状态，该系统会跟踪输入和输出消息。框架提供灵活的响应格式化（通过解析器）以及通过 ActionExecutor 和钩子实现的一致工具调用接口。为了同时支持快速原型开发和高性能部署，它为所有主要组件（LLM、动作、执行器）提供了同步和异步两种接口。
适用人群
构建复杂 AI 智能体工作流的开发者，例如自我优化的写作者、使用代码解释器的数学求解器，或用于数据收集和可视化的多智能体系统。
特性亮点
- PyTorch 启发的设计：使用类似层的类比来定义智能体工作流和消息传递。
- 双接口支持：为调试和大规模推理提供同步与异步两种组件变体。
- 灵活的内存管理：内置基于会话的内存管理，用于隔离对话和工具环境。
- 可自定义聚合器：允许用户实现自定义逻辑，用于消息的组装与转换为 LLM 提示（例如少样本提示）。
- 集成工具支持：内置对代码解释器（IPython）和网页浏览器的支持。
相关
- 项目
- 项目
- 项目
- 项目
- 项目