GLM-5: 面向长程智能体工程与复杂系统任务的旗舰级 LLM 系列
GLM-5: 面向长程智能体工程与复杂系统任务的旗舰级 LLM 系列
它解决了什么问题
GLM-5 是一个专为复杂系统工程和长程智能体任务设计的旗舰级大语言模型系列。它解决了以往模型在给予更多时间或迭代次数时性能会进入平台期的局限性,转而能够在数百轮工具调用和数千次迭代中保持生产力,以解决模糊问题。
它是如何工作的
该系列通过三个版本进行演进:
- GLM-5: 参数规模扩展至 744B(40B 激活),并使用 DeepSeek Sparse Attention (DSA) 来降低部署成本。它使用一种名为 "slime" 的新型异步 RL 基础设施进行训练,以提高训练吞吐量。
- GLM-5.1: 专注于智能体工程和编码,提升了模型通过重复迭代来分解复杂问题、运行实验并修正策略的能力。
- GLM-5.2: 引入了稳健的 1M-token 上下文窗口和一种名为 IndexShare 的新架构,该架构在稀疏注意力层之间复用相同的索引器,从而在长上下文长度下将每个 token 的 FLOPs 降低 2.9 倍。它还具有用于投机解码的改进型 MTP 层。
面向对象
该项目面向从事自主智能体、复杂软件工程任务以及需要处理海量上下文(高达 1M tokens)的应用的开发者和研究人员。
亮点
- 长程能力: 专门针对需要长期规划和资源管理的任务进行了优化。
- 1M Token 上下文: GLM-5.2 为长程工作提供了稳定且庞大的上下文窗口。
- 灵活的思考投入度: 支持
reasoning_effort参数 (max或high),以平衡性能和延迟。 - 高性能编码: 在 Terminal-Bench 和 SWE-bench Pro 等编码基准测试中表现优于许多开源模型。
Sources
- undefinedzai-org/GLM-5