InternScience/Agents-A1
Scaling the Horizon, Not the Parameters
解决的问题
Agents-A1 解决了在不需要海量参数的情况下实现前沿级 AI 性能(媲美万亿级参数模型)的挑战。它专注于“扩展智能体视野”(scaling the agent horizon)——即提高模型处理长期轨迹和多样化专业能力的能力——从而使 35B 参数模型能够在复杂的、多步骤的任务中与规模大得多的系统竞争。
工作原理
该项目利用了通过三个阶段过程训练的 35B Mixture-of-Experts (MoE) 架构:
- Full-domain SFT:使基础模型符合通用的智能体行为。
- Domain-level Teacher Training:为特定的专业领域创建专门的教师模型。
- Multi-teacher Distillation:使用具有显著词汇对齐的领域路由在策略蒸馏(on-policy distillation),将六个异构领域合并到一个学生模型中。
为了支持这一点,团队构建了一个连接外部知识、动作和观察的知识-动作基础设施,允许模型在平均 45K token 的轨迹上进行训练。
适用对象
- 开发者和企业:希望将高性能智能体模型集成到其应用中。
- AI 研究人员:对智能体视野扩展和通过蒸馏进行高效知识迁移感兴趣。
- 本地 AI 爱好者:可以使用 4B 版本或量化变体在 Mac 等硬件上进行本地部署。
亮点
- 智能体推理:能够将复杂任务分解为可执行的子步骤,并根据结果调整策略。
- 工具集成:原生支持函数调用、API、代码解释器和搜索引擎。
- 长上下文处理:在长对话和文档中具有强大的连贯性和召回能力。
- 高效率:在保持 35B 参数规模的同时,提供与前沿模型(如 GPT-5.5)相媲美的竞争力性能。
相关
- 项目
- Dispatch
- Dispatch
- 项目
- Dispatch