Accio-Lab/occamy

Occamy model repo

解决的问题

Occamy-1.0 是一款专为现实世界协作工作构建的紧凑型 AI 模型:这些任务通常跨越多个步骤,涉及工具、文件、搜索和结构化 API,并且需要在长时间的会话中保持连贯性。它专注于可靠的执行、状态跟踪、错误恢复和任务完成,而不仅仅是回答问题。

工作原理

该模型基于现有的检查点 (Qwen3.6-35B-A3B) 构建,并针对智能体协作进行了专门的进一步训练。它采用混合专家 (Mixture-of-Experts) 设计,总参数为 35B,但每次调用仅激活 3B,使其在长时间运行的工作负载中非常高效。训练过程涉及两个专家模型——一个用于持续执行,另一个用于保持通用能力——然后进行合并和微调。所有训练数据均来自具有可观察结果的可执行环境。该模型支持长上下文(最高 262,144 tokens),并可使用 SGLang 和 vLLM 等标准工具进行部署。

适用人群

适用于构建智能体系统的开发者和研究人员,他们需要一个能够处理多步专业工作流、使用工具、编写代码以及与文件和 API 交互的模型。它也适合那些希望使用具有紧凑推理占用空间的开源模型的用户。

亮点

  • 专为协作工作优化:跨工具、文件和 API 的长周期、有状态任务。
  • 紧凑的推理:总参数 35B,激活参数 3B,适合长时间运行。
  • 在协作基准测试中表现强劲,超越了其基础模型和多个同类模型。
  • 提供开放的训练栈 (Dressage) 和多个量化检查点。

相关

  • 项目
  • 项目
  • 项目
  • 项目