qybaihe/mu

mu (μ): a coding agent that thinks before it acts. A small, fast judge makes the routine calls, the big model does the work. Built on pi and AionUi.

解决的问题

代码代理经常因使用大模型处理琐碎的非编码决策(例如,决定保留哪些上下文内容、命令是否安全,或任务何时完成)而浪费令牌、增加延迟并失去焦点。mu 通过将这些决策交给「判断内核」——一个小型、快速的模型来解决此问题。该内核处理有限的「是/否」或评分类问题,使主大模型能专注于实际的编码工作。

工作原理

mu 在输入、上下文、工具和回合管理中实现了 35 个特定的「决策点」。在每个决策点,一个小型判断模型(如托管的 Jev、本地的 322M 参数 Laya 模型,或其他 LLM)回答一个有限的问题,以决定下一步行动。

关键机制包括:

  • 上下文管理:判断模型决定哪些工具输出应保留在上下文中,哪些应归档,并识别过时结果以进行修剪。
  • 蜂巢(The Hive):一个由「蜜蜂」(子代理)执行特定任务的多代理系统。判断模型充当守门人,决定蜜蜂的发现是否值得在集体板上共享,或板上的某条笔记是否对特定蜜蜂相关。
  • 自然语言板:不向工作模型请求叙述其进展,而是由专用模型将代理状态总结为人类可读的板面内容。
  • 判断日志:判断模型做出的每个决策都会被记录,允许用户审计代理行为背后的推理过程。

适用人群

希望拥有高效管理自身上下文、减少令牌浪费并提供透明、人类可读进度追踪的高性能代码代理的开发者。

特色亮点

  • 判断内核:使用小型、快速模型处理每轮 35 个不同的决策点。
  • 本地判断选项:包含 Laya,一个 322M 参数的本地模型,兼顾隐私与速度。
  • 智能上下文修剪:通过逐块判断工具输出并丢弃过时数据,防止上下文溢出。
  • 蜂巢:一个协调的多代理系统,拥有共享的、仅追加的板面用于记录发现和争议。
  • 原生桌面应用:提供完整 GUI,包含专用标签页用于板面、判断、蜂巢以及内置浏览器。

相关

  • 项目
  • 项目
  • 项目
  • 项目