qybaihe/mu
mu (μ): a coding agent that thinks before it acts. A small, fast judge makes the routine calls, the big model does the work. Built on pi and AionUi.
解决的问题
代码代理经常因使用大模型处理琐碎的非编码决策(例如,决定保留哪些上下文内容、命令是否安全,或任务何时完成)而浪费令牌、增加延迟并失去焦点。mu 通过将这些决策交给「判断内核」——一个小型、快速的模型来解决此问题。该内核处理有限的「是/否」或评分类问题,使主大模型能专注于实际的编码工作。
工作原理
mu 在输入、上下文、工具和回合管理中实现了 35 个特定的「决策点」。在每个决策点,一个小型判断模型(如托管的 Jev、本地的 322M 参数 Laya 模型,或其他 LLM)回答一个有限的问题,以决定下一步行动。
关键机制包括:
- 上下文管理:判断模型决定哪些工具输出应保留在上下文中,哪些应归档,并识别过时结果以进行修剪。
- 蜂巢(The Hive):一个由「蜜蜂」(子代理)执行特定任务的多代理系统。判断模型充当守门人,决定蜜蜂的发现是否值得在集体板上共享,或板上的某条笔记是否对特定蜜蜂相关。
- 自然语言板:不向工作模型请求叙述其进展,而是由专用模型将代理状态总结为人类可读的板面内容。
- 判断日志:判断模型做出的每个决策都会被记录,允许用户审计代理行为背后的推理过程。
适用人群
希望拥有高效管理自身上下文、减少令牌浪费并提供透明、人类可读进度追踪的高性能代码代理的开发者。
特色亮点
- 判断内核:使用小型、快速模型处理每轮 35 个不同的决策点。
- 本地判断选项:包含 Laya,一个 322M 参数的本地模型,兼顾隐私与速度。
- 智能上下文修剪:通过逐块判断工具输出并丢弃过时数据,防止上下文溢出。
- 蜂巢:一个协调的多代理系统,拥有共享的、仅追加的板面用于记录发现和争议。
- 原生桌面应用:提供完整 GUI,包含专用标签页用于板面、判断、蜂巢以及内置浏览器。
相关
- 项目
- 项目
- 项目
- 项目