qybaihe/mu

mu (μ): a coding agent that thinks before it acts. A small, fast judge makes the routine calls, the big model does the work. Built on pi and AionUi.

何を解決するか

コードエージェントは、大規模モデルを用いて単純な非コード判断(例:コンテキストに保持すべき内容の決定、コマンドの安全性の判断、タスク完了のタイミングの判断)を行うことで、トークンの無駄遣い、レイテンシの増加、焦点の喪失を引き起こすことがよくあります。muは、これらの判断を「判断キーネル」と呼ばれる小規模で高速なモデルに委ねることで、この問題を解決します。このキーネルは、限られた範囲の「はい/いいえ」またはスコアリングの質問に応じ、メインの大規模モデルが実際にコード作業に集中できるようにします。

動作方法

muは、入力、コンテキスト、ツール、ターン管理の各段階で35の特定の「判断ポイント」を実装しています。各ポイントで、小規模な判断モデル(例:ホストされた Jev、ローカルの322MパラメータのLayaモデル、または他のLLM)が限定的な質問に答えることで、次の行動を決定します。

主なメカニズムは以下の通りです:

  • コンテキスト管理:判断モデルは、コンテキストに保持すべきツール出力とアーカイブすべき出力を判断し、古くなった結果を特定して削除します。
  • ハive:「蜜蜂」(サブエージェント)が特定のタスクを実行するマルチエージェントシステム。判断モデルがゲートキーパーとして機能し、蜜蜂の発見が集団ボードに共有される価値があるか、またはボード上のノートが特定の蜜蜂にとって関連があるかを判断します。
  • 平易な言語によるボード:作業中のモデルに進行状況を物語的に報告させるのではなく、専用モデルがエージェントの状態を人間が読みやすい形式で要約してボードに表示します。
  • 判断レジストリ:判断モデルが行ったすべての判断がログに記録され、エージェントの行動の背後にある理由をユーザーが監査できるようにします。

対象ユーザー

コンテキストを効率的に管理し、トークンの無駄を減らし、人間が読みやすい進行状況の追跡を提供する高パフォーマンスなコードエージェントを求める開発者。

特徴

  • 判断キーネル:1ターンあたり35の異なる判断ポイントを、小規模で高速なモデルで処理。
  • ローカル判断モデルオプション:プライバシーと高速性を考慮して、322Mパラメータのローカルモデル「Laya」を含む。
  • 知能的なコンテキスト削減:ツール出力をチャンク単位で判断し、古くなったデータを削除することで、コンテキストのオーバーフローを防止。
  • ハive:発見や議論を共有する追加不可のボードを持つ、連携されたマルチエージェントシステム。
  • ネイティブデスクトップアプリ:ボード、判断、ハive専用タブと内蔵ブラウザを備えた完全なGUIを提供。

関連

  • プロジェクト
  • プロジェクト
  • プロジェクト
  • プロジェクト