qybaihe/mu
mu (μ): a coding agent that thinks before it acts. A small, fast judge makes the routine calls, the big model does the work. Built on pi and AionUi.
何を解決するか
コードエージェントは、大規模モデルを用いて単純な非コード判断(例:コンテキストに保持すべき内容の決定、コマンドの安全性の判断、タスク完了のタイミングの判断)を行うことで、トークンの無駄遣い、レイテンシの増加、焦点の喪失を引き起こすことがよくあります。muは、これらの判断を「判断キーネル」と呼ばれる小規模で高速なモデルに委ねることで、この問題を解決します。このキーネルは、限られた範囲の「はい/いいえ」またはスコアリングの質問に応じ、メインの大規模モデルが実際にコード作業に集中できるようにします。
動作方法
muは、入力、コンテキスト、ツール、ターン管理の各段階で35の特定の「判断ポイント」を実装しています。各ポイントで、小規模な判断モデル(例:ホストされた Jev、ローカルの322MパラメータのLayaモデル、または他のLLM)が限定的な質問に答えることで、次の行動を決定します。
主なメカニズムは以下の通りです:
- コンテキスト管理:判断モデルは、コンテキストに保持すべきツール出力とアーカイブすべき出力を判断し、古くなった結果を特定して削除します。
- ハive:「蜜蜂」(サブエージェント)が特定のタスクを実行するマルチエージェントシステム。判断モデルがゲートキーパーとして機能し、蜜蜂の発見が集団ボードに共有される価値があるか、またはボード上のノートが特定の蜜蜂にとって関連があるかを判断します。
- 平易な言語によるボード:作業中のモデルに進行状況を物語的に報告させるのではなく、専用モデルがエージェントの状態を人間が読みやすい形式で要約してボードに表示します。
- 判断レジストリ:判断モデルが行ったすべての判断がログに記録され、エージェントの行動の背後にある理由をユーザーが監査できるようにします。
対象ユーザー
コンテキストを効率的に管理し、トークンの無駄を減らし、人間が読みやすい進行状況の追跡を提供する高パフォーマンスなコードエージェントを求める開発者。
特徴
- 判断キーネル:1ターンあたり35の異なる判断ポイントを、小規模で高速なモデルで処理。
- ローカル判断モデルオプション:プライバシーと高速性を考慮して、322Mパラメータのローカルモデル「Laya」を含む。
- 知能的なコンテキスト削減:ツール出力をチャンク単位で判断し、古くなったデータを削除することで、コンテキストのオーバーフローを防止。
- ハive:発見や議論を共有する追加不可のボードを持つ、連携されたマルチエージェントシステム。
- ネイティブデスクトップアプリ:ボード、判断、ハive専用タブと内蔵ブラウザを備えた完全なGUIを提供。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト