qybaihe/mu

해결하는 문제

코드 에이전트는 일반적으로 큰 모델을 사용해 단순한 비코딩 결정(예: 어떤 내용을 컨텍스트에 유지할지, 명령어가 안전한지, 작업이 완료되었는지 여부 등)을 내리면서 토큰 낭비, 지연 시간 증가, 집중력 상실을 겪습니다. mu는 이러한 결정을 "판단 커널"이라고 하는 소형·고속 모델에 위임함으로써 이 문제를 해결합니다. 이 커널은 제한된 "예/아니오" 또는 점수 기반 질문에 응답하여 주된 대규모 모델이 실제 코딩 작업에만 집중할 수 있도록 합니다.

작동 방식

mu는 입력, 컨텍스트, 도구, 턴 관리 단계에 걸쳐 35개의 특정한 "결정 포인트"를 구현합니다. 각 포인트에서 소형 판별 모델(예: 호스팅된 Jev, 로컬의 322M 파라미터 Laya 모델, 또는 다른 LLM)이 제한된 질문에 답함으로써 다음 행동을 결정합니다.

핵심 메커니즘:

• 컨텍스트 관리: 판별 모델은 어떤 도구 출력을 컨텍스트에 유지할지, 어떤 것은 아카이브할지 결정하며, 오래된 결과를 식별하여 제거합니다.
• 하이브(Hive): "벌"(서브에이전트)이 특정 작업을 수행하는 다중 에이전트 시스템. 판별 모델은 게이트키퍼 역할을 하여 벌의 발견이 집단 보드에 공유될 가치가 있는지, 또는 보드의 노트가 특정 벌에게 관련 있는지 판단합니다.
• 일반 언어 보드: 작업 모델이 진행 상황을 서사적으로 보고하도록 하지 않고, 전용 모델이 에이전트 상태를 인간이 읽기 쉬운 형식으로 요약하여 보드에 표시합니다.
• 판단 로그: 판별 모델이 내린 모든 결정이 기록되어 사용자가 에이전트 행동의 논리를 감사할 수 있도록 합니다.

대상 사용자

컨텍스트를 효율적으로 관리하고, 토큰 낭비를 줄이며, 인간이 읽기 쉬운 진행 추적을 제공하는 고성능 코드 에이전트를 원하는 개발자.

주요 특징

• 판단 커널: 각 턴마다 35개의 다른 결정 포인트를 소형·고속 모델로 처리.
• 로컬 판별 모델 옵션: 프라이버시와 속도를 고려해 322M 파라미터의 로컬 모델인 Laya 포함.
• 지능적인 컨텍스트 정리: 도구 출력을 청크 단위로 판단하고 오래된 데이터를 삭제하여 컨텍스트 오버플로우를 방지.
• 하이브: 발견과 논쟁을 공유하는 추가 불가능한 보드를 갖춘 연계된 다중 에이전트 시스템.
• 네이티브 데스크톱 앱: 보드, 판단, 하이브 전용 탭과 내장 브라우저를 갖춘 완전한 GUI 제공.