itayinbarr/little-coder

解决的问题

little-coder 是一款专为小型本地 LLM 设计的编码代理。它解决了通常需要前沿模型（如 GPT-4）才能完成复杂编码任务的缺口，让用户能使用如 Qwen3.6-35B-A3B 等模型，直接在笔记本电脑上运行高性能的编码助手。

运作方式

little-coder 建立在 pi 代理框架之上，增加了 30 多个专门的扩展功能、30 个技能 markdown 文件以及一个 Python 基准测试工具。它使用一个启动器，通过仅加载捆绑的扩展功能，确保可预测且最小化的上下文（约 7k tokens）。

关键运作机制包括：

• 规划模式 (Plan Mode)：一种研究优先的方法，代理会在实现前先研究任务、提出澄清问题并建立计划。
• 子编码器 (dispatch)：能够产生隔离的只读子会话来研究问题，而不会干扰主要对话。
• 深度研究 (Deep Research)：一种专门用于外部与在线研究的模式，可产生带有引用的 markdown 报告。
• 工具技能卡 (Tool Skill Cards)：根据当前需求（错误恢复、时效性或意图）动态注入工具的简短使用指南。
• 后台作业 (Background Jobs)：长时间运行的指令（如构建或训练）会在后台运行，仅在特定事件发生时唤醒模型。

目标对象

希望在自己的硬件上（通过 llama.cpp、Ollama 或 LM Studio）运行强大编码代理，以维护隐私、降低成本或实验小型模型性能的开发者。

特色亮点

• 本地优先优化：针对 Qwen3.6-35B-A3B 等模型进行调整，并针对 MoE (Mixture of Experts) 提供特定配置，将大型模型纳入有限的 VRAM 中。
• 灵活的模型路由：支持本地提供者（llama.cpp、Ollama、LM Studio）与云端提供者（Anthropic、OpenAI），并可轻松进行覆盖配置。
• 层级式任务管理：将规划与实现分离，以保持上下文窗口的效率。
• 高级 TUI：包含详细的状态栏，可追踪累积 tokens、缓存命中率与上下文窗口使用量。
• 可扩展性：用户可通过配置目录添加自己的扩展功能。