AtomicBot-ai/atomic-agent

解决的问题

Atomic Agent 是一个本地优先的 AI 代理，旨在在用户机器上运行，以执行复杂的多步骤任务，而无需承担云托管代理带来的高成本、高延迟或隐私风险。它特别解决了「上下文膨胀」问题——随着对话历史增长，本地模型通常会变得越来越慢且效率下降。

工作原理

该项目实现了一个上下文节约型代理循环，最大限度减少发送给 LLM 的数据量。与每次轮次都重新发送完整历史记录不同，它采用「提示、决策、执行、压缩」的流程，将结果进行摘要而非完整粘贴。

为了在消费级硬件上优化性能，它使用了定制的 TurboQuant llama.cpp 后端，具备 KV 缓存压缩（最高达 6.4 倍）、Lloyd-Max 权重量化，以及针对 Gemma 4 和 Qwen 3.6 等模型的自定义推测解码。同时，它还使用 GBNF 语法确保工具调用始终为有效的 JSON 数组。

适用人群

专为开发者和高级用户设计，希望拥有一个私有的本地 AI 助手，能够控制桌面（浏览器、文件系统、Shell），并通过 HTTP 或作为 Tauri 侧车与自有应用集成。

主要亮点

• 桌面控制：可通过 Playwright 浏览网页、编辑文件、运行已批准的 Shell 命令，并管理剪贴板。
• 本地优先记忆：使用本地 SQLite 存储个人资料事实、情景笔记和经验教训，通过工具调用进行回忆，而非将它们塞入提示中。
• uma MCP 支持：可连接外部 Model Context Protocol (MCP) 服务器，扩展其工具注册表。
• 硬件优化：专为消费级 GPU/ CPU 上的小型量化模型进行调优，以保持高吞吐量和准确性。
• 灵活的提供者支持：支持本地 llama-server、OpenAI 兼容 API、OpenRouter、Gemini，以及现有的 Claude Code 和 OpenAI Codex 订阅。