AtomicBot-ai/atomic-agent

解決的問題

Atomic Agent 是一個以本地為優先的 AI 代理，設計於使用者的機器上執行，以完成複雜且多階段的任務，同時避免雲端主機代理所帶來的高成本、高延遲或隱私疑慮。它特別解決了「上下文膨脹」問題——隨著對話歷史增長，本地模型通常會變得越來越慢且效能下降。

工作原理

此專案實作了一個節省上下文的代理循環，最大限度減少傳送到 LLM 的資料量。與每次回合都重新傳送完整歷史不同，它採用「提示、決策、執行、壓縮」的流程，將結果摘要而非完整貼上。

為在消費級硬體上優化效能，它使用自訂的 TurboQuant llama.cpp 後端，具備 KV 快取壓縮（最高達 6.4 倍）、Lloyd-Max 權重量化，以及針對 Gemma 4 和 Qwen 3.6 等模型的自訂推測解碼。同時也使用 GBNF 語法確保工具呼叫始終為有效的 JSON 陣列。

適用對象

專為開發者與高階使用者設計，希望擁有一個私密的本地 AI 助手，能控制桌面（瀏覽器、檔案系統、Shell），並透過 HTTP 或作為 Tauri 邊車與自有應用整合。

主要亮點

• 桌面控制：可透過 Playwright 瀏覽網頁、編輯檔案、執行已核准的 Shell 命令，並管理剪貼簿。
• 本地優先記憶：使用本地 SQLite 儲存個人資料事實、情景筆記與經驗教訓，透過工具呼叫進行回憶，而非將其塞入提示中。
• uma MCP 支援：可連接外部 Model Context Protocol (MCP) 伺服器，擴展其工具註冊表。
• 硬體優化：專為消費級 GPU/CPU 上的小型量化模型進行調校，以維持高吞吐量與準確性。
• 彈性提供者支援：支援本地 llama-server、OpenAI 相容 API、OpenRouter、Gemini，以及現有的 Claude Code 與 OpenAI Codex 訂閱。