AtomicBot-ai/atomic-agent

Atomic Agent is a local-first AI agent. Runs open-weight models on your own machine via llama.cpp.

它解决了什么问题

Atomic Agent 是一个本地优先的 AI 代理,旨在在用户的机器上运行,以执行复杂的多步骤任务,而无需云端托管服务的高昂成本或隐私顾虑。它通过实现一个上下文节省循环(context-frugal loop)来解决使用小型本地模型进行长期工作时的挑战,防止模型被不断增长的对话历史所淹没。

运作原理

该代理在一个控制循环上运作,模型决定一个动作(通过语法约束的 JSON 工具调用),执行该动作,然后压缩结果,而不是将其贴回提示词中。它利用自定义的 TurboQuant llama.cpp 后端,通过 KV-cache 量化和推测解码来提高吞吐量并减少内存使用。

为了保持效率,它将状态(如会话、内存和任务)外部化到本地 SQLite 数据库和文件中,这意味着提示词仅包含仅在必要时才调用的紧凑指针。它可以在“Fusion”模式下运行,其中云端模型充当协调者,而本地模型处理大部分的执行工作。

目标用户

开发人员和进阶用户,他们希望拥有一个私有的、本地优先的 AI 代理,能够在自己的硬件上使用量化本地模型或混合云端-本地设置来驱动浏览器、编辑文件和执行 shell 命令。

特色亮点

  • 本地优先架构: 所有状态、内存和控制循环都存在于用户的磁盘上。
  • 广泛的工具接口: 具备网页浏览 (Playwright)、文件系统操作、shell 命令执行、Git/GitHub 集成以及文档提取能力。
  • MCP 支持: 连接到外部 Model Context Protocol (MCP) 服务器以扩展其工具注册表。
  • 先进的内存系统: 使用混合回忆系统,将个人档案事实、情节笔记和提炼出的经验教训存储在 SQLite 中。
  • 高性能: 针对小型本地模型进行了优化,使用 TurboQuant 提高了 30-50% 的吞吐量。
  • Fusion 模式: 允许高能力的云端模型规划并将任务委派给一组本地工作模型。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目