mudler/LocalAGI

LocalAGI – 带有 Web UI 的自托管 AI 代理

是什么

• 一个基于 Go 的平台，可在您自己的机器（CPU 或 GPU）上完全运行 AI 代理。
• 代理通过浏览器仪表板进行配置——无需 Python 代码或云密钥。
• 每个代理都暴露一个 OpenAI 兼容的 REST 端点，因此可以将现有与 OpenAI API 通信的工具指向 LocalAGI。

主要功能（如 README 所述）

功能	你将获得
无代码代理创建	通过 Web UI 构建和编辑代理；无需编写代码即可启用/禁用可重用的 技能（类似工具的扩展）。
团队协作	定义多个可协同处理单个提示的代理，形成“代理团队”。
连接器	提供 Discord、Slack、Telegram、GitHub Issues、IRC 的预设集成（以及通用 MCP 连接器）。
REST API	完整的 OpenAI 风格 /v1/chat/completions 端点，以及用于管理代理、技能和知识库的额外路由。
RAG / 知识库	使用 LocalRecall 库内置短期和长期记忆；可上传文件、创建集合并执行语义搜索。
规划与推理	代理可根据接收到的上下文规划步骤并调整行为。
周期性任务	类似于 cron 的调度，用于重复执行操作。
多模态	在 GPU 上运行时支持视觉、文本和图像生成模型。
自定义动作（Go）	可直接放入 Go 文件（或内联片段）来定义新动作；系统在运行时解释它们，无需编译。
可观测性	UI 中的实时状态面板和通过 API 提供的详细日志。
模型灵活性	与由配套 LocalAI 服务器提供的任何 GGUF/GGML 模型兼容；也可通过 LOCALAGI_LLM_API_URL 指向任何 OpenAI 兼容端点。

如何运行

• 项目提供适用于多种硬件配置的 Docker-Compose 文件（仅 CPU、NVIDIA、Intel Arc、AMD）。
• 仅 CPU 启动的示例命令：

  git clone https://github.com/mudler/LocalAGI && cd LocalAGI
  docker compose up
  

• 使用 GPU 时，替换为相应的 compose 文件（如 docker-compose.nvidia.yaml 等），并可选择性设置 MODEL_NAME、MULTIMODAL_MODEL、IMAGE_MODEL 环境变量以选择所需模型（例如 gemma-3-12b-it）。
• 容器启动后，打开 http://localhost:8080 即可访问仪表板。

扩展平台

• 技能 – 存储在 skills/ 文件夹下的可重用工具定义；可在 UI 中编辑或通过 Git 进行版本控制。
• 自定义动作 – 将 Go 源文件放入由 LOCALAGI_CUSTOM_ACTIONS_DIR 指定的目录中。每个文件必须暴露三个函数（Run、Definition、RequiredFields）。系统会自动加载并在 UI 中使其可选。
• 库模式 – 核心可作为 Go 库导入，允许开发者程序化创建代理、代理池和自定义连接器。

你为何会关心

• 隐私 – 所有数据都保留在您的硬件上；除非您明确将系统指向云端点，否则无需外部 API 密钥。
• 本地优先 AI – 对于希望在不支付云推理费用的情况下实验自主代理的开发者、爱好者或组织非常有用。
• 即插即用 – 由于它模仿 OpenAI API，现有的机器人、脚本或前端可几乎无需修改即可切换到 LocalAGI。

---

总结：LocalAGI 是一个全栈式、自托管的 AI 代理框架，结合了 Web UI、OpenAI 兼容 API、RAG、多模态支持和可扩展的 Go 基础自定义动作，所有功能均可通过 Docker 在消费级硬件上运行。