agiresearch/AIOS

AIOS: AI Agent Operating System

AIOS – 一个 AI-代理操作系统

是什么

  • AIOS 是一个软件栈,将大型语言模型(LLM)视为核心系统服务,类似于传统操作系统中的内核。它提供了让开发者编写、部署和运行 LLM 驱动的代理所需的底层支持,而无需重新实现调度、内存/存储管理、工具处理和进程间通信等低级问题。
  • 您正在查看的仓库包含 AIOS 内核("操作系统" 层)。配套的 SDK 称为 Cerebrum,位于另一个仓库中,为代理开发者提供与内核通信的 API。

为何重要

  • 随着基于 LLM 的代理能力不断增强,社区正面临操作系统开发者几十年前解决过的问题:资源隔离、生命周期管理以及与外部工具的安全交互。AIOS 试图以统一且可扩展的方式解决这些问题,使构建稳健、可重用的代理变得更加容易。
  • 通过暴露内核风格的系统调用接口,AIOS 允许多种不同的代理框架(ReAct、Reflexion、AutoGen、Open-Interpreter、MetaGPT 等)在同一个平台上运行,鼓励形成类似“应用商店”的代理生态系统。

核心组件

组件 角色
AIOS 内核(此仓库) 抽象主机操作系统,管理 LLM 实例、内存、存储、工具池,以及一个可启动沙盒虚拟机(VM)的 工具管理器,用于计算机使用型代理。
Cerebrum SDK 代理导入以发出系统调用(如 run_toolread_memorywrite_file)的 Python 库。
代理枢纽机器(AHM) 主机代理市场(marketplace)的中央服务器。
代理 UI 机器(AUM) 用户与代理交互的设备(Web UI 或终端 UI)。
代理开发机器(ADM) 开发者编写和测试代理的地方。
代理运行机器(ARM) 实际执行代理代码的计算节点。

支持的部署模式

  1. 本地内核 – 内核和代理在同一台机器上运行(简单启动)。
  2. 远程内核 – 内核在强大服务器上运行,UI/设备远程连接(适合手机或边缘设备)。
  3. 远程内核开发 – 开发者在轻量设备上编辑代码,但重型内核在其他地方运行。
  4. 个人远程内核 – 每个用户获得一个与账户绑定的持久化云托管内核。
  5. 个人远程虚拟内核 – 多个虚拟内核共存于单个物理主机上(仍在开发中)。

如何开始

  1. 安装 – 克隆仓库,创建 Python 3.10/3.11 虚拟环境,并安装依赖项(GPU 或 CPU 专用的 requirements-cuda.txt / requirements.txt)。文档推荐使用快速安装器 uv,但 pip 也可行。
  2. 配置 – 编辑 aios/config/config.yaml(或使用交互式 aios env … 命令),提供 OpenAI、Anthropic、Gemini、Groq、Deepseek、HuggingFace 等的 API 密钥,并列出您希望使用的 LLM 后端(Ollama、vLLM、HuggingFace 等)。
  3. 启动 – 运行 bash runtime/launch_kernel.sh(或手动使用 uvicorn runtime.launch:app 启动 FastAPI 服务器)。内核监听可配置的主机/端口。
  4. 交互
    • Web UI – 打开日志中显示的提供的 Web 界面。
    • 终端 UI – 运行 python scripts/run_terminal.py 与“语义文件系统”对话,发出自然语言命令,这些命令将被翻译为文件系统操作。
  5. 开发代理 – 在您的 Python 项目中导入 Cerebrum SDK,调用提供的系统调用,并可选择将代理注册到 AHM,以便他人下载。

生态系统与集成

  • 代理框架 – AIOS 可托管为 OpenAGI、AutoGen、Open-Interpreter、MetaGPT 等编写的代理。
  • 工具后端 – 内置对 Google 搜索、WolframAlpha、RapidAPI 等外部服务以及 HuggingFace 的扩散模型等本地工具的支持。工具管理器 还可启动沙盒 VM(MCP Server),用于安全的计算机使用型代理(参见 LiteCUA 项目)。
  • LLM 核心 – 通过 HuggingFace、vLLM、Ollama 和 Deepseek API 支持开源模型的原生函数调用。README 列出了大量支持的模型家族(如 Llama-3.1、Qwen2.5、Deepseek-r1 系列)。

当前成熟度

  • 项目积极维护(最新消息为 2025 年 7 月)。最近发布的 v0.2.2 包含重大重构、对多种模型后端的支持以及功能齐全的终端 UI。
  • 多篇同行评审论文(AIOS 内核、Cerebrum SDK、LiteCUA、A-MEM、语义文件系统)已被 COLM 2025、NAACL 2025、ICLR 2025 等顶级会议接收,表明其具备研究级基础。
  • 社区渠道:Discord、Gurubase Q&A 和公开文档网站。

谁应该使用它

  • 研究人员:正在构建新型 LLM 代理算法,希望使用稳定运行时而非自行编写调度和工具调用代码的人。
  • 产品团队:希望推出代理驱动功能(如 AI 助手、自主机器人)并实现重型 LLM 内核与轻量前端清晰分离的人。
  • 开发者:希望在不重写每种模型的胶水代码的前提下,实验多种 LLM 后端和工具集成的人。

总结 – AIOS 是一个真正的、开源的、面向 LLM 代理的操作系统风格平台。它抽象掉了繁琐的基础设施工作(资源管理、工具沙盒化、多机器部署),让您能够专注于代理逻辑本身。

相关

  • 项目
  • 项目
  • 项目
  • 项目
  • 项目