agiresearch/AIOS
AIOS: AI Agent Operating System
AIOS – 一个 AI-代理操作系统
是什么
- AIOS 是一个软件栈,将大型语言模型(LLM)视为核心系统服务,类似于传统操作系统中的内核。它提供了让开发者编写、部署和运行 LLM 驱动的代理所需的底层支持,而无需重新实现调度、内存/存储管理、工具处理和进程间通信等低级问题。
- 您正在查看的仓库包含 AIOS 内核("操作系统" 层)。配套的 SDK 称为 Cerebrum,位于另一个仓库中,为代理开发者提供与内核通信的 API。
为何重要
- 随着基于 LLM 的代理能力不断增强,社区正面临操作系统开发者几十年前解决过的问题:资源隔离、生命周期管理以及与外部工具的安全交互。AIOS 试图以统一且可扩展的方式解决这些问题,使构建稳健、可重用的代理变得更加容易。
- 通过暴露内核风格的系统调用接口,AIOS 允许多种不同的代理框架(ReAct、Reflexion、AutoGen、Open-Interpreter、MetaGPT 等)在同一个平台上运行,鼓励形成类似“应用商店”的代理生态系统。
核心组件
| 组件 | 角色 |
|---|---|
| AIOS 内核(此仓库) | 抽象主机操作系统,管理 LLM 实例、内存、存储、工具池,以及一个可启动沙盒虚拟机(VM)的 工具管理器,用于计算机使用型代理。 |
| Cerebrum SDK | 代理导入以发出系统调用(如 run_tool、read_memory、write_file)的 Python 库。 |
| 代理枢纽机器(AHM) | 主机代理市场(marketplace)的中央服务器。 |
| 代理 UI 机器(AUM) | 用户与代理交互的设备(Web UI 或终端 UI)。 |
| 代理开发机器(ADM) | 开发者编写和测试代理的地方。 |
| 代理运行机器(ARM) | 实际执行代理代码的计算节点。 |
支持的部署模式
- 本地内核 – 内核和代理在同一台机器上运行(简单启动)。
- 远程内核 – 内核在强大服务器上运行,UI/设备远程连接(适合手机或边缘设备)。
- 远程内核开发 – 开发者在轻量设备上编辑代码,但重型内核在其他地方运行。
- 个人远程内核 – 每个用户获得一个与账户绑定的持久化云托管内核。
- 个人远程虚拟内核 – 多个虚拟内核共存于单个物理主机上(仍在开发中)。
如何开始
- 安装 – 克隆仓库,创建 Python 3.10/3.11 虚拟环境,并安装依赖项(GPU 或 CPU 专用的
requirements-cuda.txt/requirements.txt)。文档推荐使用快速安装器 uv,但pip也可行。 - 配置 – 编辑
aios/config/config.yaml(或使用交互式aios env …命令),提供 OpenAI、Anthropic、Gemini、Groq、Deepseek、HuggingFace 等的 API 密钥,并列出您希望使用的 LLM 后端(Ollama、vLLM、HuggingFace 等)。 - 启动 – 运行
bash runtime/launch_kernel.sh(或手动使用uvicorn runtime.launch:app启动 FastAPI 服务器)。内核监听可配置的主机/端口。 - 交互 –
- Web UI – 打开日志中显示的提供的 Web 界面。
- 终端 UI – 运行
python scripts/run_terminal.py与“语义文件系统”对话,发出自然语言命令,这些命令将被翻译为文件系统操作。
- 开发代理 – 在您的 Python 项目中导入 Cerebrum SDK,调用提供的系统调用,并可选择将代理注册到 AHM,以便他人下载。
生态系统与集成
- 代理框架 – AIOS 可托管为 OpenAGI、AutoGen、Open-Interpreter、MetaGPT 等编写的代理。
- 工具后端 – 内置对 Google 搜索、WolframAlpha、RapidAPI 等外部服务以及 HuggingFace 的扩散模型等本地工具的支持。工具管理器 还可启动沙盒 VM(MCP Server),用于安全的计算机使用型代理(参见 LiteCUA 项目)。
- LLM 核心 – 通过 HuggingFace、vLLM、Ollama 和 Deepseek API 支持开源模型的原生函数调用。README 列出了大量支持的模型家族(如 Llama-3.1、Qwen2.5、Deepseek-r1 系列)。
当前成熟度
- 项目积极维护(最新消息为 2025 年 7 月)。最近发布的 v0.2.2 包含重大重构、对多种模型后端的支持以及功能齐全的终端 UI。
- 多篇同行评审论文(AIOS 内核、Cerebrum SDK、LiteCUA、A-MEM、语义文件系统)已被 COLM 2025、NAACL 2025、ICLR 2025 等顶级会议接收,表明其具备研究级基础。
- 社区渠道:Discord、Gurubase Q&A 和公开文档网站。
谁应该使用它
- 研究人员:正在构建新型 LLM 代理算法,希望使用稳定运行时而非自行编写调度和工具调用代码的人。
- 产品团队:希望推出代理驱动功能(如 AI 助手、自主机器人)并实现重型 LLM 内核与轻量前端清晰分离的人。
- 开发者:希望在不重写每种模型的胶水代码的前提下,实验多种 LLM 后端和工具集成的人。
总结 – AIOS 是一个真正的、开源的、面向 LLM 代理的操作系统风格平台。它抽象掉了繁琐的基础设施工作(资源管理、工具沙盒化、多机器部署),让您能够专注于代理逻辑本身。
相关
- 项目
- 项目
- 项目
- 项目
- 项目