agiresearch/AIOS

AIOS: AI Agent Operating System

AIOS – 一個 AI-代理作業系統

是什麼

  • AIOS 是一個軟體堆疊,將大型語言模型(LLM)視為核心系統服務,類似於傳統作業系統中的核心。它提供了讓開發者撰寫、部署和執行 LLM 驅動的代理所需的基礎設施,而無需重新實現調度、記憶體/儲存管理、工具處理和程序間通訊等底層問題。
  • 您正在查看的程式碼庫包含 AIOS 核心(「作業系統」層)。配套的 SDK 稱為 Cerebrum,位於另一個程式碼庫中,為代理開發者提供與核心溝通的 API。

為何重要

  • 隨著基於 LLM 的代理能力不斷增強,社群正面臨作業系統開發者數十年前解決過的問題:資源隔離、生命週期管理以及與外部工具的安全互動。AIOS 嘗試以統一且可擴展的方式解決這些問題,使建立穩健、可重用的代理變得更容易。
  • 透過暴露核心風格的系統呼叫介面,AIOS 允許多種不同的代理框架(ReAct、Reflexion、AutoGen、Open-Interpreter、MetaGPT 等)在相同平台上運行,鼓勵形成類似「應用商店」的代理生態系。

核心元件

元件 角色
AIOS 核心(此程式碼庫) 抽象主機作業系統,管理 LLM 實例、記憶體、儲存、工具池,以及一個可啟動沙盒虛擬機(VM)的 工具管理器,用於電腦使用型代理。
Cerebrum SDK 代理導入以發出系統呼叫(如 run_toolread_memorywrite_file)的 Python 套件。
代理樞紐機器(AHM) 主機代理市場(marketplace)的中央伺服器。
代理 UI 機器(AUM) 使用者與代理互動的裝置(Web UI 或終端 UI)。
代理開發機器(ADM) 開發者撰寫和測試代理的地方。
代理執行機器(ARM) 實際執行代理程式碼的運算節點。

支援的部署模式

  1. 本地核心 – 核心與代理在同一台機器上執行(簡單啟動)。
  2. 遠端核心 – 核心在強大伺服器上執行,UI/裝置遠端連接(適合手機或邊緣裝置)。
  3. 遠端核心開發 – 開發者在輕量裝置上編輯程式碼,但重型核心在其他地方執行。
  4. 個人遠端核心 – 每位使用者獲得一個與帳戶綁定的持久化雲端主機核心。
  5. 個人遠端虛擬核心 – 多個虛擬核心共存於單一物理主機上(仍在開發中)。

如何開始

  1. 安裝 – 克隆程式碼庫,建立 Python 3.10/3.11 虛擬環境,並安裝相依性(GPU 或 CPU 專用的 requirements-cuda.txt / requirements.txt)。文件建議使用快速安裝器 uv,但 pip 也可行。
  2. 設定 – 編輯 aios/config/config.yaml(或使用互動式 aios env … 命令),提供 OpenAI、Anthropic、Gemini、Groq、Deepseek、HuggingFace 等的 API 金鑰,並列出您希望使用的 LLM 後端(Ollama、vLLM、HuggingFace 等)。
  3. 啟動 – 執行 bash runtime/launch_kernel.sh(或手動使用 uvicorn runtime.launch:app 啟動 FastAPI 伺服器)。核心監聽可設定的主機/埠。
  4. 互動
    • Web UI – 打開日誌中顯示的提供的 Web 界面。
    • 終端 UI – 執行 python scripts/run_terminal.py 與「語意檔案系統」對話,發出自然語言命令,這些命令將被翻譯為檔案系統操作。
  5. 開發代理 – 在您的 Python 專案中導入 Cerebrum SDK,呼叫提供的系統呼叫,並可選擇將代理註冊到 AHM,以便他人下載。

生態系與整合

  • 代理框架 – AIOS 可托管為 OpenAGI、AutoGen、Open-Interpreter、MetaGPT 等撰寫的代理。
  • 工具後端 – 內建支援外部服務(Google 搜尋、WolframAlpha、RapidAPI)以及 HuggingFace 的擴散模型等本地工具。工具管理器 還可啟動沙盒 VM(MCP Server),用於安全的電腦使用型代理(參見 LiteCUA 專案)。
  • LLM 核心 – 透過 HuggingFace、vLLM、Ollama 和 Deepseek API 支援開源模型的原生函數呼叫。README 列出了大量支援的模型家族(如 Llama-3.1、Qwen2.5、Deepseek-r1 系列)。

目前成熟度

  • 項目積極維護(最新消息為 2025 年 7 月)。最近發布的 v0.2.2 包含重大重構、對多種模型後端的支援以及功能完整的終端 UI。
  • 多篇同行評審論文(AIOS 核心、Cerebrum SDK、LiteCUA、A-MEM、語意檔案系統)已被 COLM 2025、NAACL 2025、ICLR 2025 等頂級會議接收,顯示其具備研究級基礎。
  • 社群管道:Discord、Gurubase Q&A 和公開文件網站。

誰應該使用它

  • 研究人員:正在開發新型 LLM 代理演算法,希望使用穩定執行時而非自行撰寫調度和工具呼叫程式碼的人。
  • 產品團隊:希望推出代理驅動功能(如 AI 助手、自主機器人)並實現重型 LLM 核心與輕量前端清晰分離的人。
  • 開發者:希望在不重寫每種模型的膠水程式碼的前提下,實驗多種 LLM 後端和工具整合的人。

總結 – AIOS 是一個真正的、開源的、面向 LLM 代理的操作系統式平台。它抽象掉了繁瑣的基礎設施工作(資源管理、工具沙盒化、多機器部署),讓您能專注於代理邏輯本身。

相關

  • 專案
  • 專案
  • 專案
  • 專案
  • 專案