agiresearch/AIOS
AIOS: AI Agent Operating System
AIOS – 一個 AI-代理作業系統
是什麼
- AIOS 是一個軟體堆疊,將大型語言模型(LLM)視為核心系統服務,類似於傳統作業系統中的核心。它提供了讓開發者撰寫、部署和執行 LLM 驅動的代理所需的基礎設施,而無需重新實現調度、記憶體/儲存管理、工具處理和程序間通訊等底層問題。
- 您正在查看的程式碼庫包含 AIOS 核心(「作業系統」層)。配套的 SDK 稱為 Cerebrum,位於另一個程式碼庫中,為代理開發者提供與核心溝通的 API。
為何重要
- 隨著基於 LLM 的代理能力不斷增強,社群正面臨作業系統開發者數十年前解決過的問題:資源隔離、生命週期管理以及與外部工具的安全互動。AIOS 嘗試以統一且可擴展的方式解決這些問題,使建立穩健、可重用的代理變得更容易。
- 透過暴露核心風格的系統呼叫介面,AIOS 允許多種不同的代理框架(ReAct、Reflexion、AutoGen、Open-Interpreter、MetaGPT 等)在相同平台上運行,鼓勵形成類似「應用商店」的代理生態系。
核心元件
| 元件 | 角色 |
|---|---|
| AIOS 核心(此程式碼庫) | 抽象主機作業系統,管理 LLM 實例、記憶體、儲存、工具池,以及一個可啟動沙盒虛擬機(VM)的 工具管理器,用於電腦使用型代理。 |
| Cerebrum SDK | 代理導入以發出系統呼叫(如 run_tool、read_memory、write_file)的 Python 套件。 |
| 代理樞紐機器(AHM) | 主機代理市場(marketplace)的中央伺服器。 |
| 代理 UI 機器(AUM) | 使用者與代理互動的裝置(Web UI 或終端 UI)。 |
| 代理開發機器(ADM) | 開發者撰寫和測試代理的地方。 |
| 代理執行機器(ARM) | 實際執行代理程式碼的運算節點。 |
支援的部署模式
- 本地核心 – 核心與代理在同一台機器上執行(簡單啟動)。
- 遠端核心 – 核心在強大伺服器上執行,UI/裝置遠端連接(適合手機或邊緣裝置)。
- 遠端核心開發 – 開發者在輕量裝置上編輯程式碼,但重型核心在其他地方執行。
- 個人遠端核心 – 每位使用者獲得一個與帳戶綁定的持久化雲端主機核心。
- 個人遠端虛擬核心 – 多個虛擬核心共存於單一物理主機上(仍在開發中)。
如何開始
- 安裝 – 克隆程式碼庫,建立 Python 3.10/3.11 虛擬環境,並安裝相依性(GPU 或 CPU 專用的
requirements-cuda.txt/requirements.txt)。文件建議使用快速安裝器 uv,但pip也可行。 - 設定 – 編輯
aios/config/config.yaml(或使用互動式aios env …命令),提供 OpenAI、Anthropic、Gemini、Groq、Deepseek、HuggingFace 等的 API 金鑰,並列出您希望使用的 LLM 後端(Ollama、vLLM、HuggingFace 等)。 - 啟動 – 執行
bash runtime/launch_kernel.sh(或手動使用uvicorn runtime.launch:app啟動 FastAPI 伺服器)。核心監聽可設定的主機/埠。 - 互動 –
- Web UI – 打開日誌中顯示的提供的 Web 界面。
- 終端 UI – 執行
python scripts/run_terminal.py與「語意檔案系統」對話,發出自然語言命令,這些命令將被翻譯為檔案系統操作。
- 開發代理 – 在您的 Python 專案中導入 Cerebrum SDK,呼叫提供的系統呼叫,並可選擇將代理註冊到 AHM,以便他人下載。
生態系與整合
- 代理框架 – AIOS 可托管為 OpenAGI、AutoGen、Open-Interpreter、MetaGPT 等撰寫的代理。
- 工具後端 – 內建支援外部服務(Google 搜尋、WolframAlpha、RapidAPI)以及 HuggingFace 的擴散模型等本地工具。工具管理器 還可啟動沙盒 VM(MCP Server),用於安全的電腦使用型代理(參見 LiteCUA 專案)。
- LLM 核心 – 透過 HuggingFace、vLLM、Ollama 和 Deepseek API 支援開源模型的原生函數呼叫。README 列出了大量支援的模型家族(如 Llama-3.1、Qwen2.5、Deepseek-r1 系列)。
目前成熟度
- 項目積極維護(最新消息為 2025 年 7 月)。最近發布的 v0.2.2 包含重大重構、對多種模型後端的支援以及功能完整的終端 UI。
- 多篇同行評審論文(AIOS 核心、Cerebrum SDK、LiteCUA、A-MEM、語意檔案系統)已被 COLM 2025、NAACL 2025、ICLR 2025 等頂級會議接收,顯示其具備研究級基礎。
- 社群管道:Discord、Gurubase Q&A 和公開文件網站。
誰應該使用它
- 研究人員:正在開發新型 LLM 代理演算法,希望使用穩定執行時而非自行撰寫調度和工具呼叫程式碼的人。
- 產品團隊:希望推出代理驅動功能(如 AI 助手、自主機器人)並實現重型 LLM 核心與輕量前端清晰分離的人。
- 開發者:希望在不重寫每種模型的膠水程式碼的前提下,實驗多種 LLM 後端和工具整合的人。
總結 – AIOS 是一個真正的、開源的、面向 LLM 代理的操作系統式平台。它抽象掉了繁瑣的基礎設施工作(資源管理、工具沙盒化、多機器部署),讓您能專注於代理邏輯本身。
相關
- 專案
- 專案
- 專案
- 專案
- 專案