jaylfc/taOS

Self-hosted AI agent OS. Your memory, chat, agents, and files stay on hardware you own, offline by default, cloud by choice. Offline AI memory (taOSmd), self-hosted multi-framework group chat, a full web desktop + app store, and auto-clustering across the consumer hardware you already have (Orange/Raspberry Pi, Mac mini, gaming PC).

What it solves

taOS 是一個自託管的 AI 代理平台，旨在讓使用者對 AI 的記憶、資料與運算擁有完整主權。它透過讓使用者在自己的硬體上執行代理、管理長期記憶、以及執行推論，消除對雲端服務供應商的依賴——支援從舊筆記型電腦、Raspberry Pi、到遊戲電腦與 Android 手機等各種設備。

How it works

系統以分散式運算叢集的方式運作，中心控制器管理多個「工作節點」。這些工作節點可以是任何具相容作業系統（Linux、macOS、Windows、Android）的裝置，控制器會將它們組成運算網格，以處理 LLM、向量嵌入以及影像/影片/音訊生成。

主要架構元件包括：

  • Framework-Agnostic Core: taOS 在特定代理框架之外管理代理生命週期（記憶、檔案、API 金鑰），讓使用者在不同框架（例如 SmolAgents、LangChain、OpenClaw）之間切換時不會遺失歷史或設定。
  • taOSmd Memory System: 使用時間知識圖譜與混合向量搜尋的專屬記憶層，為代理提供高精度檢索。
  • Web Desktop Shell: 基於瀏覽器的作業系統環境，提供視窗管理器與超過 40 個內建應用程式，用於管理代理、模型與系統健康狀態。
  • Skill Registry: 一組框架無關的工具（如網路搜尋、程式碼執行），透過適配器翻譯以在不同代理框架間使用。

Who it’s for

  • 重視隱私的使用者：希望 AI 對話與記憶保持離線、存放於自有硬體。
  • AI 愛好者與開發者：想在本地模型上實驗多種代理框架，且不需搬遷資料。
  • 家庭實驗室使用者：想將閒置硬體（SBC、舊電腦）轉變為分散式 AI 計算叢集。

Highlights

  • Distributed Hardware Support: 支援 Apple Silicon（MLX）、NVIDIA、AMD、Rockchip NPU 與僅 CPU 裝置。
  • Framework Independence: 在保留所有記憶、檔案與連線的前提下切換代理框架。
  • Comprehensive Web OS: 提供完整桌面體驗，包括視窗管理器、應用商店與行動優化的 PWA 模式。
  • High-Accuracy Memory: 具備 taOSmd 系統、時間知識圖譜與矛盾偵測功能。
  • Extensive Integration: 捆綁超過 40 個應用、109+ 目錄應用與 47 個 MCP 插件。