jaylfc/taOS

解決的問題

taOS 是一個自托管 AI 代理平台，旨在讓使用者完全掌控自己的 AI 使用體驗。它透過允許使用者在自己的硬體（從舊筆電、樹莓派到遊戲電腦）上執行代理、記憶與模型，消除對雲端服務提供商的依賴，同時預設將資料完全離線儲存。

工作原理

此系統以分散式運算叢集的方式運作，由一個中央控制器管理多個工作節點（本地網路中的各種裝置）。它提供一個基於瀏覽器的網頁桌面環境，作為管理代理、應用程式與系統健康狀態的主要介面。

主要技術元件包括：

• taOSmd：一種框架無關的記憶系統，採用時序知識圖譜與混合向量搜尋，為代理提供高精度的長期記憶。
• 分散式工作節點：跨平台工作應用程式（Linux、macOS、Windows、Android），連接到控制器，提供 CPU、GPU 或 NPU 計算能力，用於推論與嵌入。
• 框架無關層：taOS 在特定代理框架之外管理代理生命週期（記憶、檔案、金鑰），讓使用者在 SmolAgents、LangChain 等框架之間切換時不會遺失資料。

適用對象

• 希望 AI 對話與記憶保留在自己硬體上的隱私意識使用者。
• 希望利用閒置硬體建構分散式 AI 叢集的愛好者與開發者。
• 希望透過統一的自托管介面管理跨不同硬體架構的多個 AI 代理與模型的使用者。

主要亮點

• 網頁桌面作業系統：一個完整的瀏覽器基礎環境，包含視窗管理器、Dock 欄與 43 個內建應用程式（包括程式碼編輯器、終端機與影像工作室）。
• 硬體相容性廣泛：支援 Apple Silicon（MLX）、NVIDIA、AMD、Rockchip NPU 與樹莓派。
• 預設主權保障：資料本地儲存；雲端模型為可選且需使用者主動啟用。
• 高精度記憶：taOSmd 系統在 LongMemEval-S 基準測試中實現高精度的端對端評估結果。
• 多框架支援：可在單一共享聊天頻道中同時執行來自不同框架（如 OpenClaw、Hermes、Langroid）的代理。