jaylfc/taOS

解决的问题

taOS 是一个自托管 AI 代理平台，旨在让用户完全掌控自己的 AI 使用体验。它通过允许用户在自己的硬件（从旧笔记本电脑、树莓派到游戏电脑）上运行代理、记忆和模型，消除了对云服务提供商的依赖，同时默认将数据完全离线存储。

工作原理

该系统作为一个分布式计算集群运行，由一个中央控制器管理多个工作节点（本地网络中的各种设备）。它提供了一个基于浏览器的网页桌面环境，作为管理代理、应用和系统健康状况的主要界面。

关键技术组件包括：

• taOSmd：一种框架无关的记忆系统，采用时序知识图谱和混合向量搜索，为代理提供高精度的长期记忆。
• 分布式工作节点：跨平台工作应用（Linux、macOS、Windows、Android），连接到控制器，提供 CPU、GPU 或 NPU 计算能力，用于推理和嵌入。
• 框架无关层：taOS 在特定代理框架之外管理代理生命周期（记忆、文件、密钥），允许用户在 SmolAgents、LangChain 等框架之间切换而不会丢失数据。

适用人群

• 希望 AI 对话和记忆保留在自己硬件上的隐私意识用户。
• 希望利用闲置硬件构建分布式 AI 集群的爱好者和开发者。
• 希望通过统一的自托管界面管理跨不同硬件架构的多个 AI 代理和模型的用户。

主要亮点

• 网页桌面操作系统：一个完整的基于浏览器的环境，包含窗口管理器、Dock 栏和 43 个内置应用（包括代码编辑器、终端和图像工作室）。
• 硬件兼容性广泛：支持 Apple Silicon（MLX）、NVIDIA、AMD、Rockchip NPU 和树莓派。
• 默认主权保障：数据本地存储；云模型为可选且需用户主动启用。
• 高精度记忆：taOSmd 系统在 LongMemEval-S 基准测试中实现了高精度的端到端评估结果。
• 多框架支持：可在单一共享聊天频道中同时运行来自不同框架（如 OpenClaw、Hermes、Langroid）的代理。