beclab/Olares
Open-Source Personal Cloud OS for Always-On Agents
解决的问题
Olares 解决了使用第三方云端 AI 服务带来的隐私和成本问题。通过将 AI 引入“家庭”,它允许用户在自己的硬件上运行智能体和大型语言模型,确保敏感的个人数据(如文件和消息)保留在用户控制之下,而不是存储在外部服务器上。
工作原理
基于 Kubernetes 构建,Olares 将 Linux 主机转换为自托管的 AI 平台。它为计算、存储和网络提供了一个统一的环境,可以通过 Web 浏览器或命令行界面进行管理。该系统包括 GPU 池化(支持时间分片和内存分片)、用于安全访问的私有 VPN,以及用于一键安装开源 AI 应用程序的市场。
适用对象
- 个人用户:希望私密运行生成式 AI 和个人智能体的用户。
- 小型团队:正在寻找用于自动化和数据管理的统一、自托管工作空间的团队。
- 开发者:希望在隔离环境中构建、测试和托管智能体应用的开发者。
亮点
- 一键本地 AI:可以从专用市场轻松安装开源模型和应用。
- 加速计算:跨不同节点管理并池化 GPU。
- 智能体原生管理:使用带有“Agent Skills”的 CLI,使 AI 智能体能够操作操作系统。
- 全面的系统应用:包括用于文件、存储以及通过 LarePass 进行安全访问的内置工具。