reefyai/reefy
The platform for AI computers
解决的问题
Reefy OS 旨在简化在您拥有的硬件上部署和管理 AI 基础设施。它消除了‘驱动程序管理’和手动机器配置的复杂性,使 PC、工作站和服务器能够统一为一个易于部署、管理和恢复的 AI 计算机集群。
工作原理
Reefy 使用基于 Buildroot 的最小化、不可变主机操作系统,并采用期望状态架构。它将主机操作系统与应用层分离,AI 运行时、框架和模型以版本化的容器镜像形式交付。
关键技术组件包括:
- 加速器支持包:与构建匹配的 NVIDIA、AMD 和 Intel(GPU/NPU)驱动程序和固件,与内核版本同步,防止不匹配。
- A/B 固件更新:具备健康检查机制的系统,配备两个 EFI 插槽和硬件看门狗,若更新失败可自动回滚。
- 加密存储:采用 LUKS2、LVM 薄池和 XFS 的堆栈,提供加密且支持快照的应用数据。
- 集中式仪表板:通过经过认证的 MQTT 连接,提供单一界面用于全集群监控(CPU、GPU、内存、网络)和应用控制。
适用人群
适用于希望在自有硬件(家庭实验室、边缘系统或数据中心)上运行 AI 工作负载,而无需依赖云服务,同时保持专业级基础设施管理工具的开发者和运维人员。
主要亮点
- 多硬件支持:统一平台支持 Intel、AMD 和 NVIDIA 加速器。
- 无需云依赖:应用程序从本地缓存状态启动,无需云连接即可开机。
- 不可变主机:只读 SquashFS 基础,无通用包管理器,降低攻击面。
- 自动恢复:硬件看门狗和 A/B 插槽恢复功能,适用于无人值守机器。
- 集成监控:开箱即用的时间序列指标,用于系统和加速器性能监控。
相关
- 项目
- 项目
- 项目
- 项目
- 项目