reefyai/reefy

해결하는 문제

Reefy OS는 소유한 하드웨어에서 AI 인프라의 배포 및 관리를 단순화하도록 설계되었습니다. 드라이버 조정과 수동 머신 구성의 복잡성을 제거하여 PC, 워크스테이션, 서버를 통합된 AI 컴퓨터 펌으로 전환합니다. 배포, 관리, 복구가 쉬워집니다.

작동 방식

Reefy는 Buildroot 기반의 최소한의 불변 호스트 OS와 희망 상태 아키텍처를 사용합니다. 호스트 OS와 애플리케이션 계층을 분리하여 AI 런타임, 프레임워크, 모델은 버전화된 컨테이너 이미지로 제공됩니다.

주요 기술 구성 요소:

• 가속기 지원 번들: NVIDIA, AMD, Intel(GPU/NPU)용 빌드 일치 드라이버 및 펌웨어. 커널 버전과 동기화되어 불일치를 방지합니다.
• A/B 펌웨어 업데이트: 두 개의 EFI 슬롯과 하드웨어 워치독을 갖춘 건강 게이트 시스템. 업데이트 실패 시 자동 롤백됩니다.
• 암호화 스토리지: LUKS2, LVM 스마트 풀, XFS를 사용하는 스택으로 암호화되고 스냅샷 준비된 애플리케이션 데이터를 제공합니다.
• 중앙 대시보드: 인증된 MQTT 연결을 통해 펌 전체의 모니터링(CPU, GPU, 메모리, 네트워크)과 애플리케이션 제어가 가능한 단일 인터페이스.

대상 사용자

클라우드에 의존하지 않고 자사 하드웨어(홈 랩, 엣지 시스템, 데이터센터)에서 AI 워크로드를 실행하고 싶은 개발자 및 운영자에게 적합합니다. 프로페셔널 수준의 인프라 관리 도구를 유지할 수 있습니다.

주요 특징

• 다중 하드웨어 지원: Intel, AMD, NVIDIA 가속기용 통합 플랫폼.
• 클라우드 독립성: 애플리케이션은 로컬 캐시된 상태에서 시작되며 부팅 시 클라우드 연결이 필요하지 않습니다.
• 불변 호스트: 일반 목적의 패키지 매니저 없이 읽기 전용 SquashFS 기반. 공격 표면을 최소화합니다.
• 자동 복구: 하드웨어 워치독과 A/B 슬롯 복구로 무인 기계에 대응합니다.
• 통합 모니터링: 시스템 및 가속기 성능용 시간 시리즈 메트릭스를 기본 제공합니다.