reefyai/reefy
The platform for AI computers
何を解決するか
Reefy OSは、所有するハードウェア上でAIインフラのデプロイと管理を簡素化するように設計されています。ドライバの手動調整やマシンの手動設定の複雑さを排除し、PC、ワークステーション、サーバーを一元化されたAIコンピュータのファルムに変換します。デプロイ、管理、復旧が容易です。
動作方法
ReefyはBuildrootに基づく最小限で不変のホストOSと、所望状態アーキテクチャを使用します。ホストOSとアプリケーション層を分離し、AIランタイム、フレームワーク、モデルはバージョン付きのコンテナイメージとして提供されます。
主な技術的構成要素は以下の通りです:
- アクセラレータ対応バンドル:NVIDIA、AMD、Intel(GPU/NPU)用のビルド一致ドライバとファームウェア。カーネルバージョンと同期され、不一致を防ぎます。
- A/B ファームウェア更新:2つのEFIスロットとハードウェアウォッチドッグを備えた健康ゲート付きシステム。更新に失敗した場合、自動的にロールバックされます。
- 暗号化ストレージ:LUKS2、LVMスリムプール、XFSを組み合わせたスタック。暗号化され、スナップショット対応のアプリケーションデータを提供します。
- 中央ダッシュボード:認証済みMQTT接続を通じて、ファルム全体のモニタリング(CPU、GPU、メモリ、ネットワーク)とアプリケーション制御が可能な単一インターフェース。
対象ユーザー
クラウドに依存せずに、自宅ラボ、エッジシステム、データセンターなどで自前ハードウェア上でAIワークロードを実行したい開発者やオペレーター向けです。プロフェッショナルレベルのインフラ管理ツールを維持できます。
特徴
- マルチハードウェア対応:Intel、AMD、NVIDIAアクセラレータの統合プラットフォーム。
- クラウド非依存:アプリケーションはローカルキャッシュされた状態から起動し、ブートにクラウド接続を必要としません。
- 不変ホスト:一般用途のパッケージマネージャーを持たない読み取り専用SquashFSベース。攻撃面を最小限に抑えます。
- 自動復旧:ハードウェアウォッチドッグとA/Bスロット復旧により、監視不要なマシンに対応します。
- 統合モニタリング:システムおよびアクセラレータのパフォーマンス用の時間系列メトリクスを標準で提供。
関連
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト
- プロジェクト