autonomous-ai/autonomous-computer

autonomous‑ai / autonomous‑computer

何がそれか – ローカルでAIモデルを実行できる「パーソナルAIコンピュータ」を構築するための詳細な設計図、部品リスト、CADファイル、BIOS設定、組立手順を提供するオープンソースハードウェアプロジェクト。リポジトリには4つの参考構成（2 × RTX 5090、2 × RTX PRO 6000、4 × RTX 5090、4 × RTX PRO 6000、さらに大きな8GPU構成）が同梱されており、ステップバイステップの写真と短いソフトウェア設定ガイドも提供されています。

なぜ重要か – 著者らは、2026年までにほとんどのAI推論が少数の企業が所有するクラウドAPI上で実行されるようになると主張しています。自宅のマシンでモデルをローカルに実行することで、以下の利点が得られます：

1. コントロール – モデルの重みをオンプレミスに保持できるため、外部の誰もあなたのサービスを停止できません。
2. プライバシー – プロンプトはネットワーク外に流出せず、独自のデータが保護されます。
3. コスト – ハードウェアを購入した後は、トークン単位のAPI料金が一切かかりません。

主要なハードウェア仕様（各構成ごと）：

• GPU：NVIDIA RTX 5090 または RTX PRO 6000（Blackwell） – 最大8GPU、合計256GB VRAM。
• CPU：Intel Xeon W5 または AMD Threadripper Pro / EPYC 9004、96–192GB RAM、1–2TB NVMe。
• PCIe：各GPU用にGen 5 ×16スロット、10 GbEネットワーク、オプションのBMC。
• 電力：1.5–5 kWの消費電力、適切な容量のPSUが必要。
• フォームファクタ：2–4GPU用のデスクサイズオープンフレーム、8GPU構成用の5Uラック。

ソフトウェア側 – ハードウェアは非依存。リポジトリではローカルAIネットワークにマシンを統合するためのオープンソースGridオーケストレーター（autonomous‑grid）を推奨していますが、vLLM、Ollama、llama.cppなど、任意のローカル推論エンジンを使用可能です。

始める方法

1. 構成を選択する（例：2x-5090/README.md）。
2. 部品リストとCADファイルに従い、部品を調達し、ブラケットを製作する。
3. フレームを組み立て、GPUをマウントし、電源とネットワークを接続する。
4. 提供されたBIOSチューニングスクリプト（setup.md）を実行してマルチGPUのPCIeチャンネルを有効化し、NVIDIAドライバーをインストールする。
5. Grid（またはお好みのエンジン）をインストールし、量子化済み／オープンモデルをロードする。

コミュニティと貢献 – ユーザーは改善案、代替部品、または自作構成をイシューテンプレート経由で提出できます。最も優れたコミュニティ構成はリポジトリで紹介されます。

ライセンス – MIT。誰でもフォークし、変更し、自作し、派生製品を販売しても構いません。

---

この要約はリポジトリのREADMEのみに基づいています。