autonomous-ai/autonomous-computer

autonomous‑ai / autonomous‑computer

是什麼 – 一個開源硬體專案，提供建構「個人AI電腦」的詳細設計圖、零件清單、CAD檔案、BIOS設定與組裝說明。該倉儲包含四種參考組態（2 × RTX 5090、2 × RTX PRO 6000、4 × RTX 5090、4 × RTX PRO 6000，以及更大的8GPU組態），並附上逐步照片與簡短的軟體設定指南。

為何重要 – 作者認為到2026年，大多數AI推論將由少數企業擁有的雲端API執行。在自己的機器上本地運行模型可帶來以下優勢：

1. 控制權 – 模型權重保留在本地，外部方無法中斷你的服務。
2. 隱私 – 你的提示詞永遠不會離開你的網路，保護專有資料。
3. 成本 – 硬體購入後，推論不再產生按令牌計費的API費用。

關鍵硬體規格（每組態）：

• GPU：NVIDIA RTX 5090 或 RTX PRO 6000（Blackwell） – 最多8張GPU，總計256 GB VRAM。
• CPU：Intel Xeon W5 或 AMD Threadripper Pro / EPYC 9004，96–192 GB 記憶體，1–2 TB NVMe。
• PCIe：每張GPU配備Gen 5 ×16插槽，10 GbE網路，可選BMC。
• 功耗：1.5–5 kW，需搭配相應功率的電源。
• 外型：2–4GPU用桌面尺寸開放式框架，8GPU組態用5U機架。

軟體方面 – 硬體與軟體無關；倉儲推薦使用開源的 Grid 協調器（autonomous‑grid）將多台機器整合為本地AI網路，但也可使用任何本地推論引擎（如vLLM、Ollama、llama.cpp等）。

如何開始

1. 選擇一個組態（例如：2x-5090/README.md）。
2. 根據零件清單與CAD檔案採購元件並製作支架。
3. 組裝框架，安裝GPU，連接電源與網路。
4. 執行提供的BIOS調校腳本（setup.md）以啟用多GPU PCIe通道並安裝NVIDIA驅動。
5. 安裝Grid（或你偏好的引擎）並載入你的量化／開源模型。

社群與貢獻 – 使用者可透過問題模板提交改進建議、替代零件或展示自己的建構。最佳社群作品將被收錄於倉儲中展示。

授權 – MIT，允許任何人分叉、修改、建構，甚至銷售衍生裝置。

---

本摘要僅基於倉儲的README文件。