autonomous-ai/autonomous-computer

autonomous‑ai / autonomous‑computer

是什么 – 一个开源硬件项目，提供构建「个人AI计算机」的详细设计图、零件清单、CAD文件、BIOS设置和组装说明。该仓库包含四种参考配置（2 × RTX 5090、2 × RTX PRO 6000、4 × RTX 5090、4 × RTX PRO 6000，以及更大的8GPU配置），并附带分步照片和简短的软件设置指南。

为何重要 – 作者认为到2026年，大多数AI推理将由少数几家公司的云API运行。在自己的机器上本地运行模型可带来以下优势：

1. 控制权 – 模型权重保留在本地，外部方无法中断你的服务。
2. 隐私 – 你的提示词永远不会离开你的网络，保护专有数据。
3. 成本 – 硬件购入后，推理不再产生按令牌计费的API费用。

关键硬件规格（每种配置）：

• GPU：NVIDIA RTX 5090 或 RTX PRO 6000（Blackwell） – 最多8块GPU，总计256 GB VRAM。
• CPU：Intel Xeon W5 或 AMD Threadripper Pro / EPYC 9004，96–192 GB 内存，1–2 TB NVMe。
• PCIe：每块GPU配备Gen 5 ×16插槽，10 GbE网络，可选BMC。
• 功耗：1.5–5 kW，需配备相应功率的电源。
• 外形：2–4GPU用桌面尺寸开放式框架，8GPU配置用5U机架。

软件方面 – 硬件与软件无关；仓库推荐使用开源的 Grid 协调器（autonomous‑grid）将多台机器整合为本地AI网络，但也可使用任何本地推理引擎（如vLLM、Ollama、llama.cpp等）。

如何开始

1. 选择一个配置（例如：2x-5090/README.md）。
2. 根据零件清单和CAD文件采购组件并制作支架。
3. 组装框架，安装GPU，连接电源和网络。
4. 运行提供的BIOS调优脚本（setup.md）以启用多GPU PCIe通道并安装NVIDIA驱动。
5. 安装Grid（或你偏好的引擎）并加载你的量化/开源模型。

社区与贡献 – 用户可通过问题模板提交改进建议、替代零件或展示自己的构建。最佳社区作品将被收录在仓库中展示。

许可证 – MIT，允许任何人进行分叉、修改、构建，甚至销售衍生设备。

---

本摘要仅基于仓库的README文件。