沉没成本计算器显示本地 LLM 服务器需 44 年才能回本
核心结论:在 3,499 美元的 Mac Studio 上进行本地推理,数十年内都无法收回成本
沉没成本计算器(https://sunkcost.ai/)预测,运行开源模型 Qwen‑3.8‑27B 的 Mac Studio M5 Max(64 GB)需 44 年才能回本。在假设每天使用 50 万 token(输入与输出比例为 15 : 1)的情况下,该设备相比 OpenRouter API 每天仅节省 0.22 美元,因此在当前定价下,硬件成本永远无法收回。
数值推导方式
| 项目 | 数值 | 来源 |
|---|---|---|
| 硬件成本 | 3,499 美元 | Apple Mac Studio M5 Max 规格表(2026) |
| 功耗(负载) | 145 W(以 M4 Max 为参考) | Apple 文档,基于前代推断 |
| 电价 | 0.17 美元 / kWh(美国居民平均) | 美国能源信息署 2025 年数据 |
| 本地吞吐量 | 25 token / s(估算) | 带宽受限估算:614 GB/s ÷ 16.5 GB 每 token × 0.75 |
| API 吞吐量 | 80 token / s(OpenRouter) | 服务商文档 |
| API 价格 | 0.32 美元输入 / 2.5 美元输出 每 M token | OpenRouter Qwen‑3.8‑27B 接口(2026‑09‑03 检查) |
| 每日 token 混合 | 468,750 输入,31,250 输出 | 每日总计 50 万 token,15 : 1 比例 |
| 每日 API 成本 | 0.23 美元 | 根据 token 混合与 API 定价计算 |
| 每日电费 | 0.01 美元 | (0.145 kW × 0.051 kWh × 0.17) |
| 每日净节省 | 0.22 美元 | 0.23 – 0.01 |
| 回本天数 | 15,942 天(≈ 44 年) | 3,499 ÷ 0.22 |
| 回本 token 总量 | 79.7 亿 token | 15,942 天 × 50 万 token/天 |
该计算器假设 API 价格保持不变(无未来下降),且设备以估算的 token 速率 持续运行。同时将全部硬件采购视为沉没成本,未考虑转售价值或机器可能承担的其他工作负载。
模型能力与成本对比
该工具在 人工分析智能指数 v4.3 中为 Qwen‑3.8‑27B 评分为 34 分,处于“Sonnet 级”梯队——大致相当于 Anthropic 的 Claude Sonnet 5 或 OpenAI 的 GPT‑5.6 Luna。尽管该模型在推理基准测试中表现强劲,但其 吞吐量(25 tok/s)仅为 API 速度的 31 %,意味着典型 1,000 token 的响应需 每天等待 15 分钟。
计算器未涵盖的因素(以及为何重要)
- 空闲功耗:每日 0.01 美元的电费估算假设设备始终处于 145 W 负载。现实中的空闲功耗会增加成本。
- 提示处理时间:输入 token 被视为免费,因为其处理速度比生成快 20–100 倍,但它们仍消耗电力。
- 转售价值:Mac Studio 具有转售价值,若后期出售硬件,可降低实际沉没成本。
- 其他工作负载:该设备还可用于渲染、游戏或其他计算任务,这些未计入回本计算中。
- 未来 API 价格下降:计算器可切换“价格持续下降”选项;历史上云 LLM 价格持续走低,这将进一步延长回本周期。
- 前沿模型:比较中排除了专有模型(如 Claude Opus、GPT‑6),这些模型在任何价格下都无法本地运行。
Hacker News 社区反馈
redox99:“计算有误;启用 MTP 和 Q8 KV 后,每秒 token 数应至少翻倍。即便吞吐量更高,该设备也永远无法回本。” txrx0000:“我更看重隐私而非成本。拥有硬件可防止服务商窥探我的思想。” ThunderSizzle:“Claude Code 每月 >100 美元;一块 1,350 美元的 GPU 给我带来了 4 个月的回本周期和完全的数据控制权。” jrflo:“44 年回本对编程工作而言荒谬至极;每月 100 美元的订阅感觉好得多。” mcone:“一台二手 HP Omen 搭载 3090 显卡,可让 Qwen 3.8 以 57 tok/s 运行,仅需 2,000 美元,大幅缩短回本周期。” ProjectArcturis:“本地 LLM 并非为了省钱;而是为了自主权、微调能力,以及避免被锁定。”
评论突显了两个反复出现的主题:隐私/自主权 超越纯粹的成本考量,以及 硬件选择 对吞吐量有显著影响(例如,高端显卡可使 token 速率翻倍,缩短回本周期)。
实用建议
- 纯金钱回本对消费级 Mac Studio 运行 Qwen‑3.8‑27B 来说不现实,在当前 API 定价下无法实现。
- 高性能 GPU(如 RTX 3090、A6000)可提升每秒 token 数,但即使速度提升 2 倍,44 年的回本周期也仅缩短至约 22 年。
- 非财务收益——数据隐私、模型所有权、运行自定义微调模型的能力——是本地推理的主要驱动力。
- 转售与多用途使用 可显著改善经济性;一台同时作为渲染节点或开发服务器的机器,可通过其他收入流收回成本。
- 未来 API 价格趋势至关重要。若云服务商持续降价,差距将拉大;若价格上涨,回本周期将略有改善。
总结
沉没成本计算器提供了透明、数据驱动的估算:3,499 美元的 Mac Studio 运行 Qwen‑3.8‑27B 每天仅节省 0.22 美元,导致 44 年的回本周期。尽管财务回报微弱,但许多用户仍追求本地 LLM,以换取隐私、自主权和多用途计算能力,而这些是计算器无法量化的价值。
Sources
相关
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch