对OpenAI和Anthropic说不:开放权重模型、私有推理与前沿实验室把关
Micah Lee的文章《对OpenAI和Anthropic说不》认为,开放权重模型现在已经足够强大,开发者——尤其是安全工程师——可以完全放弃OpenAI和Anthropic,而且这样做既更便宜又更私密。这篇文章登上了Hacker News首页,获得168分和161条评论,讨论在赞同实用建议与反对文章对前沿实验室领导力的框架之间分裂。
核心论点:开放权重模型已经足够好,前沿实验室并不特殊
Lee的论点是,OpenAI和Anthropic并非独一无二地强大,围绕它们的人工智能炒作是营销而非技术事实。他写道,“很多开放权重模型几乎与最新的ChatGPT和Claude模型一样好,包括在漏洞研究等极其复杂的任务上。”
Lee围绕他对Naomi Klein和Astra Taylor所著《End Times Fascism and the Fight for the Living World》的阅读来构建这篇文章,他称这是一本他推荐给所有人的优秀书籍。推动这篇文章的关键段落是他对前沿实验室领导层的描述:
美国前沿实验室由精神错乱的疯子运营,他们真心相信自己正在创造机器神,愿意烧毁世界以实现AGI,并且他们以宗教般的狂热相信自己是唯一聪明到能安全控制它的人。
Lee列出了开放权重模型相对于OpenAI和Anthropic模型的四个优势:
- 如果你有一台内存足够的机器,它们可以在你自己的硬件上私有运行。
- 它们可以通过依赖安全 enclave 的提供商(如Tinfoil)私有运行。
- 如果隐私不是主要问题,任何数量的其他提供商都可以托管它们,有些相当实惠,而且它们之间切换很容易,因此你不会被锁定在单一供应商中。
- 你可以使用强大的LLM,而无需在经济上支持Lee描述为拿地球生命赌博的实验室。
根据文章,ChatGPT和Claude会话永远不是私密的
Lee声称,OpenAI和Anthropic只提供其强大模型的封闭版本,尽管OpenAI的名字中有“开放”一词,而且付费使用聊天或API访问意味着提供商被允许查看你所做的一切。他承认用于训练数据的退出复选框,但认为这并不能使会话私密:“他们提供了一个复选框,让你选择不让他们使用你的数据进行训练,但你的聊天会话仍然不是私密的。他们可以访问所有内容。”
他的担忧不仅限于当前行为,还包括任何承诺的持久性。Lee写道,这些公司可能不会“至少现在不会”使用选择退出的数据进行训练,并问道,鉴于在他看来这些公司没有做任何事来证明尊重用户数据,是否有人应该长期信任这一点。
护栏将OpenAI和Anthropic变成了模型访问的企业把关者
Lee认为,前沿模型上的严格护栏起到了把关机制的作用,尤其是在网络安全工作中。他这样描述这种体验:
每次会话都有一个警察代理在你肩膀上阅读你的记录,确保你没有用它进行黑客活动。如果它认为你可能在黑客,警察代理就会阻止你的会话继续。
他指出,误报很常见,而且并非每个人都受到相同的限制。OpenAI运营着Trusted Access for Cyber,Anthropic运营着Cyber Verification Program;个人和公司必须申请并获得批准,才能获得更强大、监管更少的模型版本。Lee表示,许多美国网络安全公司获得了访问权,美国军事承包商几乎肯定也获得了,可能还有美国政府的某些想要访问权的部门。
他的反对意见在于谁掌握决定权。Lee称,将决定谁有访问权的最终权力交给Sam Altman和Dario Amodei,“当然还要咨询特朗普政府”,是“一个可怕的、不民主的想法”。他提出的替代方案是完全避免依赖ChatGPT或Claude,而是花时间配置一个开放权重模型(如GLM-5.3)来满足你的需求。
开放权重模型大约落后四个月,Lee认为这个差距微不足道
Lee估计,开放权重模型落后于专有前沿约四个月,他对这种滞后不屑一顾:“四个月算不了什么。”
他对具体模型的评估明确基于感觉而非基准。他写道,根据他的经验,GLM-5.3“在软件工程方面基本上与Claude Opus 5.5持平”,而GLM-5.3-Flash类似于Claude Opus 4.8——比GLM-5.3小得多且便宜得多,但仍然非常强大,个人可以在Mac Studio等配备512GB RAM的硬件上运行。
GLM、Z.ai与数据信任的警告
GLM模型由一家名为Z.ai的中国公司制造。Lee将模型与公司区分开来:他明确不建议直接与Z.ai创建账户或向该公司发送任何数据。他给出的理由是,Z.ai的编码工具ZCode(被描述为他们的Claude Code版本)被路透社报道称在未经同意的情况下将本地源代码仓库静默上传到阿里云。他还写道,可以安全地假设中国公司会将其获得的用户数据与中国政府共享。
Lee的立场是,开放权重本身可以安全使用,但不应将聊天会话信任给背后的公司。他提到DeepSeek、Qwen和Kimi是中国公司推出的其他令人印象深刻的开放权重模型系列。
Mistral Large 4(“Le Chonk”)是非美国、非中国的替代选择
Lee强调,Mistral是另一个值得考虑的前沿实验室,并指出作为一家法国公司,它是唯一既非中国也非美国的大型参与者。他指出了Mistral的开放权重前沿模型Mistral Large 4,也称为“Le Chonk”,并写道,他认为将数据信任给Mistral比信任中国或美国公司要合理得多。
无需本地硬件的私有推理:Tinfoil和Maple AI
Lee认为,无需自托管即可使用安全 enclave 实现私有AI。他承认这些并非完美,但表示与默认模式下提供商可以不受限制地访问所有内容相比,它们提供了有意义的隐私差异。
根据Lee的评估,Tinfoil是该领域投入最多的公司;他引导读者查看Tinfoil关于安全 enclave 和远程证明的文档以获取技术细节。Maple AI是另一个选择,不过Lee指出Maple在技术上后台使用Tinfoil进行推理。
他的建议按使用场景划分:
- 对于类似ChatGPT的体验——聊天机器人对话、互联网查找、文档访问、移动应用——Lee推荐Maple,它有免费小计划和每月20美元的Pro计划。
- 对于代理式编码任务,如软件工程、逆向工程、恶意软件分析、CTF或渗透测试,Lee推荐Tinfoil,它按token计费,无月度计划。
Tinfoil列出的GLM-5.3定价为:每百万输入token 1.80美元,每百万缓存token 0.80美元,每百万输出token 5.75美元。Lee指出,选择“低”推理级别会使用显著更少的token,并且仍然非常令人印象深刻。
廉价非私有推理:OpenCode Go和其他路由器
对于不想为私有推理支付溢价但仍想离开OpenAI和Anthropic的用户,Lee指出了更便宜、隐私性较低的选择。他一直在使用的一个是OpenCode Go,每月10美元即可获得超过10美元的积分。
OpenCode Go是一个推理路由器,意味着查询从你的计算机传输到OpenCode Go API,然后传输到实际的推理提供商。因此,OpenCode Go和后台提供商都可以访问会话数据。Lee指出,OpenCode Go的隐私文档承诺哪些模型的数据不会用于训练(大部分),并声明大多数模型的数据保留期为零天,包括所有GLM、Qwen、Kimi和DeepSeek模型。他直接补充了警告:“当然,这只是一个承诺。没有技术保证。”
作者实际如何使用这些模型
Lee当前的设置结合了Tinfoil和OpenCode Go,并使用他选择的工具OpenCode进行配置。他主要使用低推理级别的GLM-5.3,并报告了出色的结果,同时承认开放权重领域变化非常快,六个月后最好的模型是谁也说不准的。
他的划分基于敏感性:对于完全公开的工作(如实现已经开源的内容)使用OpenCode Go推理,其他所有内容使用Tinfoil。他的结论是,开放权重模型可以轻松以相当或更低的成本、更高的隐私性和更少的护栏取代他对ChatGPT和Claude的使用。
Hacker News讨论中的反驳点
框架引发了最强烈的反对
最直接的批评针对的是文章的语气而非技术主张。一位评论者写道,“精神错乱的疯子”段落“对在前沿实验室工作或领导的人没有任何善意”,并认为作者“已经知道这一点”的说法指向了确认偏见。同一评论者补充说,文章的其余部分“实际上相当不错”,鼓励人们调查和运行开放权重模型是一个合理的立场,不需要前面那种“强硬的内群体信号”。
“永远不是私密的”与零数据保留云提供商相冲突
一位评论者直接质疑了隐私主张,询问如何调和“ChatGPT和Claude永远不会私密”与Google Vertex和Amazon Bedrock在OpenRouter的Claude Opus 5.5列表中作为提供零数据保留的提供商这一事实。
信任问题双向适用
几位评论者指出,文章的信任模型是不对称的。一位问道:“如果你不信任OpenAI和Anthropic遵守自己的政策,你如何决定信任哪些公司?凭感觉?”另一位对推荐的替代方案应用了同样的标准,写道如果你不信任OpenAI和Anthropic遵守其隐私政策,你也不应该信任OpenCode Go,并指出OpenCode Go对其后台提供商是谁不透明。
成本可能有利于现有公司,而非开放权重
一个实际的反驳点涉及订阅经济学。一位评论者写道,OpenAI和Anthropic都向个人提供“疯狂的订阅优惠”,使得托管的开放权重模型实际上更贵——根据他们的估计贵约5倍——如果不是这种情况,他们会立即切换。
另一位在5.2版本切换到GLM的评论者描述了两个新问题:害怕错过最前沿,以及对于向中国公司汇款的矛盾心理。他们指出,通过Mistral路由会反转问题,因为钱不再流向他们想要的地方,但他们更信任一家法国公司。他们表示希望拥有个人VRAM并最终完全自托管:“编码必须再次自由。”
能力主张存在争议
一位评论者称,GLM-5.3在软件工程方面与Claude Opus 5.5持平的主张是“一个明显谎言,却用‘嗯在我看来..’来修饰”,认为除非比较非常特定的工具,否则在每一个可评分的指标上这都是错误的。同一评论者表达了对Anthropic的鄙视,并称赞了GLM,同时指出在Z.ai的计划之外它太贵了。另一位仅对低推理建议回复“老哥别这样”。
本地硬件仍是实际障碍
一位评论者问运行开放权重模型是否需要特殊硬件,并承认对支付推理费用意味着什么感到困惑,认为推理发生在训练期间。区别在于,推理是训练模型在运行时执行的每次请求的计算,这正是基于token的提供商收费的内容。另一位评论者反驳了硬件担忧,认为本地运行模型并不像人们说的那么难:“如果你有意愿并且足智多谋,你可以做到。”
工作场所限制限制个人选择
一位评论者指出,个人选择不是全部:“在我自己的事情上我可以做我想做的,在工作中我没有自主权,而且看起来短期内不会改变,”指出私募股权将工具决策强加给用户。
对重复大科技周期的担忧
一位评论者表示担忧,媒体和政治生态系统功能失调,无法避免重复大科技和社交媒体造成错误,并好奇开发者社区——尤其是Hacker News——在这一问题上分裂如此之深,考虑到其历史对集中权力的怀疑。他们的结论是:“这些人的利益与我们不一致。”
替代方案格局与批评范围
一位评论者审视了剩余选项并发现不足:Muse由扎克伯格运营,他们认为这是一个危险信号,Grok由“一个种族主义者”运营,留下中国模型作为任何不从事危险工作的人的合理选择。另一位质疑为什么文章专门针对OpenAI和Anthropic,而埃隆·马斯克和彼得·蒂尔等其他科技人物在他们看来已经造成了更明显的伤害。
护栏问题的偶然演示
一位评论者报告要求GPT-6-Luna总结这篇文章,发现该模型“好心”地添加了第三段,指出作者有主见且判断不中立——这是一种未经请求的编辑性补充,评论者认为这正好说明了文章批评的对齐行为。
讨论确立了什么
讨论中的实际共识比文章的修辞更窄。评论者普遍接受开放权重模型对于许多工作负载是可行的替代方案,并且自托管或安全 enclave 推理在技术上是可实现的,同时争论三个具体主张:前沿模型在任何提供商安排下都不是私密的,开放权重模型在可评分的软件工程基准上匹配前沿模型,以及考虑到个人订阅定价后切换更便宜。反复提出的未解决问题是,当每个选项都要求信任公司的声明政策而非技术保证时,人们依据什么来决定信任哪家AI供应商。
Sources
相关
- Dispatch
- Dispatch
- Dispatch
- Dispatch
- Dispatch