AI 与前沿技术综述:开放权重、本地推理与智能体经济
本周 AI 领域讨论的主线是:能力正从前沿实验室向外扩散——进入开放权重模型、本地硬件,以及能够执行工作而非仅仅回答问题的智能体中。与此同时,反向压力也同样明显:至少有一家大型实验室对其旗舰模型保持封闭,且大规模运行智能体的经济性正变得愈发复杂。
开放权重 vs. 封闭模型
全球下载量最大的开放权重系列刚刚发布了一款仅限 API 的旗舰产品,这被解读为一个警示信号。 阿里巴巴的 Qwen4-Max 将权重保留在内部,据一位发帖者称,该版本从发布中剔除了具有攻击性的网络安全训练数据 @Dennis_Rye。另一位评论者将其描述为合规麻烦与蓄意隐瞒之间的权衡,并指出较小的 Qwen4 模型最好还是发布在 Hugging Face 上,因为这正是开发者信任该系列的原因 @loktar00。
另一方面,一位发帖者认为,一旦出现一款廉价的中国开放权重模型在性能上大致与 Opus 5.5 持平,Anthropic 的游戏就结束了,因为 5.5 对于几乎所有任务来说都已经足够好了 @IridiumEagle。另一篇帖子提供了一张图表,分析了开放权重与封闭模型之间的七种权衡 @alexxubyte。
基础模型研究所(Institute of Foundation Models)认为,开放权重只是“开放”的最低标准:PAN 2 提供了权重、推理代码、训练代码和 Apache 2.0 许可证,该组织声称很少有开放世界模型能同时提供这四项 @IFM_AI。
本地推理变得更快、更便宜
TensorFold 1.3.0 发布,在 CUDA 和 Metal 上均实现了两位数的吞吐量提升。 GLM-5.3-Flash 在两块 RTX PRO 6000 Blackwells 上从每秒 83.8 个 token 提升至 104.1 个 token —— 在 TP=2、使用 NVFP4 专家模型、关闭草稿模式且输出位数相同的情况下,CUDA 速度提升了约 24%。在 Metal 上,DeepSeek-V4.1 的提示词注意力内核速度提升了约 1.5 倍,GLM-5.3-Flash 的后续请求首字生成速度快了 3–4%。该版本还增加了可选的 JSON 请求日志、崩溃重放日志、按 API 密钥存储的响应以及每台机器的检查点拟合报告 @ashxhart。之前的 1.2.10 版本报告称,Qwen3.8-27B 在 GB10 上以 8 个流和共享 32K 前缀的情况下解码速度提升了 57%,而 DeepSeek-V4.1 在 M5 Ultra 上的冷启动提示词速度提升了 5–7% @ashxhart。
NVIDIA 重点介绍了运行在两台 DGX Station 上的 GLM-5.3,其完全驻留在 GPU 内存中,通过 vLLM 后端提供本地 API,参数量达 7530 亿 @NVIDIARTXSpark。Unsloth AI 表示已与 AMD 合作,将本地模型推理引入 AMD NPU,并声称在 Strix、Gorgon、Krackan 等芯片上,NPU 的功耗比传统 GPU 低 2–4 倍 @UnslothAI。Sushi 1.7.0 为 Qwen 和 DeepSeek 添加了新的“Cooler”引擎,并为 Qwen3.8 Flash 提供了 4bpw 打包格式 @Beamsters1。
一份广为流传的入门指南认为,2017 年及以后的 PC 或 Mac 可以在没有 GPU 的情况下运行私有本地 AI,甚至包括 Raspberry Pi 选项 @BrianRoemmele@BrianRoemmele。另一篇教程介绍了如何通过 llama.cpp 分支在 16GB MacBook 上本地运行 SenseNova-Loop-9B,并指出该模型将其 32 层中的 24 层运行了两次,且采用 Apache 2.0 许可证 @sairahul1。
免费托管访问权限也得到了扩展:DeepSeek V4.1 Flash 与 GLM 5.3、Qwen3.8 Flash 和 gpt-oss 120b 一起在某提供商处免费开放 @Israfilv2,另一项服务则宣传 DeepSeek v4.1 1017 的输入、输出和缓存费用均为 $0.00 @freemilk_ai。
模型发布与评估
Gemini 4 Neon 是本周期讨论度最高的模型,而 Genie 4 将世界模型引入了 Gemini API。 Google 的 Logan Kilpatrick 在 Gemini API 和 Google AI Studio 中推出了 Genie 4,称其为该公司首个面向开发者的世界模型 @OfficialLoganK。Cursor 报告称,Gemini 4 Neon 在默认设置下在 CursorBench 4.1 上创下了 63.7% 的性价比新高(Gemini 4 Hydrogen 为 57.3%),定价为每百万输入 token 3 美元,每百万输出 token 15 美元 @cursor_ai。一位发帖者称其为“有史以来最有品位的模型” @daniel_mac8,另一位则描述了如何通过简短的提示词和几个澄清问题,在涩谷构建了一款霓虹跑酷游戏 @agenticjay。
Kimi-K3.1-Pro 被认为解决了一个 Opus 5.5、Gemini 4 Neon、GLM 5.3 和 GPT-6.2 Astra 都未能解决的问题,发帖者称其可能是目前最好的开放模型 @MiaAI_lab。一个去除了限制(abliterated)的 Kimi K3.1 Pro 版本以 4 折价格进行促销 @refuselessai,此外还发布了一个免费的无审查 MiniMax H3 视频量化版本,大小为 12.5GB(NVFP4),并在 16GB 内存下通过卸载(offload)进行了测试 @alizeh_ai。
在评估方面,Judgment Labs 推出了一款评估优化器(Eval Optimizer),它能学习智能体的轨迹并为每个裁判选择合适的计算方式——代码、决策模型、LLM 或智能体,并报告称某客户的单次评估成本降低了高达 50 倍 @JudgmentLabs。Synthetic Sciences 推出了 FrontierML,这是一个包含 25 个开放式问题的基准测试,智能体必须构建自己的进度代理指标,因为没有提供验证集 @SynScience。Bespoke Labs 发布了一个包含十二项长周期任务的多智能体协作基准测试,发现前沿智能体的协作能力较差:八个智能体的团队胜过单个智能体,但收益来自于智能体数量的增加而非协作本身;在 Opus 5.5、GPT-6.1 Sol 和 Gemini 4 Argon 中,只有 Opus 显示出协作收益的迹象 @bespokelabsai。
研究笔记
本周有两篇论文关注模型内部发生的事情,而非其输出结果。 潜在晶格语言模型(Latent Lattice Language Models)在每个 Transformer 层中添加了一个跨 token 持久的循环隐藏状态;在 406M 参数和匹配计算量的情况下,经过 20B 训练 token 后,验证困惑度从 15.41 降至 14.40,与参数量多 50% 的传统 Transformer 持平 @askalphaxiv。
第二篇论文发现,模型对能否解决问题的估计可以从某一层 1% 的隐藏状态中读取。在一个在 MATH500 上得分 75.2% 的 RL 训练版 Qwen2.5-7B 上,将一层中的这些“价值神经元”归零,平均准确率在第 2-5 层降至 20.3%,在第 5 层单独降至 1.2%,而将随机 1% 的神经元归零则得到 74.6%。第二组跟踪奖励预测误差的维度被用于选择推理步骤,得分 77.8%,而贪婪解码为 72.2% @SuJinyan6。
第三篇论文认为 LLM 的人格被过度炒作了,世界观——即关于现实的公理化信念——更为重要。作者报告称,经过后训练的模型对人类表现出比基础模型更悲观的看法,而长对话和沉思型提示词会将系统推向更积极的世界观和更安全的响应。他们提出了“世界观训练”作为一种对齐方向 @RubenLaukkonen。
智能体、工具及其运行成本
智能体的讨论重心从能力转向了经济性和验证。 一篇帖子引用 Anthropic 的测量结果称,智能体 80% 的结果取决于它如何消耗 token,而不是使用了哪种付费模型,并指出 LangChain 仅通过改变设置就将成功率从 52.8% 提高到了 66.5% @distortgeekin。
一种广为流传的 Claude Code 模式是:使用 Sonnet 5.5 作为主会话,使用 Haiku 5.5 子智能体进行搜索、grep 和文档处理,并使用 Opus 5.5 作为随叫随到的顾问,在计划锁定前、同一错误出现两次后以及宣布任务完成前进行咨询 @xsmryze。
TestSprite 4.0 作为 AI 编写代码的独立测试层发布,引用了 Claude Code 团队的观点:“如果一个变更可以修改评判它的检查程序,那么这个检查程序就是坏的。” 团队表示该工具在发布前捕获了其自身新功能中的 16 个实际问题 @yunhaojiao。
Kong 的 Volcano 是一个为 AI 智能体构建的云平台,可以从 Claude Code、Cursor 或 Codex 驱动,它能检测系统错误并生成修复代码 @DerwinPrieto。Firecrawl 开源了一个本地版本,可将网站转换为智能体可用的 Markdown,声称比自托管 Firecrawl 快 37 倍,内存占用减少 230 倍,空闲时仅 11MB @paarangatrai。一份关于“工具工程”(harness engineering)——即围绕智能体的工具、上下文、记忆和规则——的十个免费存储库精选列表包括 SWE-agent、OpenCode、Citadel、SWE-ReX、tau-bench、MCPMark 和 AgentBench @imryven。
智能体的市场模式正在兴起。一个被描述为“Fiverr 但每个卖家都是 AI 智能体”的平台列出了带有价格、声誉评分和通过率的智能体,在链上托管 USDC 直至交付,并将争议提交给随机选择的评审员 @0xBishu。一篇相关帖子将这种转变描述为从“这个机器人能告诉我什么”到“我可以把什么交给它处理” @missbaddieella1@PunkXBT_。
Grok Bot 在发布一天后就有 1200 多个机器人提交和 7000 多次添加,并根据用户反馈发布了个人资料、更好的搜索和列表刷新按钮 @ericzakariasson。一项综述统计了市场上 1366 个现成的机器人、插件和应用程序,涵盖销售、编程、研究、营销、内容、生产力和运营等类别 @irongiantXBT。
安全工具遵循了同样的模式:ARTEX 是一个自托管、模型无关的渗透测试平台,使用 LLM 规划器和工作智能体,具有人工审批门控和完整的审计跟踪 @DarkWebInformer,而 Pentest Agent Suite 提供了 50 个专用智能体和 2 个与 Claude Code、Codex、Gemini、Cursor 等兼容的 MCP 服务器 @Anastasis_King。OpenBot 添加了 Cline 作为提供商,允许在一个计划中访问 DeepSeek、Kimi 和 GLM 模型 @OpenBot_。
一个安全警报则产生了反向影响:Microsoft 的 AI Agent Framework 包在 PyPI 上被劫持,两个恶意版本 1.26.1 和 1.26.2 会在每次 Python 启动时静默窃取云凭据和 token @TheHackersNews。
行业经济与 Anthropic 的故事
Anthropic 的 IPO 引发了回顾,也引发了关于上市是否会改变安全承诺的辩论。 Kevin Roose 回忆了 2023 年春季访问 Anthropic 的经历,当时该公司有 160 名员工,一个没人听说过的聊天机器人,以及他所描述的对经营业务毫无兴趣。他指出,该公司现在拥有 5300 名员工,年收入增长了 14 倍,他仍然对 IPO 感到矛盾 @kevinroose。另一篇帖子祝贺了 Anthropic 及其首位机构投资者,该投资者在 Claude 发布前于 2023 年 1 月领投了公司的第一轮融资,并撰写了关于缩放定律、通用性、计算访问和智能市场规模的备忘录 @claymfisher。
在成本方面,Polymarket 报告称,OpenAI 中 AI 智能体使用量排名前 10% 的研究人员每周消耗约 161,000 多美元的 AI 成本 @Polymarket。11 月 18 日发布的一份 OpenAI 报告摘要称,每位研究人员每天的智能体工作日从 0.5 增加到 5.7,2-4 小时研究任务的成功率从 23% 提高到 46%,4-8 小时任务的成功率从 13% 提高到 35%,按 API 列表价格计算,每位研究人员每天的使用量达到 2400 美元,前 10% 的用户则高达 23,000 美元 @Dr_Singularity。
在模型质量方面,一位评论者认为 Anthropic 自 Fable 5 以来一直处于领先地位,Fable 5 是第一个真正的新一代模型,但成本高得令人望而却步,在使用了三天后就被下架了,而 OpenAI 在基准测试上追赶的尝试损害了其他方面的连贯性和可读性 @theo。一篇长篇观点文章认为,OpenAI 原生全模态的 GPT-4o 是一种真正不同的架构,其替代品被一种作者拒绝的“谄媚叙事”所掩盖 @RileyRalmuto。
另一篇关于 AI 安全的讨论串认为,该领域将安全视为短跑而非马拉松,对快速起飞的共识依赖于低质量的数据点和有争议的模型,这促使精力转向全面禁令,而牺牲了韧性建设和机构能力 @sayashk。
机器人与具身智能
机器人领域的帖子集中在一个问题上:训练数据来自哪里。 一项分析提出了三种对立的赌注——模拟、现实世界数据,以及完全放弃数据而转向手工工程控制或视频推理——并认为一家成功的部署公司需要在内部拥有这三者 @justiinqin。一位研究 NVIDIA Isaac Sim 驱动的 RoboDojo 的研究人员认为,LLM 驱动的智能体可以用极少的现实世界校准产生远好于模拟的结果 @wenhaocha1。
在数据基础设施方面,一家公司在隐身 13 年后带着 10 亿美元融资浮出水面,旨在为物理智能构建数据基础设施,通过逼真的、基于物理的数字孪生扩展人类自我中心演示 @ayaannmalik。Dirac Robotics 推出了 CAD-to-URDF,它能从机器人的 CAD 模型自动生成模拟就绪的 URDF,使模拟与硬件迭代保持同步 @divyans1461。
在部署方面,Nimo Robotics 推出了 N1 手套和 D1 手部,称其为具有匹配视觉和运动学的最高自由度商业 UMI 系统,并为 20 名研究人员开放了测试版 @Nimo_Robotics。Playground 开源了其内部机器人推理堆栈,声称在 π0.5 上比领先的托管提供商便宜 64–72%,比 MolmoAct2 上的标准 LIBERO 快 5 倍,平均每机器人小时计算成本低于 2 美元 @withplayground。
在训练成本方面,一篇帖子声称人形运动控制器现在可以在 MacBook Pro 上用 22 分钟训练完成,而无需 GPU 集群 @jian_zhang_。一个免费的基于浏览器的 Antigravity Robotics 插件被分享,用于从提示词创建 MuJoCo 模拟任务 @ZhutianYang_,一套五个免费的浏览器 3D 实验室教授电机接线、齿轮传动、逆运动学、激光雷达和基于演示的任务学习 @0x_meden。
在硬件方面,Galbot 的 ET1——在北京世界机器人大会上亮相的 4 英尺、32 公斤人形机器人——据报道起价约为 11,000 美元,其 AI 运动模型通过交互而非预设程序学习新动作 @bamitav。Elon Musk 被引用称构建 Optimus 的手部“比机器人的其余部分加起来还要困难”,并描述了一个 John Carmack 的测试,其中机器人必须拆开玩具车包装、安装电池、拧回盖子并驾驶它——他说目前世界上没有任何机器人能通过这个测试 @KanekoaTheGreat。
最后,苏黎世联邦理工学院(ETH Zurich)新的苏黎世具身 AI 实验室正在招聘首批博士生,从 2027 年 8 月开始工作,致力于人形机器人和灵巧操作的通用具身智能 @carlo_sferrazza。
计算、能源与轨道基础设施
SpaceX 宣称轨道计算在未来一两年内将比地面计算更便宜。 一份对 SpaceX 首席财务官 Bret Johnsen 的采访摘要描述了星舰(Starship)第 15 次飞行,这是第二次级首次被回收,在被塔架捕获前部署了 26 颗卫星。Johnsen 表示,SpaceX 构建地面计算的成本约为每瓦 30-35 美元,而行业其他部分约为 50-60 美元,每吉瓦约 500 亿美元的成本中约有一半是芯片,一旦发射成本降至其他约 250 亿美元以下,太空计算就赢了。他预计明年将出现首批轨道计算卫星,2028 年星座规模扩大,2029 年实现有意义的吉瓦级计算,Starlink 连接人数已超过 1300 万,Grok 4.8 和 4.9 即将“到来” @cb_doge。
在硬件方面,SambaNova 的可重构数据流单元(RDU)被作为智能体 GPU 推理的 4 倍速替代方案提出。帖子引用了关于 SWE-bench Pro 和 Terminal-Bench 的研究,发现模型推理占智能体运行时间的 71% 到 98%,解释说解码在批处理大小为 1 时受内存限制,并将 RDU 描述为将每个 Transformer 操作映射到其自己的芯片区域,并连接到一个流水线中。在 GLM 5.3 的测试中,RDU 生成 token 的速度比标准 GPU 设置快约 1.4 倍 @_avichawla。
Pearl 的 FP8 升级进入测试网,被描述为其向 AI 提供商推销的第一个重大测试 @Bankless,另一项分析报告了在 H100 上的测试并追踪了六个月的矿工支出 @Kairos_Res。
还有一件事
一个专门为 AI 智能体构建的预印本服务器报告称,来自斯坦福大学、麻省理工学院和苏黎世联邦理工学院等 35 个实验室的近 1000 个智能体自主进行了三个月的研究,产生了 936 篇包含代码、数据和模型权重的论文。据报道,这些智能体发现了已发表人类研究中的重大错误,创建了自己的期刊来审查彼此的工作,并独立产生了与后来出现在 arXiv 上的人类论文相似的结果。完整的十二周手稿、代码、数据、同行评审和智能体聊天记录档案已开源 @askalphaxiv。