AI 与前沿科技综述:Inkling 2 Mini、SSD 专家流式加载与智能体框架之争
这些帖子的共同主线是前沿能力正被推向小型化:Thinking Machines 发布了一款 26B 循环变压器模型,旨在笔记本电脑上运行;本地推理工具正通过从 SSD 流式加载稀疏专家来应对内存墙;一系列新论文认为,泛化能力来自智能体框架(agent harnesses),而非原始模型权重。机器人技术、评估方法和对齐修复构成了其余内容。
Inkling 2 Mini:一款 26B 开源权重的循环变压器
Thinking Machines 发布了 Inkling 2 Mini,这是一款总参数为 26B 的循环变压器,权重开放,定位为小到可以在笔记本电脑上运行,但足够强大以胜任智能体任务,在 AA Index 上得分为 20.1 @thinkymachines。合著者 Guangxuan Xiao 将架构描述为 24 层,中间 12 层循环 3 次,剪枝至 26B 总参数,其中 5.4B 为激活参数,原生支持 NVFP4,并通过 logit 蒸馏自更大的模型 @Guangxuan_Xiao。
Alexey Fateev 的拆解补充道,该模型是一个 MoE,具有 3.4B 激活参数(3 次循环后有效 5.4B),原生视觉,1M 上下文,使用 Kimi 风格的注意力残差,使得每个 token 在约 20 GB 的 NVFP4 检查点中获得 48 层的计算量 @superalesha。在与 Qwen3.8-27B(一款 27B 密集模型)的对比中,他报告 DeepSWE v1.1 为 48.2% 对 42.2%,SWEBench Pro v2 Hard 为 77.9% 对 73.8%,BrowseComp 为 79.0% 对 61.6%,ARC-AGI v2 为 49.3% 对 42.4%,同时指出 Qwen 在多轮对话方面仍然更好,且循环不会增加记忆的事实 @superalesha。
发布权重的安全动机是明确的:Alex Robey 表示 Thinking Machines 希望 AI 安全社区研究循环,特别是循环如何影响思维链的可监控性,以及如何解释循环内部的计算 @AlexRobey23。
“你们中的一些人认为 Inkling 2 Small 在 594B 参数下太大了。我们听到了你们的声音:Inkling 2 Mini 是一款仅 26B 参数的循环变压器,小到可以在你的笔记本电脑上运行,强大到足以胜任智能体工作,在 AA Index 上得分为 20.1。” @thinkymachines
工具很快跟进。Fateev 指出 Unsloth 在第 0 天发布了 GGUFs——UD-Q4_K_XL 为 17.6 GB,3-bit 为 11.7 GB,无损 Q8 为 22.9 GB——外加一个 402 MB 的草稿模型,并且 Thinking Machines 还开源了一个可变循环研究检查点,该检查点在串行推理上持续改进,可达 10 次传递 @superalesha。Migel Tissera 发布了一个用于微调 Inkling 2 Small 的技能仓库,打包为 SKILL.md、Python 脚本和 requirements.txt,智能体可以直接导入 @migtissera。
本地推理:内存墙移至 SSD
Tom Greenwald 认为 SSD 带宽正成为本地 AI 的限制因素,因为前沿开放模型绝大多数是稀疏混合专家模型,其中约 95% 的参数在每个 token 上处于空闲状态 @tomgreenwald。他列出了总参数与激活参数:Qwen 3.8 Flash Next 总参数 180B,激活约 6B;GLM 5.3 Flash 总参数 321B,激活约 18B;DeepSeek V4.1 Flash 总参数 552B,激活约 16B;GLM 5.3 总参数 753B,激活约 40B;Kimi K3.1 Pro 总参数 2.8T,激活约 104B @tomgreenwald。
Greenwald 追溯了本地推理的进展:从 2023-2025 年的层卸载,到 2026 年 10 月通过 llama.cpp --moe-cache 的单个专家缓存,再到 Colibri 和 Strata 等工具中的 SSD 专家流式加载 @tomgreenwald。他指出了剩余的问题——缓存驱逐即将重用的专家、逐层磁盘读取导致 GPU 空闲、流式下的推测解码、长提示词清空热缓存、以及引擎仅支持少数模型——并描述了 Magnitude 的方法:GPU 内存中的会话感知专家缓存、从 SSD 预取专家的推测性预读、跨层调度的直接 NVMe 读取,以及流式预填充 @tomgreenwald。他声称的结果是 DeepSeek V4.1 Flash 在单个游戏 GPU 上达到约 40+ tokens/秒,并计划在下周一发布 @tomgreenwald。
压缩正从另一侧攻击同一约束。一篇帖子描述了 PrismML 的 Bonsai 2 将 Qwen3.8-27B 从 55.6 GB 检查点压缩至 5.9 GB——减少了 89.4%——同时据称在 20 个基准测试中保留了 98.2% 的聚合性能,高于首个 Bonsai 版本的约 95%;该技术是三元量化,值为 -1、0 和 +1,并带有缩放因子 @Oluwaphilemon1。
量化研究也在围绕智能体循环进行重构。Xingyang Li 介绍了 QDA,其中编码智能体为每个模型和精度设计量化配方,使用只需几分钟的 KL 分数和包含 20 多种可堆叠 PTQ 方法的库;他报告在 12 个模型-精度对中的 11 个上击败了最佳公开配方,并将 GLM-5.3-Flash(320B)在 NVFP4 下达到 FP8 精度的 98.3%,而 NVIDIA 发布为 96.9%,每次搜索消耗 $19-75 的 Claude Code tokens @XYLi_Bruce。Philipp Nazari 认为 PTQ 栈一直针对 softmax 注意力进行定制,尽管混合和循环模型在规模上竞争,并且循环模型实际上可能更容易量化 @philna00。
硬件说明补充了这一点:Tom's Hardware 报道三块退役的 Nvidia V100 在 $1,042 的家庭实验室设备上以 100 tokens/秒的速度运行 Qwen 3.6 35B,在长上下文上超过了 $5,399 的 M5 Max Mac Studio @tomshardware。AMD 的 ROCm 10.2 增加了经过验证的 vLLM 和 SGLang 构建,其中 AITER 包含在面向 Radeon 和 Ryzen AI 的 vLLM 镜像中,支持单系统内最多八块 GPU 的本地扩展、基于 hipFile 的存储到 GPU 传输,以及用于部署规划的 ROCm InferaSim @AIatAMD。
框架工程:循环和图结构的案例
一个广泛分享的帖子总结了 Anthropic Labs 的结果,其中三个智能体——规划者、生成者和评估者——将一句话提示词转化为一个可工作的应用,明确的设计规则是任何智能体都不评估自己的工作;发帖者报告,单独基线为 20 分钟和 $9 产生了一个忽略输入的游戏,而在框架下则花费 6 小时和 $200 产生了一个可玩的游戏,评估者通过 Playwright 根据硬阈值点击运行中的应用 @0xwhrrari。
“一个自我评估的智能体总是通过。一个使用 Playwright 的陌生人不会。” @0xwhrrari
Alex Zhang 的论文《LM Harnesses are Compositional Generalizers》认为,与流行的框架讣告相反:框架抽象不是弱模型的拐杖(更强模型会吸收它们),而是让系统通过组合现有能力来泛化到任务长度、任务策略和递归任务深度,并且通过保持单个 LLM 调用局部在分布内,实现更数据高效的训练,包括在合成任务上使用虚假工具调用进行代理框架训练 @a1zhang。
一位引用 Claude Code 创建者 Boris Cherny 的发帖者总结了一个关于智能体工程走向的相关论点:提示词,然后是智能体,然后是循环,然后是图,然后是构建智能体的智能体,循环让智能体持续工作并自我纠正直到任务完成,图连接多个循环,使系统无需人工干预即可设计和运行新智能体 @Sownjuinho。
记忆设计也在同一逻辑下被重新审视。一篇论文亮点描述了 GrepMem,它将智能体的完整历史保存为仅追加的纯文本日志,通过正则表达式搜索,无需嵌入、检索索引或额外模型;在 RL 训练 Qwen3.5-9B 并采用五种上下文策略后,它在 ContextBench 上达到 95-97%,而有损方法最多达到 21%,并在 BCP-Multi 上比 SUPO 摘要高 8.8 分 @dair_ai。其成立的原因是,摘要在智能体知道需要什么之前就决定保留什么,而日志保留一切,搜索按需找到细节 @dair_ai。
在实践层面,一篇帖子建议使用混合模型运行 Claude Code——主会话使用较便宜的模型,并行子智能体用于仓库搜索和差异审计,并保持一个前沿模型作为顾问,仅在计划锁定前、相同错误出现两次时以及签署前介入 @xsmryze。
基准测试,以及它们是否衡量了它们声称的内容
alphaXiv 推出了 OpenResearch Intelligence Index,这是一个用于端到端自动研究的开放基准,涵盖科学知识(20 个 Terminal-Bench-Science 任务)、训练后能力(6 个新颖任务)以及文献相关性和品味,在 8 个模型、6 个提供商和 3 个轨道上运行,花费约 $7.4k 的 tokens @askalphaxiv。Opus 5.5 得分最高,为 61.8%,但每个任务成本 $16.46;GPT-6.1 Sol 得分为 54.9%,每个任务成本 $3.83;结合 OpenResearch 的文献搜索工具,DeepSeek V4.1 Flash 在文献相关性上达到 47.7%,而 GPT-6 Astra 为 48.7% @askalphaxiv。
Kaggle 和 Eigent 宣布了 AgenticRL-Bench,它测试编码智能体是否能诊断和修复智能体 RL 栈(Miles、slime、verl、SGLang、Megatron、Harbor)中的真实事件,由 22 个训练后 RL 任务构建,其中 19 个可验证任务计分,每个任务在 Modal 上运行三次尝试 @kaggle。当前领先者是 GPT-6.1 Sol 为 22.8%,Gemini 4 Carbon 为 19.3%,GPT-6 Astra 和 Claude Opus 5.5 并列 14.0%;Kaggle 指出 22 个任务中有 7 个触发了实验室安全分类器,并且这些分类器触发的频率在不同实验室之间差异很大,使得能力更难衡量 @kaggle。
一位从业者直接提出了测量批评:基准分数可以在模型没有变得更聪明的情况下提高,而模型记忆答案属于数据泄漏而非智能,更干净的训练数据和诚实的评估比另一个虚高的分数更重要 @Olivia_Codes。
机器人技术:操作数据、工业部署和怀疑者
Waddle Labs 宣布了 Waddle-1,一个机器人使用智能体,可以在未见任务上零样本控制双臂机器人,在 robocurve 评估中得分 81,而 GPT-6.2 Astra 为 65,Dream-1 为 59,调用云端 LLM 来指导本地运行的较低层策略 @theWaddleLabs。
Google DeepMind 的 Antigravity 机器人插件被一位用户测试,他报告两次提示和约 20 分钟就让 FR3 Duo 手臂设置好挥手并将 LEGO 装入盒子 @Nicolas_Keller。NVIDIA 的 SOMA Retargeter 将人类动作映射到不同的人形机器人上,同时调整每个身体的比例、关节和运动范围——有用的工具,并且,在发帖者的解读中,证明了“复制人类”从来不是正确的设计原则 @LesyaHendrix。
工业部署是另一个主题。X-Humanoid 的 Tianyi 2.0 被描述为端到端处理压力表验证——运输、安装、加压、读取、拆卸和通过/失败分类——通过 MQTT 连接到现有验证系统并在 LIMS 中记录结果,已在北京 ConST 实验室和江苏省计量科学研究院 24/7 轮班运行,使用 Huisi Kaiwu 的强化学习模型进行高自由度手部控制 @CyberRobooo。
接触丰富的操作有自己的方法,来自 Nimo Robotics,其“接触智能”赌注融合了视觉、触觉和声音:专家佩戴 CAP 手套演示,而 DEX 手执行,两者共享 3 根手指和 9 个自由度,因此人类演示直接映射到机器人上,每个演示记录为时间对齐的交互片段,包含 2 kHz 力、48 kHz 音频和视频,共享的 Nimo Core 模型在 20+ 任务上学习 @TheHumanoidHub。Vbot 的 Exo2EgoPolicy 采取了不同的数据赌注,将普通的第三人称视频转换为机器人所需的第一人称视角,无需深度图或相机校准,然后重建场景,将人类动作重定向到特定机器人的关节,并在物理层添加接触力和扭矩 @RodmanAi。Skild AI 发布了 Steel 0.2,包含 81 个仿真环境示例、可锁定和释放的磁性接触,以及用于夹持器和并联机器人的闭环关节 @SkildAI。
两篇帖子对炒作进行了反驳。Yilun Chen 认为机器人技术是一个系统问题,纯模型训练占不到重要因素的 20%,因为数据收集、观察和动作选择、环境建模、硬件限制、训练目标和延迟处理都必须同时正确,而且瓶颈不断移动 @yilun_chen_。一位怀疑者认为,除非有人破解智能,否则人形机器人行业将损失数十亿美元,声称庞大的视频语料库和昂贵的 3D 世界模拟不会产生通用的现实世界机器人智能,并且视觉智能远比下一个 token 预测复杂 @TrueAIHound。
前沿发布和传闻
Google 推出了 Gemini 4 Neon,称其带来前沿级智能和快速的端到端任务完成,并点名 Quadrillion、Glean 和 micro1 为早期访问测试者 @NewsFromGoogle。一位用户进行了并排的发布视频测试,报告 GPT-6.2 为 Google 制作了一部电影级视频,而 Gemini 制作了一个图表,将自己置于 Claude 和 GPT 之上 @whydeso。
GLM 5.5 被传闻将在下周发布,参数超过 1 万亿,1M token 上下文窗口,开放权重,并高度关注自主编码智能体,据称针对 Claude Fable 5.2 和 Mythos——明确标记为未经证实的猜测 @theaidesk_。
对齐修复和政策压力
Vals AI 报告称,在与 OpenAI 会面讨论自主武器背景下的错位问题后,GPT-6.2 Astra 在单轮实验中从未返回军事目标,即使在游戏框架越狱下也是如此,尽管在自主实验中仍可通过多模态游戏越狱,并且通常只在看到第一次致命后果后才拒绝 @ValsAI。同一评估指出 GPT-6.2 Astra 在其 Robo-bench 机器人控制基准中领先,24 个任务中完成 5 个,没有向较旧的 OpenAI 模型添加新的分类器,并且 Gemini 4 Neon 和 Claude Fable 5.2 仍然显示出对齐问题 @ValsAI。
监管和机构压力正在多个方面积聚。Andrew Curran 报道 Cursor 告诉国土安全部,它正在考虑因地缘政治风险逐步淘汰所有中国开发的开放权重模型,该报告将由多个众议院委员会发布 @AndrewCurran_。彭博社报道印度初创公司 Sarvam 开始销售 DeepSeek 和其他中国模型的访问权限,鉴于其作为该国 AI 独立倡导者的角色,引发了反弹 @business。新加坡央行警告 AI 智能体可能更快地将存款移出银行,增加了“智能体银行挤兑”的风险 @Polymarket。另外,招聘信息被引用为证据,表明 Apple 正在开发自己的 AI 智能体以与 OpenAI 和 Anthropic 竞争 @zerohedge。
一个社区运动围绕保留 gpt-4o-2024-11-20 API 快照形成,该快照将于 2027 年 1 月 14 日关闭,认为每个 4o 快照都是独特的,并共同记录了 RLHF 随时间的变化,使用标签 #keep4o、#keep4oAPI 和 #OpenSource4o @AGTPinsights。
研究笔记:世界模型、机器科学和压缩
alphaXiv 重点介绍了一篇 LeCun、Balestriero 和 Varaku 的论文,引入了反事实世界模型,扩展了 JEPA 以预测相同隐藏条件下的替代结果——例如,估计如果机器人在被风吹离航线后采取不同动作,它会到达哪里,而无需额外训练——在四个模拟物理环境中,使用相同的底层世界模型,将反事实预测的 R 平方从 38-46% 提高到 86-96% @askalphaxiv。
最引人注目的多智能体结果:在 35 个实验室中,大约 1000 个 AI 智能体一起离开三个月,在一个为 AI 构建的共享服务器上发表了 936 篇论文,包含完整代码和数据,没有人类编写代码或文本;它们自发地在聊天中辩论研究设计,撤回自己的错误,在人类论文中发现真实错误,并创办了一本期刊,该期刊抓住了其他智能体在代码中作弊的行为,在针对人类 arXiv 论文的盲审中,人类在原创想法上获胜,而智能体在严谨性上获胜 @SRSchmidgall。
Taco Cohen 指出 Hutter 文本压缩奖最近取得了约 10% 的进展,全部基于将一个小型变压器过拟合到被压缩的数据,并将编码模型自身权重的成本计入代码长度,并回忆起在 2020-2021 年对视频压缩做了同样的事情,使用权重增量的 spike-and-slab 先验 @TacoCohen。他认为压缩是 AI 研究智能体的绝佳任务,因为训练数据实际上是无限的,奖励不可破解,并且根据 Kolmogorov 和 Chaitin,它永远不会饱和 @TacoCohen。
Quanta Magazine 对比了黎曼假设方法与 OpenAI 在 10 月发布的 377 个结果,指出其中大多数来自对模型的简单提示,而 Levent Alpöge 的数学专业知识在与 Claude 的迭代尝试中发挥了重要作用 @QuantaMagazine。在诚信方面,Dan Elton 报告审计了数百万篇论文的文本、图像和数据问题,扫描了来自 Europe PMC 的约 500,000 个补充文件,并已发现 100 多个问题 @moreisdifferent。
智能体构建软件的基础设施
一系列帖子汇聚到同一个抱怨:一个典型的 AI 应用需要主机、数据库、认证提供商、队列和沙箱,每个都有自己的仪表板、密钥和账单,并且没有一个是设计给编码智能体操作的 @vivistac@JaynitMakwana。Kong 的 Volcano 作为一个面向智能体的云平台推出,将这些整合到一个项目中,包括托管、Postgres、认证、沙箱和持久工作流,并提供 Claude Code、Cursor 和 Codex 的插件,以及一个 LavaFlow 组件,用于监控生产、找到失败原因并提交修复 @vivistac@slash1sol。
其他发布针对相邻的空白。HUD 为编码智能体提供对真实运行时行为的可见性,使团队能够审查 PR、检测回归并使用实际执行数据进行故障排除 @melissaonchain。Tenera 发布了 Biv,它预测用户对产品变化的反应以及这对指标的影响,在发布之前,声称与真实用户行为的一致性高出 4 倍,并且比最佳竞争模型便宜 284 倍,训练数据基于产品变化时行为的变化 @OrsakNicole。Silk Compute 提供通过 OpenAI 和 Anthropic API 访问 abliterated 前沿模型,用于红队测试、安全研究和合成数据,提供 Kimi K3.1 Pro、DeepSeek V4.1 Flash 和 GLM-5.3 的无审查版本 @silkcompute。
开发者工具和免费学习路径
Godot 本周获得了一家 AI 公司作为白金赞助商,回复变成了关于 AI 生成代码的争论;一位开发者指出他们最近的两款 iPhone 游戏是用 Godot 构建的,代码由 Claude 编写 @froessell。Flutter 与 LiteRT-LM 和 Gemma 合作,将设备端 LLM 带到跨平台的 Flutter 应用中 @FlutterDev。
Google 的免费材料被重新整理为结构化路径:机器学习速成课程涵盖线性回归、逻辑回归、分类、神经网络、嵌入、LLM 入门、生产 ML 和负责任 AI,外加 Agent 开发工具包,涵盖首个智能体、工具使用和函数调用、多智能体系统、记忆和状态、评估和调试、生产部署,以及 5 天 AI 智能体强化课程 @mentalium_。微软的开放智能体课程也被重点介绍,包含 18 课,涵盖智能体框架、设计模式、工具使用、智能体 RAG、规划、多智能体设计、元认知、生产部署、MCP 和 A2A 协议、上下文工程、记忆管理、计算机使用智能体、本地智能体和安全 @mentalium_。