AI & 前沿技术综述 – 本地模型、智能体 AI 与机器人突破 (2026年7月)

TL;DR: 7 月的 AI 热议重点在于向本地运行强大模型转型(例如手机上的 Bonsai 27B)、免费获取 NVIDIA 高端模型,以及智能体和机器人能力的加速发展——从工具调用框架到类人手术助手。

本地设备大模型

  • Bonsai 27B 是首个可以运行在手机上的 270 亿参数模型,通过 3.9 GB 的 1-bit 版本和 5.9 GB 的三进制版本,提供多模态推理、结构化工具使用和长上下文工作流。该模型已根据 Apache 2.0 开源。PrismML
  • Alex Finn 指出,运行在 iPhone 上的 27B 模型展示了本地 AI 如何在两年内从仅限数据中心快速演进到消费级设备,并敦促开发者现在就开始学习本地 AI 流水线。Alex Finn
  • Ahmad 对此趋势表示赞同,称 6 GB 以下的 27B 模型是本地 AI 的“默认配置”,并承诺 @OsmanticAI 将进行进一步优化。Ahmad
  • Tim Carambat 证实,得益于 PrismML 的压缩技术,Qwen 3.6 27B 可以在占用不足 10 GB 内存的情况下运行,同时保留 90% 的能力。Tim Carambat

免费获取高端模型

  • NVIDIA 宣布了一项为期一年的免费计划,提供对 140 多个模型(包括 GLM-5.2, MiniMax M3, Nemotron-3-Ultra-550B-A55B, Kimi K2.7)的无限次 API 调用。指南展示了如何将免费密钥绑定到 Hermes agent 以实现即时使用。Mr. Buzzoni
  • NVIDIA AI 展示了一个自主编程智能体,利用 NeMo RL 和可复用技能,将视觉模型 (Qwen3-VL-2B) 的准确率从 25% 提升到了 96.9%,展示了智能体研究循环的力量。NVIDIA AI
  • Claude Fable 5 计划于 7 月 19 日停用,其继任者计划于 8 月推出以与 GPT-6 竞争;该模型很快将被更便宜的 Opus 变体取代。leo 🐾

模型路由与高性价比推理

  • Anthony Pompliano 描述了 @cfosilvia 平台中的一种新型 AI 模型路由器,它能为每个查询自动选择最便宜、最合适的模型,在保持性能的同时降低延迟和成本。Pompliano
  • Saoud Rizwan 分享称,GLM 5.2 的“快速模式”为大多数日常任务提供了最佳的性价比,并警告不要锁定在单一模型上。Saoud Rizwan

智能体开发工具

  • Claude Code 正被用于端到端工作流:Mike Futia 发布了一个 Google-Ads 构建器,可以从一个 URL 生成完整的广告活动,以及一个 Meta 广告政策检查器,可以根据实时政策页面验证文案——且无需 API 密钥。Mike Futia (Ads) | Mike Futia (Policy)
  • Gabriel Chua 发布了一份关于 GPT-5.6 “程序化工具调用”的指南,涵盖了托管工具、MCP 集成和多调用编排。Gabriel Chua
  • John Peslar 强调了 Anthropic 关于使用 Fable 5 进行循环工程的免费课程,教授智能体循环(观察 → 行动 → 评估 → 重复)。John Peslar
  • Suryansh Tiwari 强调了 Anthropic 为 Claude Code 提供的全新提示词库,指出它为广泛的开发任务提供了高信号模板。Suryansh Tiwari
  • Milan Jovanović 发布了一个 Claude Skills 包,它对整洁架构的代码库进行了编码,能够通过简单命令实现确定性的功能生成。Milan Jovanović

机器人与具身智能

  • 乐观的时间表:David Patterson 预测,在规模化制造组件和 AI 自动化生产的推动下,到 2030 年将出现价格低于 1000 美元的全功能人形机器人。David Patterson
  • 手术人形机器人:加州大学圣迭戈分校展示了 30 公斤的遥操作人形机器人对猪进行胆囊切除术,这是迈向自主手术助手的关键一步。NEXTA
  • 灵巧手:1X 展示了一只具有 25 个自由度 (DOF) 的人形手,每个关节都配有力传感器,能够实现安全、防水的操作(例如洗手)。Space and Technology
  • 人形机器人乐观主义:Alex Finn 和 Cole Grinde 都认为 Tesla 的 Optimus 将比预期更早到来,突显了行业对近期人形机器人部署的信心。Alex Finn | Cole Grinde
  • 物理 AI 智能体:Base APAC 展示了 Opengotchi,这是一种具身于便携式机器人身体中的 AI 智能体,正在机器人赛道中进行比赛。Base APAC
  • 机器人评估:NVIDIA Robotics 推介了 RoboLab,这是一个在现实世界部署前对机器人策略进行系统评估的平台。NVIDIA Robotics

新兴模型基准与发布

  • Kimi K3 (Moonshot) 计划以新架构发布,具备 256K 上下文、原生视觉和用于大规模并行执行的“智能体集群 (Agent Swarm)”,旨在挑战 GLM-5.2, GPT-5.6 和 Claude Fable 5。Entelligence AI (K3)
  • Gemini 3.5 Pro 泄露信息显示其拥有 2M token 窗口、更深层的推理能力以及更强的编程/工具使用能力,在内部评估中可能超越 Claude Fable 5。Brutox
  • GLM 5.2 性能:Joe Muller 报告称,在 2 台 DGX Sparks 上使用 2-bit 量化和专家剪枝后,实现了 3 倍加速 (13.8 tok/s);0xSero 指出在破解该模型后,解码速度达到 86.8 tok/s。Joe Muller | 0xSero

社区与开源倡议

  • EvoSkill (Sentient) 被 Agent Skills ’26 接收,提供了一个开源工具包,可在几分钟内将编程智能体进化为专家。Sentient
  • Ornith-1.0 在两周内在 Hugging Face 上达到了 300 万次下载,突显了开源 LLM 的快速社区采用。Ornith-1.0
  • NeuralActuator (Zhiyang Dou) 发布了用于机器人动力学建模的代码、数据集和检查点,为外部力感知提供了可微驱动模型。Zhiyang Dou

所有链接均指向原始 X 帖子;除作者所述内容外,未添加额外主张。

相关