AI 與前沿科技綜覽 – 本地模型、代理式 AI 與機器人突破(2026 年 7 月)

AI 與前沿科技綜覽 – 本地模型、代理式 AI 與機器人突破(2026 年 7 月)

TL;DR: 7 月的 AI 討論聚焦於將強大模型本地化執行(例如 Bonsai 27B 可在手機上運行)、NVIDIA 提供的高階模型免費層存取,以及代理式與機器人能力的加速——從工具呼叫框架到類人手術助理。

本地裝置大型模型

  • Bonsai 27B 是首個可容納於手機的 270 億參數模型,提供多模態推理、結構化工具使用與長上下文工作流程,分別有 3.9 GB 的 1‑bit 變體與 5.9 GB 的三元變體。該模型以 Apache 2.0 授權開源。 PrismML
  • Alex Finn 指出,27 B 模型在 iPhone 上運行,展示了本地 AI 從僅限資料中心到消費裝置的快速進展,僅兩年內即完成,呼籲開發者現在就開始學習本地 AI 流程。 Alex Finn
  • Ahmad 呼應此趨勢,稱 6 GB 以下的 27 B 模型將成為本地 AI 的「預設」,並承諾 @OsmanticAI 將持續優化。 Ahmad
  • Tim Carambat 確認 Qwen 3.6 27B 可在低於 10 GB 記憶體下運行,且保留 90 % 的能力,歸功於 PrismML 的壓縮技術。 Tim Carambat

免費存取高階模型

  • NVIDIA 宣布一年免費方案,提供對 140+ 模型(含 GLM‑5.2、MiniMax M3、Nemotron‑3‑Ultra‑550B‑A55B、Kimi K2.7)的無限制 API 呼叫。指南示範如何將免費金鑰綁定至 Hermes 代理,即可立即使用。 Mr. Buzzoni
  • NVIDIA AI 示範了一個自主編碼代理,利用 NeMo RL 與可重用技能,將視覺模型(Qwen3‑VL‑2B)的準確率從 25 % 提升至 96.9 %,展現代理式研究迴路的威力。 NVIDIA AI
  • Claude Fable 5 將於 7 月 19 日停用,預計於 8 月推出繼任者以競爭 GPT‑6;該模型即將被更廉價的 Opus 變體取代。 leo 🐾

模型路由與成本效益推論

  • Anthony Pompliano 描述了 @cfosilvia 平台上的新 AI 模型路由器,會自動為每個查詢選擇最便宜、最合適的模型,降低延遲與成本,同時保持效能。 Pompliano
  • Saoud Rizwan 分享 GLM 5.2 的「快速模式」在大多數日常任務中提供最佳的性價比,並警告不要鎖定單一模型。 Saoud Rizwan

代理式開發工具

  • Claude Code 正被用於端到端工作流程:Mike Futia 發布了可從 URL 生成完整廣告活動的 Google‑Ads 建構器,以及可對照即時政策頁面驗證文案的 Meta‑ad 政策檢查器——全部不需 API 金鑰。 Mike Futia (Ads) | Mike Futia (Policy)
  • Gabriel Chua 發布了《Programmatic Tool Calling》指南,針對 GPT‑5.6 說明托管工具、MCP 整合與多呼叫編排。 Gabriel Chua
  • John Peslar 強調 Anthropic 提供的免費課程,教導使用 Fable 5 進行迴路工程(觀察 → 行動 → 評估 → 重複)。 John Peslar
  • Suryansh Tiwari 強調 Anthropic 為 Claude Code 新推出的提示庫,提供高訊號模板以支援各類開發任務。 Suryansh Tiwari
  • Milan Jovanović 發布了 Claude Skills 套件,將乾淨架構的程式碼庫編碼,使得透過簡單指令即可產生確定性的功能。 Milan Jovanović

機器人與具身 AI

  • 樂觀時間表:David Patterson 預測到 2030 年可以低於 1,000 美元的價格取得完全具備能力的類人機器人,原因是大規模製造零件與 AI 自動化生產。 David Patterson
  • 外科類人機器人:UC San Diego 示範了 30 kg 的遠端操作類人機器人,在豬隻身上執行膽囊切除手術,邁向自主外科助理的步伐。 NEXTA
  • 靈巧手:1X 推出具 25 自由度的類人手,每個關節皆配有受力感測器,實現安全防水的操作(例如洗手)。 Space and Technology
  • 類人機器人樂觀論:Alex Finn 與 Cole Grinde 均認為 Tesla 的 Optimus 將比預期更早到來,凸顯業界對近期類人機器人部署的信心。 Alex Finn | Cole Grinde
  • 實體 AI 代理:Base APAC 展示了 Opengotchi,一個以可攜式機器人體作為載體的 AI 代理,參與機器人賽道競賽。 Base APAC
  • 機器人評估:NVIDIA Robotics 推廣 RoboLab 平台,用於在實際部署前系統性評估機器人策略。 NVIDIA Robotics

新興模型基準與發布

  • Kimi K3(Moonshot)即將以全新架構、256K 上下文、原生視覺以及「Agent Swarm」大規模平行執行推出,目標挑戰 GLM‑5.2、GPT‑5.6 與 Claude Fable 5。 Entelligence AI (K3)
  • Gemini 3.5 Pro 泄漏資訊顯示其支援 2 M 代幣窗口、更深層推理與更強的程式碼/工具使用,可能在內部評測中超越 Claude Fable 5。 Brutox
  • GLM 5.2 效能:Joe Muller 報告在 2 DGX Sparks 上使用 2‑bit 量化與專家剪枝可達 3 倍加速(13.8 tok/s),0xSero 在破解模型後達到 86.8 tok/s 的解碼速度。 Joe Muller | 0xSero

社群與開源倡議

  • EvoSkill(Sentient)已被錄取至 Agent Skills ’26,提供一套開源工具包,能在數分鐘內將編碼代理演化為專家。 Sentient
  • Ornith‑1.0 於兩週內在 Hugging Face 獲得 300 萬次下載,顯示開源 LLM 的快速社群採用。 Ornith‑1.0
  • NeuralActuator(Zhiyang Dou)釋出程式碼、資料集與檢查點,用於機器人動力學建模,提供可微分的驅動模型以感知外部力。 Zhiyang Dou

所有連結皆指向原始 X 帖子;未加入任何超出作者原述的額外主張。