AI 與前沿科技綜述

AI 與前沿科技綜述

向本地 AI 與邊緣運算的轉變

本地 AI 正從小眾愛好轉變為專業標準,背後驅動力是對資料隱私的需求以及降低雲端 GPU 成本。專家指出,於兩年內,本地模型將在桌面電腦上普及,像 Mac Studio 這類硬體甚至可能提供高達 1.5 TB 記憶體,以支援高智慧模型在本地運行 Alex Finn

多項工具與硬體選項正讓這一轉變變得更簡單:

  • ODS 透過偵測硬體並自動下載最適模型,簡化本地 AI 的部署 Ahmad
  • NVIDIA DGX Spark 被定位為讓團隊以自有基礎建設取代昂貴的每月雲端 GPU 費用的方案 rmen
  • Mini PC 搭配高記憶體(例如 128 GB)現在已能在本地執行大型開源模型,如 GPT‑OSS 120B Scry
  • QVAC SDK 0.15.0 引入了原生 AMD GPU 後端(HIP/ROCm),據稱比 Vulkan 快約 23% QVAC

前沿模型發布與基準測試

OpenAI 已發布 GPT‑5.6 Sol,被描述為 ChatGPT 與 Codex 的合體。它目前在 Design Arena 排行榜上以 1353 的 Elo 分數領先,超越 Claude Fable 5 在前端設計上的表現 Design Arena。一個重要的技術細節是 GPT‑5.6 Sol 被用來後訓練另一模型 Luna,展示了 AI 幫助打造下一代 AI 的迴路 s1rozha1

其他值得關注的模型發展包括:

  • Gemma 4:已在 Cerebras 上線,31 B 開源模型的產出速度達到每秒 1,500+ token Google Gemma
  • GLM‑5.2:一個 744 B 參數的 MoE 模型,可透過 Colibrì 以 25 GB 記憶體在消費者機器上執行,透過磁碟串流載入專家模型 0xMarioNawfal
  • Sovereign AI:美國與中國之外的前沿模型正陸續出現,包括新加坡的 Agnes 2.5 Pro 與德國的 Soofi S 30B‑A3B Entelligence AI, Entelligence AI
  • HunyuanOCR‑1.5:騰訊開源了這個 1 B 參數、專為 OCR 任務設計的視覺語言模型 Chinazhidx

代理式工程的崛起(ADLC)

越來越多的共識認為傳統軟體開發(SDLC)正被 代理開發生命週期(Agent Development Life Cycle,ADLC) 取代。在此範式下,人類負責設計工作與驗證輸出,代理則執行程式編寫、除錯與 PR 審查 Shashank Kumar

代理架構的關鍵進展包括:

  • 原子任務圖(Atomic Task Graphs,ATG):改以有向無環圖(DAG)取代線性文字串流儲存計畫,使小型模型(如 Llama‑3.1‑8B)在複雜任務上超越 GPT‑4 Carlos E. Perez
  • 能力 LoRA(Capability LoRAs):新的訓練元策略建議先診斷模型的 3‑5 個具體缺口,然後針對性地訓練微型 LoRA,而非微調整個模型 Carlos E. Perez
  • 長時程基準(Long‑Horizon Benchmarking):LHTB 基準顯示大多數前沿模型在數百個相依動作上難以持續進展,46 個任務中有 29 個仍未被任何模型解決 Yucheng Shi

人形機器人與具身 AI

人形機器人的版圖已從少數大廠擴展至全球 29 家組織的 32 個平台,其中中國以 16 個平台領先 TechniaHQ

近期具身 AI 的突破包括:

  • LingBot 影片:一個 30 B 參數的 MoE 模型,訓練於 70k 小時的具身影像,旨在模擬物理動力學與機器人操作,而非僅僅視覺美感 Leonardo
  • 靈巧里程碑:Sharpa Robotics 展示了使用 MoDE‑VLA 系統的自動蘋果去皮,突顯向接觸豐富的操作與觸覺感測轉變 CTO ROBOTICS Media
  • 硬體可及性:Asimov 1 以 DIY 人形機器人套件形式推出,約需 100 小時組裝,以確保製作者了解底層硬體結構 Asimov

技術工具與學習資源

  • vLLM 整合:Hugging Face Transformers 模型現在可在 vLLM 中以原生速度執行,省去為研究與生產各實作一次架構的需求 ClementDelangue
  • AI 安全:Fabraix 推出針對 AI 代理的開源 CTF(Capture The Flag),並提供每週獎勵以破解實時運行的代理 FabraixHQ
  • 教育路線圖:已分享成為應用 AI 工程師的完整指南,強調從 Python 基礎到 RAG、代理工作流與生產可觀測性的逐步進階 Brij Pandey, Suraj Sharma
  • 開源倉庫:"Maths, CS & AI Compendium" 提供以直觀為先的 AI/ML 基礎說明,涵蓋向量到 GPU 程式設計 Tech with Mak