封存 · 11 個實驗室 · 870 篇 dispatch

實驗室

不用每天手動刷十幾個官方部落格。OpenAI、Anthropic、DeepMind 等實驗室的一手發布,每篇都提煉出核心內容。

51

在 PyTorch 中進行分析(第 3 部分):注意力就是你要分析的一切

Hugging Face 的 PyTorch 分析(第 3 部分)展示了不同注意力實作在 PyTorch 分析器追蹤中的呈現方式,揭示了 naive、in‑place、math、efficient、flash 和 cuDNN 後端的效能權衡。

52

Hugging Face 原生速度 vLLM Transformers 建模後端

Hugging Face 已更新 transformers vLLM 後端,透過在執行時動態套用針對推理的層融合,使其吞吐量與自訂 vLLM 實作相當或更佳。

53

Hugging Face 與 Amazon SageMaker Studio 整合

Hugging Face 推出了與 Amazon SageMaker AI 的深層連結整合,讓開發者只需一次點擊即可從模型探索轉移至 SageMaker Studio 進行微調或部署。

54

Hugging Face Models on Foundry Managed Compute

Microsoft Foundry 現在整合了一個經過策展、每週更新的 Hugging Face 開放權重模型目錄,可透過一鍵部署至 Foundry Managed Compute,實現企業級運營。

55

Hugging Face 與 SkyPilot 整合,實現零出站費用的 AI 儲存

Hugging Face 與 SkyPilot 已完成整合,讓 AI 工作負載可以在任何雲端供應商上執行,且在讀取儲存在 Hugging Face Hub 上的模型與數據集時,無需支付任何出站費用。

56

LeRobot v0.6.0 發佈說明 / 新功能

LeRobot v0.6.0 引入了世界模型策略、擴展的 VLA 模型庫、統一的獎勵模型 API,以及具有 DAgger 式人機協作修正功能的新部署 CLI。

57

PRX 數據策略:透過 VLM 重新標註與 Mosaic Streaming 擴展預訓練規模

Photoroom 詳細介紹了 PRX 的數據流水線,強調使用長篇 VLM 生成的標註、Lance 與 Mosaic Data Shards 的混合儲存策略,以及用於優化 7B 參數模型的高品質 JPEG 編碼。

58

Hugging Face Kernels 重大更新

Hugging Face 宣布其 Kernels 專案有重大更新,引入新的 kernel 儲存庫類型、受信任的發布者和程式碼簽署、改版的 CLI、更廣泛的框架支援,以及代理式 kernel 開發的基礎。

59

Hugging Face 與 Cerebras 即時語音 AI 使用 Gemma 4

Hugging Face 與 Cerebras 已開發出一個使用 Gemma 4 31B 的開放級聯語音到語音管線,以實現自然、低延遲的語音 AI 互動。

60

ScarfBench: 基準測試 AI 代理以進行企業 Java 框架遷移

IBM Research 推出 ScarfBench,一個開放的基準,用於評估 AI 代理遷移企業 Java 應用程式至 Spring、Jakarta EE 和 Quarkus 框架的能力。

61

為什麼專業化在 AI 系統中是不可避免的

根據 Goldfeder 等人在 2026 年的研究,專業化是 AI 效能的結構性必要條件,因為有限資源使得集中容量比廣泛通用性更有效。

62

Hugging Face 社群評估與 Every Eval Ever (EEE) 整合

Hugging Face 已將社群評估與 Every Eval Ever (EEE) 計畫整合,實現標準化評估結果的跨平台發布,並在模型頁面與詳細技術記錄之間建立直接連結。

63

DiScoFormer: 用於密度與分數的單一 Transformer,適用於各種分布

DiScoFormer 是一種新的基於 Transformer 的模型,能在單次前向傳遞中從一組資料點估計分布的密度與分數,且無需為新分布重新訓練。

64

Hugging Face Jobs: 使用單一指令部署 vLLM 伺服器

Hugging Face 現在允許使用者透過 HF Jobs 使用單一指令在其基礎設施上部署私人且與 OpenAI 相容的 vLLM 端點,提供適合測試、評估和批次生成的按秒計費替代方案。

65

NVIDIA NeMo AutoModel 加速 Mixture-of-Experts 模型的微調

NVIDIA NeMo AutoModel 透過在 Hugging Face Transformers v5 上加入 Expert Parallelism、DeepEP 與 TransformerEngine 核心,提供 3.4‑3.7 倍更高的訓練吞吐量與 29‑32% 更低的 GPU 記憶體使用量,以微調 Mixture-of-Experts 模型,且僅需一行 import 變更。

66

Hugging Face FFASR 排行榜:評測遠場 ASR

Hugging Face 與 Treble Technologies 推出了 FFASR 排行榜,這是首個開放的社群驅動基準,用於量化近場與遠場 Automatic Speech Recognition (ASR) 在真實聲學環境中的效能差距。

67

在 Transformers.js 中實驗 Cross-Origin Storage API

Hugging Face 展示了 Transformers.js 如何使用實驗性的 Cross-Origin Storage API 以雜湊方式快取模型和 Wasm 資源,從而消除跨來源的重複下載。

68

Hugging Face huggingface_hub 發布自動化

Hugging Face 透過實施使用開源工具和開放權重模型的 AI 驅動、人在迴圈中的 CI/CD 管道,將 huggingface_hub 的發布週期從 4-6 週轉換為每週一次。

69

PP-OCRv6 發布:支援 50 種語言的 OCR,參數量從 1.5M 到 34.5M

PaddlePaddle 發布了 PP-OCRv6,一個支援 50 種語言、參數量從 1.5M 到 34.5M 的可擴展 OCR 模型家族。

70

Hugging Face 本地模型於 OpenClaw PR 分類

Hugging Face 展示了如何將 Gemma 4 與 Qwen 3.6 等本地模型部署於代理式 harness 中,實現對 OpenClaw 倉庫的 GitHub issue 與 pull request 進行即時、零成本的分流。

71

MosaicLeaks:解決深度研究代理的隱私洩漏問題

Hugging Face 推出 MosaicLeaks 基準以及隱私感知深度研究(PA-DR)訓練方法,以防止研究代理透過外部網路查詢洩漏企業私密資料。

72

Hugging Face 在代理工具上的開放模型基準測試

Hugging Face 推出全新基準測試框架,用以評估不同模型規模與函式庫版本對程式碼代理使用軟體工具時的效率與成功率的影響。

73

Hugging Face PEFT:評估 LoRA 的替代方案

Hugging Face 對 PEFT 套件的基準測試顯示,雖然 LoRA 受到廣泛使用,但其他參數效率微調技術(如 OFT 與 Lily)在記憶體效率與測試準確度上,視任務而定,能夠超越 LoRA。

74

Strands Robots 與 LeRobot 整合:從 Hugging Face Hub 資料集到實體機器人部署

Hugging Face 宣布 Strands Robots SDK 與 LeRobot 的整合,讓使用者能錄製機器人示範、推送至 Hub、在模擬環境中執行策略,並只需更改一個參數即可將相同程式碼部署到實體 SO-101 機器人,同時透過基於 Zenoh 的網狀網路協調多台機器人。

75

GLM-5.2:為長期任務打造

GLM-5.2 由 Z.AI 在 Hugging Face 發布,具備堅實的 1M 令牌上下文、透過 IndexShare 與 MTP 改進的架構、努力層級控制,且在長期編碼基準測試中展現強大的開源表現。

76

代理資源發現 (ARD) 規範與 Hugging Face 實作

Hugging Face 已推出代理資源發現 (ARD) 規範的參考實作,這是一項開放標準,允許 AI 代理人在執行時動態搜尋並整合工具、技能與其他代理人。

77

在 PyTorch 中的效能分析(第 2 部分):從 nn.Linear 到融合的 MLP

Hugging Face 說明了如何透過分析 GPU kernel 融合、`torch.compile` 的影響,以及使用 `kernels` 函式庫的手工調校 kernel,來最佳化 PyTorch 中的多層感知器(MLP)。

78

Hugging Face Spaces agents.md 實現自動化 3D 多媒體管線

一個編碼代理透過串聯兩個現有的 Spaces,自動構建了一個展示巴黎古蹟 3D Gaussian splats 的靜態 Hugging Face Space,展示了 `agents.md` 如何將任何 Space 轉化為多媒體管線中可組合的構建模組。

79

將 GitHub CI 遷移至 Hugging Face Jobs

Hugging Face 提供一種在無伺服器 Hugging Face Jobs 基礎設施上執行 GitHub Actions 的方法,啟用 GPU 加速的 CI,並將 CPU 工作執行時間減少多達 30%。

80

OpenEnv: 標準化開源 AI 的代理人強化學習環境

Hugging Face 已將 OpenEnv 過渡為社群協調專案,以作為代理人強化學習環境的互操作層。

81

NVIDIA Nemotron 3.5 內容安全發佈

NVIDIA 發佈了 Nemotron 3.5 Content Safety,這是一個 4B 參數的多模態、多語言安全模型,具備自定義策略執行能力和可選的推理軌跡,適用於企業級 AI。

82

Hugging Face hf CLI 針對代理優化的重新設計,降低了 Token 使用量並提升了成功率

Hugging Face 宣布對 hf CLI 進行了針對代理優化的重新設計,這能為 Claude Code 和 Codex 等編碼代理減少高達 6 倍的 Token 使用量,並提高成功率。

83

直接偏好優化:超越聊天機器人

提供的來源材料是來自 Hugging Face 的 429 速率限制錯誤頁面,且不包含有關 Direct Preference Optimization 的任何技術內容。

84

Hugging Face 速率限制阻止訪問 'Adding MCP Tools to Reachy Mini' 貼文

Hugging Face 指向博客文章 'Adding MCP Tools to Reachy Mini' 的連結返回 429 速率限制錯誤,因此無法摘要任何內容。

85

Holo3.1: 快速 & 本地電腦使用代理

提供的 Holo3.1 來源材料因 429 速率限制錯誤而不可用,且未提供任何技術細節。

86

JetBrains Mellum2 發布

JetBrains 已宣布發布 Mellum2,一個 12B 的 Mixture-of-Experts(MoE)模型,然而提供的來源資料是一個錯誤頁面,未包含任何技術細節。

87

超越 LLM:為何可擴展的企業級 AI 採用取決於代理邏輯 – 摘要

由於無法擷取 Hugging Face 關於「Beyond LLMs: Why Scalable Enterprise AI Adoption Depends on Agent Logic」的文章,因此無法對其技術細節進行摘要。

88

PyTorch 性能分析:torch.profiler 初學者指南

Hugging Face 提供了完整的指南,說明如何使用 torch.profiler 來辨識瓶頸、了解 CPU-GPU 分派鏈,並分析 torch.compile 對 kernel 執行的影響。

89

Reachy Mini 本地語音後端整合

Hugging Face 已為 Reachy Mini 發布了一個本地語音轉語音管線,使機器人能夠使用級聯的 VAD、STT、LLM 和 TTS 堆疊完全在本地處理對話。

90

TRL 中的 Delta Weight Sync 實現極低頻寬的兆級參數模型訓練

Hugging Face 宣佈在 TRL 中推出 Delta Weight Sync 功能,該功能通過 Hugging Face Buckets 僅傳輸稀疏的權重變化,將非同步 RL 訓練中的權重同步頻寬降低了 100 倍以上,從而實現了無需共享集群的解耦訓練。

91

Hugging Face AI Agent 術語表:定義 Harness、Scaffold 與 Agent 架構

Hugging Face 為 AI Agent 提供了一套標準化詞彙,將 Agent 定義為模型 (model)、用於執行的 harness 以及用於定義行為的 scaffolding 的結合體。

92

OlmoEarth v1.1 版本說明 / 新功能

Hugging Face 與 AllenAI 已發布 OlmoEarth v1.1,這是一系列地球觀測模型,可將計算成本降低最高達 3倍,同時保持與 v1 相近的性能。

93

Ettin Reranker 系列 v1 版本說明

Hugging Face 發布了 Ettin Reranker 系列,六款參數從 17M 到 1B 的 CrossEncoder 重新排序模型,從 mxbai-rerank-large-v2 蒸餾而成,達到最先進的檢索重新排序品質與速度。

94

PaddleOCR 3.5 版本說明 / 新功能

PaddleOCR 3.5 引入 Hugging Face Transformers 作為支援的推論後端,讓 OCR 與文件解析模型能更順暢地整合到基於 PyTorch 的工作流程中。

95

Granite 多語言嵌入 R2 發布:開放 Apache 2.0 多語言嵌入,支援 32K 上下文

IBM Granite 發布了兩款 Apache 2.0 多語言嵌入模型——granite-embedding-97m-multilingual-r2(97M)和 granite-embedding-311m-multilingual-r2(311M)——支援 32K 令牌上下文、超過 200 種語言,且在 100M 以下模型中取得最高檢索分數。

96

在連續批次中解鎖非同步性

Hugging Face 示範了如何在連續批次中使用 CUDA 串流與事件讓 CPU 與 GPU 工作重疊,將 8B 模型產生 8K 令牌的 LLM 推論時間縮短約 22%。

97

在 AWS 上基礎模型訓練與推論的構建模組

Hugging Face 在 AWS 上闡述了一個四層架構框架——包括基礎設施、資源編排、機器學習軟體堆疊與可觀測性——以支援預訓練、後訓練與測試時計算的演變擴展規則。

98

vLLM V1 移植:確保強化學習中的後端正確性

ServiceNow AI 透過修正 logprob 語意、執行時預設值、權重更新路徑,並實作 fp32 lm_head,使 vLLM V0 與 V1 在 RL rollout 生成上達成等價。

99

Hugging Face 開放 ASR 排行榜:私有資料集以對抗 Benchmaxxing

Hugging Face 已將 Appen Inc. 與 DataoceanAI 的私有評估資料集加入 Open ASR Leaderboard,以防止測試集污染,並提供更具韌性的真實世界 ASR 效能衡量。

100

IBM Granite 4.1 LLMs 發行說明 / 技術概覽

IBM 已發布 Granite 4.1,這是一系列密集型、僅解碼器的 LLMs(3B、8B 和 30B),透過嚴謹的資料策劃和多階段強化學習管線來實現高效能。