✷ 封存 · 11 個實驗室 · 870 篇 dispatch
實驗室
不用每天手動刷十幾個官方部落格。OpenAI、Anthropic、DeepMind 等實驗室的一手發布，每篇都提煉出核心內容。
ScreenEnv 發布：部署全堆疊桌面代理程式
Hugging Face 已發布 ScreenEnv，一個 Python 函式庫，可在 Docker 容器中建立隔離的 Ubuntu 桌面環境，以測試與部署 GUI 代理程式。
Hugging Face 非同步機器人推論
Hugging Face 推出非同步機器人推論，將動作預測與執行解耦，減少機器人閒置時間，並在任務完成時間上提升至最高 2 倍。
Hugging Face Gradio MCP 伺服器整合
Hugging Face 已將 Model Context Protocol（MCP）整合至 Gradio（v5.28.0），使 Hugging Face Spaces 成為龐大的 MCP 伺服器庫，為 LLM 提供影像編輯與轉錄等新功能。
為 AMD MI300 創建自訂核心
Hugging Face 與 AMD 合作開發了針對 MI300X 的開源優化核心，顯著提升了 VLLM 中 Llama 3.1 405B 的 FP8 推理效能。
Reachy Mini：開源桌面機器人，用於 AI 開發
Hugging Face 與 Pollen Robotics 推出了 Reachy Mini，一款開源且可編程的桌面機器人，起價 $399，旨在用於人機互動與 AI 實驗。
Hugging Face 高效多模態資料管線
Hugging Face 推出一個五階段的多模態資料管線優化流程，採用平衡背包打包策略以減少 GPU 閒置時間與填充浪費。
SmolLM3 發布：多語言、長上下文 3B 推理模型
Hugging Face 發布了 SmolLM3，一款 3B 參數模型，表現優於 Llama-3.2-3B 與 Qwen2.5-3B，具備雙模式推理與 128k 上下文視窗。
Hugging Face 生產基礎設施警報策略
Hugging Face 針對 NAT 閘道吞吐量、日誌歸檔成功率以及 Kubernetes API 健康狀態採用專門的警報機制，以維持其生產環境的穩定性與成本效益。
NeurIPS 2025 E2LM 競賽：語言模型的早期訓練評估
Hugging Face 與合作夥伴宣布舉辦 E2LM 競賽，旨在開發能在 LLM 訓練早期階段偵測推理與科學知識訊號的基準。
使用 Sentence Transformers 訓練與微調稀疏嵌入模型
Hugging Face 提供一份使用 Sentence Transformers 程式庫訓練與微調稀疏嵌入模型的綜合指南，以提升混合搜尋與檢索效能。
NVIDIA Llama Nemotron Nano VL 發布
NVIDIA 已發布 Llama Nemotron Nano VL，一款 8B 視覺語言模型（VLM），針對高精度智慧文件處理與 OCR 任務進行了優化。
Gemma 3n 版本說明：本機多模態 AI
Google 的 Gemma 3n 現已在開源生態系統中提供，具備原生多模態（文字、影像、音訊、影片）以及為本地硬體執行而設計的記憶體效能優化架構。
SGLang Transformers 後端整合
SGLang 現在支援 Hugging Face transformers 作為後端，讓任何兼容 transformers 的模型都能在不需要原生 SGLang 支援的情況下執行高效能推論。
在消費者硬體上使用 QLoRA 微調 FLUX.1-dev
Hugging Face 示範了如何使用 QLoRA 與 diffusers 函式庫微調 FLUX.1-dev 模型，將單一消費者 GPU 的峰值 VRAM 使用量降低至 10 GB 以下。
Groq 與 Hugging Face 推理提供者的整合
Hugging Face 已將 Groq 加入支援的推理提供者，使用者可直接透過 Hub 使用 LPU 高速推理，支援 Llama 4 與 QWQ-32B 等模型。
優化大型語言模型效能：解決長提示阻塞與解碼延遲問題
Hugging Face 探討長提示如何阻塞請求佇列並放慢 token 生成，並提出請求平行預填與分離式預填作為降低延遲的解決方案。
Featherless AI 與 Hugging Face 推理提供者的整合
Hugging Face 已將 Featherless AI 加入為支援的推理提供者，讓使用者能以無伺服器方式存取龐大的開源文字與對話模型目錄。
Hugging Face Kernel Hub 發佈
Hugging Face 推出了 Kernel Hub，一個集中式倉庫，可直接在 Python 應用程式中載入預編譯、最佳化的計算核心，以加速 GPU 運算，無需本地編譯。
NVIDIA Isaac GR00T N1.5：LeRobot SO-101 手臂的後訓練
NVIDIA 已發布 Isaac GR00T N1.5，這是一個開放的基礎模型，用於類人機器人的推理與技能，且可針對特定機器人形態（如 LeRobot SO-101 手臂）進行後訓練。
Hugging Face 與 NVIDIA 推出訓練叢集即服務
Hugging Face 與 NVIDIA 已推出訓練叢集即服務，這項合作旨在為研究機構提供彈性、按需存取大型 NVIDIA GPU 叢集，以訓練基礎模型。
Hugging Face ScreenSuite 發布
Hugging Face 已發布 ScreenSuite，一個綜合性的 GUI 代理評估套件，統合了 13 個基準，用於評估視覺語言模型（VLM）在感知、定位與行動能力方面的表現。
nanoVLM 中的 KV 快取實作
Hugging Face 從頭在 nanoVLM 倉庫中實作了 KV 快取，使其視覺語言模型的生成速度提升了 38%。
在 Arm CPU 上的即時 AI 音訊生成
Arm 與 Hugging Face 展示了一款使用 Stable Audio Open 的個人音訊生成工具，能夠在即時、設備端為音樂製作工作流程創建音頻。
Holo1 與 Surfer-H：開源行動 VLM 用於 GUI 自動化
H Company 已發布 Holo1，一個旨在精確 GUI 定位的 Action Vision Language Model 系列，以及 Surfer-H，一個在真實任務中達到 92.2% 準確率且每項任務成本僅 $0.13 的模組化網路代理。
Hugging Face TRL：共同定位的 vLLM 以提升 GRPO 訓練效率
Hugging Face 在 TRL 中引入共同定位的 vLLM，使訓練與推論共享相同的 GPU，消除閒置時間並提升 GRPO 訓練期間的吞吐量。
SmolVLA：使用 Lerobot 社群資料訓練的高效能視覺-語言-動作模型
Hugging Face 推出 SmolVLA，一個緊湊的 450M 參數開源視覺-語言-動作模型，利用社群共享資料，在模擬與實際機器人任務上超越更大型的模型。
Hugging Face CodeAgents + 結構化：透過結構化生成提升代理可靠性
Hugging Face 的研究顯示，強制 CodeAgents 在結構化 JSON 格式中生成思考與程式碼，可透過消除解析錯誤與強制明確推理，使具備能力的模型平均提升 2–7 個百分點的效能。
Liger GRPO 與 TRL 整合
使用 Liger GRPO 損失函數搭配 DeepSpeed ZeRO-3 以及 Qwen2.5-0.5B-Instruct 模型於 bf16 時，使用者報告發現形狀不匹配錯誤。
Hugging Face 在 Python 中的 Tiny Agents
Hugging Face 在 Python 中推出了 Tiny Agents，一個由模型上下文協議（MCP）驅動的輕量級代理框架，允許大型語言模型以最少的程式碼與外部工具互動。
Dell Enterprise Hub 更新：本地部署 AI 模型與應用程式
Dell 與 Hugging Face 已更新 Dell Enterprise Hub，提供完整的最佳化模型套件與即時部署的 AI 應用程式，適用於 Dell AI 伺服器與 AI PC。
Falcon-H1：混合頭語言模型的效率與效能
Hugging Face 與 TII UAE 推出了 Falcon-H1，這是一個由六款開源混合頭模型（0.5B 至 34B）組成的系列，結合了 Transformer 注意力機制與 Mamba-2 狀態空間模型，以在降低記憶體需求與加快推理速度的同時實現高效能。
Falcon-Arabic：阿拉伯語言模型的突破
科技創新研究院（TII）已發布 Falcon-Arabic，一款 7B 參數模型，在一般知識、語法以及現代標準阿拉伯語與區域方言的推理方面，優於更大型的阿拉伯語大型語言模型。
nanoVLM：用於訓練視覺語言模型的極簡 PyTorch 工具包
Hugging Face 推出了 nanoVLM，這是一個輕量級、純 PyTorch 的工具包，旨在為初學者與研究者簡化視覺語言模型（VLM）的訓練與理解。
Hugging Face Diffusers 量化後端
Hugging Face Diffusers 整合了多種量化後端，包括 bitsandbytes、torchao、Quanto、GGUF 與 FP8 分層轉換，以減少大型擴散模型（如 FLUX.1-dev）的記憶體佔用。
Microsoft 與 Hugging Face 擴大在 Azure AI Foundry 的合作
Microsoft 與 Hugging Face 擴大了合作，將超過 10,000 個開源模型整合至 Azure AI Foundry，實現多樣化 AI 模態的安全企業級部署。
Falcon-Edge：強大、通用且可微調的 1.58 位元 LLM
Hugging Face 與 Falcon-LLM 團隊發布了 Falcon-Edge，這是一系列 1.58 位元（三元）語言模型，提供 1B 與 3B 參數規模，並透過全新的預訓練範式同時支援推論與微調。
Hugging Face Transformers：為生態系統互通性標準化模型定義
Hugging Face 正將 Transformers 函式庫定位為模型定義的核心樞紐，以確保任何受 Transformers 支援的架構自動與更廣泛的機器學習生態系統相容，包含推論引擎與訓練框架。
Hugging Face 與 Kaggle 的模型存取整合
Hugging Face 與 Kaggle 推出了一項整合，可提升 Hugging Face 模型在 Kaggle 筆記本與模型頁面中的可發現性與可用性。
Hugging Face 推理端點：快速 Whisper 轉錄
Hugging Face 在推理端點上推出了全新的 OpenAI Whisper 部署選項，提供高達 8 倍的轉錄速度提升，且不犧牲準確度。
Hugging Face 視覺語言模型 2025 更新
Hugging Face 提供了 2024-2025 年視覺語言模型（VLM）演變的全面概述，強調任意到任意架構、推理模型的趨勢，以及 Vision-Language-Action（VLA）模型在機器人領域的崛起。
LeRobot 社群資料集：打造機器人領域的 ImageNet
Hugging Face 正在推動一項社群驅動的計畫，透過 LeRobot 建立多元、開源的機器人資料集倉庫，以解決機器人策略的泛化挑戰。
使用 Gradio 建立 MCP 伺服器
Hugging Face 已將模型上下文協議（MCP）整合至 Gradio，使開發者只需更改一個參數，即可將 Python 函式轉換為 LLM 可存取的工具。
Qwen-3 對話模板分析
Qwen-3 模型引入了複雜的對話模板，可實現可選推理、透過滾動檢查點進行動態上下文管理，以及改進的工具參數序列化。
Intel AutoRound：先進的僅權重量化，適用於 LLM 與 VLM
Intel 推出了 AutoRound，一種僅權重的後訓練量化方法，利用有號梯度下降實現對 LLM 與 VLM 的高精度低位元量化（INT2-INT8）。
Llama Guard 4 與 Llama Prompt Guard 2 發布
Meta 已發布 Llama Guard 4，一個 12B 多模態安全模型，以及 Llama Prompt Guard 2，一系列用於偵測提示注入與越獄的分類器。
PipelineRL：透過即時權重更新優化大型語言模型強化學習
Hugging Face 與 ServiceNow Research 已開源 PipelineRL，這是一個使用即時權重更新的實驗性強化學習實作，旨在消除推論吞吐量與在策略資料收集之間的權衡。
Hugging Face 小型代理：用 50 行程式碼構建 MCP 驅動的代理
Hugging Face 示範如何使用模型上下文協議（MCP）與 InferenceClient 建構功能性 AI 代理，將核心代理邏輯簡化為一個簡單的 while 迴圈。
微調 olmOCR 以實現忠實的文件提取
TNG 已發布了微調版的 olmOCR-7B-0225-preview，保留了頁首與頁尾，使其適用於發票解析等商業應用。
優化 LLM 效能：預填與解碼的同時請求處理
Hugging Face（透過 TNG）說明，透過持續批次與分塊預填等策略管理 token 生成的預填與解碼階段，可優化 GPU 利用率，並將 token 吞吐量提升至最高 50%。
HELMET: 全方位評估長上下文語言模型
Hugging Face 與普林斯頓的研究人員推出了 HELMET，這是一個全面的基準測試，旨在以多樣化、可控且可靠的真實世界評估取代諸如針對乾草堆的測試等合成測試，用於長上下文語言模型。