201

TimeScope:長影片大型多模態模型理解的新基準

Hugging Face 推出 TimeScope,一個開源基準,透過在長度從 1 分鐘到 8 小時的內容中插入影片針頭,評估視覺語言模型的時間理解能力。

202

NVIDIA NIM 與 Hugging Face 的整合

NVIDIA 已將 NVIDIA NIM 擴展至支援超過 100,000 個 Hugging Face 上的 LLM,提供單一 Docker 容器,自動化模型分析、後端選擇與效能最佳化,以快速部署。

203

Arc 虛擬細胞挑戰簡介

Arc 虛擬細胞挑戰要求參賽者訓練模型,以預測透過 CRISPR 靜默基因對細胞轉錄組的影響,使用包含 30 萬筆單細胞 RNA 定序資料的資料集。

204

Gradio 5.38.0 MCP 伺服器改進

Gradio 5.38.0 版為其模型上下文協議(MCP)伺服器功能帶來五項重要更新,包含無縫本機檔案支援、即時進度通知以及自動化 OpenAPI 規格轉換。

205

Hugging Face FutureBench:評估 AI 代理在未來事件預測上的表現

Hugging Face 推出 FutureBench,一個透過要求 AI 代理預測未來現實事件來評估其推理與綜合能力的基準,從而有效避免資料污染。

206

Consilium:多LLM協作平台

Consilium 是一個多LLM平台,透過結構化的辯論與研究,使多個 AI 模型達成共識,並同時作為 Gradio 介面與 MCP 伺服器整合。

207

Ettin 套件:最先進的配對編碼器與解碼器

Hugging Face 推出 Ettin 套件,一組配對的僅編碼器與僅解碼器模型(參數量介於 17M 至 1B),在相同的資料與訓練流程下訓練,以提供對架構效能的受控比較。

208

Hugging Face Hub 從 Git LFS 遷移至 Xet

Hugging Face 已將 50 萬個倉庫與 20 PB 的資料從 Git LFS 遷移至 Xet,這是一個為 AI 工作負載而設計的內容可尋址儲存系統。

209

Kimina-Prover:在大型形式推理模型上應用測試時強化學習搜尋

Hugging Face 宣布推出 Kimina-Prover-72B,這是一款針對 Lean 4 的最先進定理證明模型,透過新穎的測試時強化學習(TTRL)搜尋框架,在 miniF2F 基準上達到 92.2% 的通過率。

210

建立 Hugging Face MCP 伺服器

Hugging Face 已發布官方的模型上下文協定(MCP)伺服器,讓 AI 助手能透過單一 URL 動態存取 Hugging Face Hub 與數千個基於 Gradio 的 AI 應用程式。

211

ScreenEnv 發布:部署全堆疊桌面代理程式

Hugging Face 已發布 ScreenEnv,一個 Python 函式庫,可在 Docker 容器中建立隔離的 Ubuntu 桌面環境,以測試與部署 GUI 代理程式。

212

Hugging Face 非同步機器人推論

Hugging Face 推出非同步機器人推論,將動作預測與執行解耦,減少機器人閒置時間,並在任務完成時間上提升至最高 2 倍。

213

Hugging Face Gradio MCP 伺服器整合

Hugging Face 已將 Model Context Protocol(MCP)整合至 Gradio(v5.28.0),使 Hugging Face Spaces 成為龐大的 MCP 伺服器庫,為 LLM 提供影像編輯與轉錄等新功能。

214

為 AMD MI300 創建自訂核心

Hugging Face 與 AMD 合作開發了針對 MI300X 的開源優化核心,顯著提升了 VLLM 中 Llama 3.1 405B 的 FP8 推理效能。

215

Reachy Mini:開源桌面機器人,用於 AI 開發

Hugging Face 與 Pollen Robotics 推出了 Reachy Mini,一款開源且可編程的桌面機器人,起價 $399,旨在用於人機互動與 AI 實驗。

216

Hugging Face 高效多模態資料管線

Hugging Face 推出一個五階段的多模態資料管線優化流程,採用平衡背包打包策略以減少 GPU 閒置時間與填充浪費。

217

SmolLM3 發布:多語言、長上下文 3B 推理模型

Hugging Face 發布了 SmolLM3,一款 3B 參數模型,表現優於 Llama-3.2-3B 與 Qwen2.5-3B,具備雙模式推理與 128k 上下文視窗。

218

Hugging Face 生產基礎設施警報策略

Hugging Face 針對 NAT 閘道吞吐量、日誌歸檔成功率以及 Kubernetes API 健康狀態採用專門的警報機制,以維持其生產環境的穩定性與成本效益。

219

NeurIPS 2025 E2LM 競賽:語言模型的早期訓練評估

Hugging Face 與合作夥伴宣布舉辦 E2LM 競賽,旨在開發能在 LLM 訓練早期階段偵測推理與科學知識訊號的基準。

220

使用 Sentence Transformers 訓練與微調稀疏嵌入模型

Hugging Face 提供一份使用 Sentence Transformers 程式庫訓練與微調稀疏嵌入模型的綜合指南,以提升混合搜尋與檢索效能。

221

NVIDIA Llama Nemotron Nano VL 發布

NVIDIA 已發布 Llama Nemotron Nano VL,一款 8B 視覺語言模型(VLM),針對高精度智慧文件處理與 OCR 任務進行了優化。

222

Gemma 3n 版本說明:本機多模態 AI

Google 的 Gemma 3n 現已在開源生態系統中提供,具備原生多模態(文字、影像、音訊、影片)以及為本地硬體執行而設計的記憶體效能優化架構。

223

SGLang Transformers 後端整合

SGLang 現在支援 Hugging Face transformers 作為後端,讓任何兼容 transformers 的模型都能在不需要原生 SGLang 支援的情況下執行高效能推論。

224

在消費者硬體上使用 QLoRA 微調 FLUX.1-dev

Hugging Face 示範了如何使用 QLoRA 與 diffusers 函式庫微調 FLUX.1-dev 模型,將單一消費者 GPU 的峰值 VRAM 使用量降低至 10 GB 以下。

225

Groq 與 Hugging Face 推理提供者的整合

Hugging Face 已將 Groq 加入支援的推理提供者,使用者可直接透過 Hub 使用 LPU 高速推理,支援 Llama 4 與 QWQ-32B 等模型。

226

優化大型語言模型效能:解決長提示阻塞與解碼延遲問題

Hugging Face 探討長提示如何阻塞請求佇列並放慢 token 生成,並提出請求平行預填與分離式預填作為降低延遲的解決方案。

227

Featherless AI 與 Hugging Face 推理提供者的整合

Hugging Face 已將 Featherless AI 加入為支援的推理提供者,讓使用者能以無伺服器方式存取龐大的開源文字與對話模型目錄。

228

Hugging Face Kernel Hub 發佈

Hugging Face 推出了 Kernel Hub,一個集中式倉庫,可直接在 Python 應用程式中載入預編譯、最佳化的計算核心,以加速 GPU 運算,無需本地編譯。

229

NVIDIA Isaac GR00T N1.5:LeRobot SO-101 手臂的後訓練

NVIDIA 已發布 Isaac GR00T N1.5,這是一個開放的基礎模型,用於類人機器人的推理與技能,且可針對特定機器人形態(如 LeRobot SO-101 手臂)進行後訓練。

230

Hugging Face 與 NVIDIA 推出訓練叢集即服務

Hugging Face 與 NVIDIA 已推出訓練叢集即服務,這項合作旨在為研究機構提供彈性、按需存取大型 NVIDIA GPU 叢集,以訓練基礎模型。

231

Hugging Face ScreenSuite 發布

Hugging Face 已發布 ScreenSuite,一個綜合性的 GUI 代理評估套件,統合了 13 個基準,用於評估視覺語言模型(VLM)在感知、定位與行動能力方面的表現。

232

nanoVLM 中的 KV 快取實作

Hugging Face 從頭在 nanoVLM 倉庫中實作了 KV 快取,使其視覺語言模型的生成速度提升了 38%。

233

在 Arm CPU 上的即時 AI 音訊生成

Arm 與 Hugging Face 展示了一款使用 Stable Audio Open 的個人音訊生成工具,能夠在即時、設備端為音樂製作工作流程創建音頻。

234

Holo1 與 Surfer-H:開源行動 VLM 用於 GUI 自動化

H Company 已發布 Holo1,一個旨在精確 GUI 定位的 Action Vision Language Model 系列,以及 Surfer-H,一個在真實任務中達到 92.2% 準確率且每項任務成本僅 $0.13 的模組化網路代理。

235

Hugging Face TRL:共同定位的 vLLM 以提升 GRPO 訓練效率

Hugging Face 在 TRL 中引入共同定位的 vLLM,使訓練與推論共享相同的 GPU,消除閒置時間並提升 GRPO 訓練期間的吞吐量。

236

SmolVLA:使用 Lerobot 社群資料訓練的高效能視覺-語言-動作模型

Hugging Face 推出 SmolVLA,一個緊湊的 450M 參數開源視覺-語言-動作模型,利用社群共享資料,在模擬與實際機器人任務上超越更大型的模型。

237

Hugging Face CodeAgents + 結構化:透過結構化生成提升代理可靠性

Hugging Face 的研究顯示,強制 CodeAgents 在結構化 JSON 格式中生成思考與程式碼,可透過消除解析錯誤與強制明確推理,使具備能力的模型平均提升 2–7 個百分點的效能。

238

Liger GRPO 與 TRL 整合

使用 Liger GRPO 損失函數搭配 DeepSpeed ZeRO-3 以及 Qwen2.5-0.5B-Instruct 模型於 bf16 時,使用者報告發現形狀不匹配錯誤。

239

Hugging Face 在 Python 中的 Tiny Agents

Hugging Face 在 Python 中推出了 Tiny Agents,一個由模型上下文協議(MCP)驅動的輕量級代理框架,允許大型語言模型以最少的程式碼與外部工具互動。

240

Dell Enterprise Hub 更新:本地部署 AI 模型與應用程式

Dell 與 Hugging Face 已更新 Dell Enterprise Hub,提供完整的最佳化模型套件與即時部署的 AI 應用程式,適用於 Dell AI 伺服器與 AI PC。

241

Falcon-H1:混合頭語言模型的效率與效能

Hugging Face 與 TII UAE 推出了 Falcon-H1,這是一個由六款開源混合頭模型(0.5B 至 34B)組成的系列,結合了 Transformer 注意力機制與 Mamba-2 狀態空間模型,以在降低記憶體需求與加快推理速度的同時實現高效能。

242

Falcon-Arabic:阿拉伯語言模型的突破

科技創新研究院(TII)已發布 Falcon-Arabic,一款 7B 參數模型,在一般知識、語法以及現代標準阿拉伯語與區域方言的推理方面,優於更大型的阿拉伯語大型語言模型。

243

nanoVLM:用於訓練視覺語言模型的極簡 PyTorch 工具包

Hugging Face 推出了 nanoVLM,這是一個輕量級、純 PyTorch 的工具包,旨在為初學者與研究者簡化視覺語言模型(VLM)的訓練與理解。

244

Hugging Face Diffusers 量化後端

Hugging Face Diffusers 整合了多種量化後端,包括 bitsandbytes、torchao、Quanto、GGUF 與 FP8 分層轉換,以減少大型擴散模型(如 FLUX.1-dev)的記憶體佔用。

245

Microsoft 與 Hugging Face 擴大在 Azure AI Foundry 的合作

Microsoft 與 Hugging Face 擴大了合作,將超過 10,000 個開源模型整合至 Azure AI Foundry,實現多樣化 AI 模態的安全企業級部署。

246

Falcon-Edge:強大、通用且可微調的 1.58 位元 LLM

Hugging Face 與 Falcon-LLM 團隊發布了 Falcon-Edge,這是一系列 1.58 位元(三元)語言模型,提供 1B 與 3B 參數規模,並透過全新的預訓練範式同時支援推論與微調。

247

Hugging Face Transformers:為生態系統互通性標準化模型定義

Hugging Face 正將 Transformers 函式庫定位為模型定義的核心樞紐,以確保任何受 Transformers 支援的架構自動與更廣泛的機器學習生態系統相容,包含推論引擎與訓練框架。

248

Hugging Face 與 Kaggle 的模型存取整合

Hugging Face 與 Kaggle 推出了一項整合,可提升 Hugging Face 模型在 Kaggle 筆記本與模型頁面中的可發現性與可用性。

249

Hugging Face 推理端點:快速 Whisper 轉錄

Hugging Face 在推理端點上推出了全新的 OpenAI Whisper 部署選項,提供高達 8 倍的轉錄速度提升,且不犧牲準確度。

250

Hugging Face 視覺語言模型 2025 更新

Hugging Face 提供了 2024-2025 年視覺語言模型(VLM)演變的全面概述,強調任意到任意架構、推理模型的趨勢,以及 Vision-Language-Action(VLA)模型在機器人領域的崛起。