251

LeRobot 社群資料集:打造機器人領域的 ImageNet

Hugging Face 正在推動一項社群驅動的計畫,透過 LeRobot 建立多元、開源的機器人資料集倉庫,以解決機器人策略的泛化挑戰。

252

使用 Gradio 建立 MCP 伺服器

Hugging Face 已將模型上下文協議(MCP)整合至 Gradio,使開發者只需更改一個參數,即可將 Python 函式轉換為 LLM 可存取的工具。

253

Intel AutoRound:先進的僅權重量化,適用於 LLM 與 VLM

Intel 推出了 AutoRound,一種僅權重的後訓練量化方法,利用有號梯度下降實現對 LLM 與 VLM 的高精度低位元量化(INT2-INT8)。

254

Llama Guard 4 與 Llama Prompt Guard 2 發布

Meta 已發布 Llama Guard 4,一個 12B 多模態安全模型,以及 Llama Prompt Guard 2,一系列用於偵測提示注入與越獄的分類器。

255

PipelineRL:透過即時權重更新優化大型語言模型強化學習

Hugging Face 與 ServiceNow Research 已開源 PipelineRL,這是一個使用即時權重更新的實驗性強化學習實作,旨在消除推論吞吐量與在策略資料收集之間的權衡。

256

Hugging Face 小型代理:用 50 行程式碼構建 MCP 驅動的代理

Hugging Face 示範如何使用模型上下文協議(MCP)與 InferenceClient 建構功能性 AI 代理,將核心代理邏輯簡化為一個簡單的 while 迴圈。

257

微調 olmOCR 以實現忠實的文件提取

TNG 已發布了微調版的 olmOCR-7B-0225-preview,保留了頁首與頁尾,使其適用於發票解析等商業應用。

258

優化 LLM 效能:預填與解碼的同時請求處理

Hugging Face(透過 TNG)說明,透過持續批次與分塊預填等策略管理 token 生成的預填與解碼階段,可優化 GPU 利用率,並將 token 吞吐量提升至最高 50%。

259

HELMET: 全方位評估長上下文語言模型

Hugging Face 與普林斯頓的研究人員推出了 HELMET,這是一個全面的基準測試,旨在以多樣化、可控且可靠的真實世界評估取代諸如針對乾草堆的測試等合成測試,用於長上下文語言模型。

260

Cohere 與 Hugging Face 推理提供者的整合

Hugging Face 已將 Cohere 添加為受支援的推理提供者,允許使用者直接在 Hub 上為各種 Cohere 與 Cohere Labs 模型執行無伺服器推理。

261

Gradio 框架概述:超越 UI 函式庫的能力

Hugging Face 詳細說明 Gradio 如何演變成一個提供通用 API 存取、伺服器端渲染以及專門的機器學習資源管理的完整 AI 專注框架。

262

Hugging Face 與 Protect AI 安全合作夥伴關係:六個月進度報告

Hugging Face 與 Protect AI 已掃描 4.47 百萬個模型版本,遍及 1.41 百萬個倉庫,識別出 352,000 個不安全或可疑問題,透過 Guardian 掃描技術提升開源 AI 的安全性。

263

Hugging Face 收購 Pollen Robotics 以擴展開源機器人硬體

Hugging Face 已收購 Pollen Robotics,將開源類人機器人硬體與 LeRobot 軟體生態系統整合,並從銷售 Reachy 2 機器人開始。

264

Visual Salamandra 7B 發布

Hugging Face 的語言技術實驗室已發布 Visual Salamandra,這是一個 70 億參數的多模態模型,擴展了 Salamandra 大型語言模型以支援圖像和影片,並聚焦於歐洲語言多樣性。

265

Hugging Face 與 Cloudflare FastRTC 整合

Hugging Face 與 Cloudflare 合作,為 FastRTC 開發者提供免費使用 Cloudflare 全球 TURN 伺服器網路的機會,簡化低延遲即時音訊與視訊 AI 應用的部署。

266

阿拉伯排行榜:阿拉伯指令遵循與 AraGen 更新

Hugging Face 與 Inception 宣布推出 Arabic-Leaderboards Space,提供首個公開的阿拉伯指令遵循(Arabic IFEval)基準測試,並更新了 AraGen-03-25 生成式排行榜。

267

Llama 4 Maverick 與 Scout 發布說明

Meta 已發布 Llama 4 Maverick 與 Llama 4 Scout,這兩款原生多模態的混合專家(MoE)模型具備 17B 的活躍參數,且上下文窗口可達 10M 令牌。

268

Gradio 100 萬使用者里程碑與開發哲學

Hugging Face 的 Gradio 已突破每月超過 100 萬開發者,透過優先使用低階原始元件而非高階抽象,並專注於機器學習領域,實現了快速成長。

269

Hugging Face NLP 課程轉型為 LLM 課程

Hugging Face 正將其 NLP 課程重新命名並擴展為 LLM 課程,以納入現代大型語言模型研究、微調與推理模型,同時保留傳統 NLP 基礎。

270

高效請求排隊以優化 LLM 效能

TNG Technology Consulting GmbH 提出一套策略,透過在上游 LLM-Server 中實作公平排程與基於指標的回壓機制,優化 LLM 效能,防止高使用者阻塞其他使用者的請求。

271

Hugging Face 機密管理擴展與 Infisical

Hugging Face 將機密管理遷移至 Infisical,以在多雲環境中集中管理機密,消除機密散落,並透過自動化的 Kubernetes 整合與 RBAC 提升安全性。

272

文本生成推理 (TGI) Intel Gaudi 整合

Hugging Face 已將 Intel Gaudi 硬體支援直接整合至文本生成推理 (TGI) 主程式碼庫,提供在 Intel AI 加速器上部署 LLM 的生產等級服務解決方案。

273

使用 Sentence Transformers 訓練與微調重新排序模型

Hugging Face 提供了透過 Sentence Transformers 訓練與微調 Cross Encoder 重新排序模型的完整指南與框架,以優化領域特定檢索效能。

274

Gradio Dataframe 更新:新功能與增強

Hugging Face 已更新 Gradio 中的 gr.Dataframe 元件,加入多儲存格選取、欄位固定、搜尋與篩選功能,以及提升的可及性。

275

Hugging Face 推理端點分析更新

Hugging Face 已更新其推理端點分析儀表板,加入即時指標、可自訂時間範圍以及詳細的副本生命週期檢視,以提升監控與除錯效能。

276

Open R1:在本機執行 OlympicCoder 7B 以進行程式編寫

Hugging Face 提供了一份指南,說明如何使用 LM Studio 與 Continue VS Code 擴充功能在本機部署 OlympicCoder 7B 模型,以達到在 LiveCodeBench 上可與 Claude 3.7 Sonnet 與 GPT-4o 競爭的程式編寫效能。

277

Hugging Face 回應白宮 AI 行動計畫資訊徵求

Hugging Face 主張開源與開放科學在 AI 發展中的根本角色,指出開放模型在效能與效率上正日益匹敵或超越封閉的商業系統。

278

NVIDIA GTC 2025 Physical AI 發布: Cosmos Transfer, Physical AI Dataset, 和 Isaac GR00T N1

NVIDIA 已發布 Cosmos Transfer 用於可控世界場景生成,一個 15TB Physical AI Dataset,以及 Isaac GR00T N1,這是首個用於通用類人機器人推理的開放基礎模型。

279

Hugging Face Xet 儲存整合

Hugging Face 已開始將儲存庫從 LFS 遷移至 Xet 儲存,利用內容定義分塊顯著減少大型 AI 模型與資料集的上傳與下載時間。

280

Gemma 3 版本說明 / 新功能

Google 已發布 Gemma 3,這是一個多模態、多語言的開放權重 LLM 家族,參數規模從 1B 到 27B,上下文視窗可達 128k 個 token。

281

LeRobot L2D: 世界最大的開源自駕數據集

Hugging Face 和 Yaak 已發布 Learning to Drive (L2D),一個多模態自駕數據集,包含來自 30 個德國城市的超過 5,000 小時駕駛數據,以實現端到端的空間智能訓練。

282

邊緣 LLM 推理:透過 React Native 執行本地 LLM

Hugging Face 提供一份全面指南,使用 React Native 和 llama.rn 在 Android 和 iOS 上本地運行量化的 GGUF 模型,以構建注重隱私的移動應用程式。

283

Aya Vision: 以 8B 與 32B 模型推進多語言多模態

Cohere For AI 已發布 Aya Vision,一系列支援 23 種語言的開放權重視覺語言模型(8B 與 32B),在多語言多模態任務中優於更大的模型。

284

Hugging Face 與 JFrog 合作以提升 AI 模型安全性

Hugging Face 已將 JFrog 的掃描器整合到 Hugging Face Hub,以減少誤報並偵測模型權重中各種序列化格式內的惡意程式碼。

285

Hugging Face 與 IISc 合作開源 Vaani 資料集

Hugging Face 已與印度科學學院(IISc)和 ARTPARK 合作,提供全球存取 Vaani 的途徑,Vaani 是一個龐大的多模態、多語言資料集,旨在代表印度的語言多樣性。

286

FastRTC:Python 即時通訊函式庫

Hugging Face 發布了 FastRTC,這是一個 Python 函式庫,旨在透過處理 WebRTC 與 WebSocket 通訊層,簡化即時音訊與視訊 AI 應用程式的開發。

287

Hugging Face 遠端 VAEs 用於推理端點

Hugging Face 推出了一項實驗功能,將 VAE 解碼過程委派給遠端端點,以降低在消費級 GPU 上進行高解析度圖像和影像合成所需的 VRAM 需求。

288

SigLIP 2 版本說明 / 新功能

Google 已發布 SigLIP 2,這是一系列多語言視覺-語言編碼器,在零樣本分類、圖像-文本檢索以及 VLM 轉移性能方面,在所有規模上都優於原始 SigLIP。

289

SmolVLM2: 讓每台設備都能理解影片

Hugging Face 已發布 SmolVLM2,這是一系列高效的視覺與影片語言模型,參數規模為 2.2B、500M 和 256M,旨在讓從手機到伺服器的設備能夠在本地進行影片理解。

290

PaliGemma 2 Mix 發布說明

Google 已發布 PaliGemma 2 mix,一系列在包括 OCR、字幕生成和物體偵測等多樣化任務上進行微調的視覺語言模型,以展示 PaliGemma 2 預訓練檢查點的潛力。

291

Hugging Face 新增 Hyperbolic、Nebius AI Studio 與 Novita 作為無伺服器推理提供者

Hugging Face 已將 Hyperbolic、Nebius AI Studio 與 Novita 整合為無伺服器推理提供者,透過 Hub 和用戶端 SDK 直接擴展對 DeepSeek-R1 和 FLUX.1 等模型的存取。

292

Hugging Face Open LLM Leaderboard 更新:整合 Math-Verify 以改進數學評估

Hugging Face 使用 Math-Verify 在 Open LLM Leaderboard 上重新評估了 3,751 個模型,以修復解析錯誤和格式嚴格性,導致 MATH-Hard 排名顯著重新排列。

293

Hugging Face 將 Fireworks.ai 整合為推理提供者

Hugging Face 已將 Fireworks.ai 添加為 Hub 上支援的推理提供者,使得像 DeepSeek-R1 和 Llama-3.2-90B-Vision-Instruct 這樣的模型能夠在 HF 生態系統中進行無伺服器推理。

294

Hugging Face: 優化 10 億次分類的成本與延遲

Hugging Face 提供了一個框架和基準,用於降低大規模編碼器模型推理的成本,表明 NVIDIA L4 GPU 和優化的批次大小可以以低至 253.82 美元處理 10 億次文本分類。

295

Hugging Face 影片資料集腳本

Hugging Face 推出了ชุด開源影片資料集腳本,旨在簡化用於微調影片生成模型的高品質、經過過濾的資料集建立過程。

296

Hugging Face Xet支援的儲存庫:透過區塊層級聚合加速 Hub 傳輸

Hugging Face 正在推出一個基於區塊的去重複系統,使用 xet-core 和 hf_xet,透過區塊層級聚合將上傳和下載速度提升 2-3 倍。

297

Open R1 更新 #2:OpenR1-Math-220k 數據集與推理見解

Hugging Face 推出 OpenR1-Math-220k,這是一個大規模的數學推理數據集,旨在重建 DeepSeek R1 的蒸餾管道,同時分享社區對 GRPO 和 Chain-of-Thought 長度控制的見解。

298

開放阿拉伯語 LLM 排行榜 2

Hugging Face 與其合作夥伴已發布開放阿拉伯語 LLM 排行榜 2(OALL v2),使用本地阿拉伯語數據集和新的 RAG 評估框架取代飽和及機器翻譯的基準測試,以更準確地衡量阿拉伯語語言能力。

299

DABStep: 多步驟推理的數據代理基準

Hugging Face 與 Adyen 已推出 DABStep,這是一個包含超過 450 個真實世界數據分析任務的基準,揭示當前最先進的 AI 代理在複雜推理任務上的準確率僅為 16%。

300

pi0 和 pi0-FAST:視覺-語言-動作模型,適用於一般機器人控制

Hugging Face 已將由 Physical Intelligence 開發的通用視覺-語言-動作 (VLA) 模型 pi0 和 pi0-FAST 整合到 LeRobot 儲存庫,以實現跨多種具體形態的多樣化機器人控制。